Geoffrey Hinton es uno de los grandes pioneros en inteligencia artificial (IA), ya que fue artífice en la investigación del deep learning o red neuronal, por el cual las máquinas son capaces de aprender de su propia experiencia.
Sin embargo, este lunes Hinton durante una entrevista con el The New York Times, confirmó su renuncia a Google para alertar sobre los peligros del desarrollo de productos de consumo basados en IA generativa.
Hinton trabajó por más de 10 años en la empresa tecnológica de Mountain View tras la compra de su empresa DNNresearch, la cual desarrolló los principios fundamentales para el desarrollo de modelos de arte generativo presentes en IA como Stable Diffusion y MidJourney.
Años más tarde fue responsable de fijar las bases para el perfeccionamiento de datos de OpenAI, responsable del chatbot GPT-4, una IA más potente que ChatGPT, tenga la capacidad de interactuar o generar imágenes.
Hinton compartió sus temores con respecto al desarrollo de una tecnología que funciona mejor que el cerebro humano y que nadie tiene garantías de cómo podrá mantenerse bajo control.
A su juicio, el ritmo de avances de la IA es mucho más de lo que habían previsto. «Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho alguien más”, lamentó el informático británico de 75 años.
El giro de 180° de Hilton es un evento notable en el sector tecnológico que enfrenta el punto de inflexión más importante en décadas. Los ejecutivos de las empresas del sector afirman que los nuevos sistemas de IA podrán ser tan trascendentales en el mundo como la masificación del internet a mediados de los noventa.
Esto desencadenaría un avance desde el desarrollo de medicamentos hasta la educación sin precedentes. No obstante, hay críticos que afirman que la no regularización de los programas basados en IA podría ser peligroso para la humanidad.
De hecho, la IA generativa ya está siendo una herramienta de desinformación. «Ya no seremos capaces de saber qué es verdad», aseveró Hilton.
Dijo estar convencido de que a medida que las empresas mejoran su IA, los sistemas se vuelven cada vez más peligrosos. «Mira cómo era hace cinco años y cómo es ahora», subrayó. «Toma la diferencia y proyéctala hacia adelante. Es atemorizante».
Hilton aseveró que Google actuó de forma responsable de la IA hasta el año pasado, precisando que la empresa no lanzó el producto para tener un efecto contrario a sus principios, sin embargo, desde Microsoft extendió su motor de búsqueda Bing con un chatbot, se desató una carrera entre los gigantes tecnológicos.
Una carrera que «podría ser imposible de detener», puntualizó.
