El "padrino de la IA" deja Google con arrepentimiento sobre el trabajo de su vida y muestra preocupación sobre sus riesgos

El

Durante los últimos años hemos visto impresionantes avances en el campo de la inteligencia artificial. Sin embargo, no ha sido hasta hace un par de años cuando muchos de nosotros nos hemos empezado a interesar mucho más sobre las capacidades que alberga. 2022 fue un año para recordar en este sentido, pues fue cuando conocimos de la existencia de herramientas tales como DALL-E 2, Stable Diffusion o Midjourney, entre otras, para la generación de imágenes mediante IA, o ChatGPT, el conocido chatbot de OpenAI que cada vez nos sorprende más con sus respuestas.

No obstante, el hecho de esta notable crecida en el interés por la inteligencia artificial también ha dado lugar a pensar acerca de sus peligros, pues no son pocos los que la consideran como un arma de doble filo y alejarla de aquellos que quieran utilizarla para causar daño es muy complicado. Ante esto mucho tiene que decir Geoffrey Hinton, considerado para muchos como "el padrino de la IA", y que recientemente dejó su puesto en Google con "arrepentiemiento" y "miedo" sobre el trabajo de su vida.

Geoffrey Hinton augura un futuro preocupante con la IA

Hinton ha sido una de las personas que más han aportado en el campo de la inteligencia artificial en los últimos años. Fue galardonado en 2018 junto a otras personas con el Premio Turing por la labor que ha dado lugar a muchas de las capacidades que la inteligencia artificial alberga hoy por hoy. Además, también ganó el Premio Nobel de computación por su pionero trabajo en las redes neuronales.

En una reciente entrevista para el New York Times, Geoffrey Hinton asegura que parte de él se arrepiente por su trabajo. De hecho, hace tan solo unos días sorprendía dejando Google con el objetivo de hablar sobre los riesgos de la IA de forma totalmente independiente y libre.

"Me consuelo con la excusa normal: si yo no lo hubiera hecho, otro lo habría hecho. Es difícil ver cómo puedes evitar que los malhechores la utilicen para cosas malas".
Tweet By Geoffrey Hinton

Hinton llevaba trabajando en Google durante más de una década. Sin embargo, durante el mes pasado anunció su dimisión a la compañía. Tuvo una conversación cara a cara con Sundar Pichai, CEO de Google, según el New York Times. Sin embargo, los detalles de esta no se han desvelado.

Google adquirió la empresa que comenzaron Hinton y dos alumnos suyos, de los cuales uno de ellos pasó a formar parte en OpenAI como científico jefe. Hinton y sus estudiantes desarrollaron una red neuronal que aprendía de forma independiente a identificar objetos comunes como perros, gatos y flores, tras analizar miles de fotografías. Parte de este trabajo sirvió para la creación de inteligencias artificiales como ChatGPT o Google Bard.

Que Microsoft estrenara Bing con ChatGPT fue un duro golpe para Google, hasta tal punto que su propio CEO alertaba a sus empleados con un "código rojo". Hinton comenta en la entrevista que esa competencia era imposible de parar y que esto acabaría resultando en un mundo con tanta fotografía falsa y texto que "nadie podría identificar lo que es verdad nunca más".

"La idea de que esto pudiera llegar a ser más inteligente que las personas, unos pocos lo creyeron. Pero la mayoría de la gente pensaba que estaba muy lejos de la realidad. Y yo también. Pensaba que faltaban de 30 a 50 años o incluso más. Obviamente, ya no pienso eso".

Para clarificar los posibles malentendidos que la entrevista pudieran dar lugar, el propio Hinton escribía un tuit asegurando que se fue de Google para hablar de los riesgos de la IA sin considerar el impacto de estas palabras hacia su empresa. También comenta que hasta el momento Google ha actuado de forma "muy responsable".

Para Hinton, la desinformación es una de sus principales preocupaciones. De hecho, considera que a largo plazo la inteligencia artificial eliminaría aquellos trabajos que dependen de la repetición. En un espectro mucho más pesimista, también comenta que hasta la humanidad podría ser eliminada cuando la IA empiece a escribir y ejecutar su propio código.

Imagen | The Quint

Vía | The Verge

En Genbeta | Adiós a las fuentes "secretas": Europa quiere proteger los derechos de autor de inteligencias artificiales como ChatGPT y ya sabe cómo

-
La noticia El "padrino de la IA" deja Google con arrepentimiento sobre el trabajo de su vida y muestra preocupación sobre sus riesgos fue publicada originalmente en Genbeta por Antonio Vallejo .




Fuente: Ganbeta
Enlace: El "padrino de la IA" deja Google con arrepentimiento sobre el trabajo de su vida y muestra preocupación sobre sus riesgos

Comentarios