Facebook debió apagar una IA que había creado su propio lenguaje



La empresa decidió apagar el sistema antes de perder el control absoluto

Hace unos días, la división de desarrollo de inteligencia artificial de Facebook creó un sistema dedicado a las negociaciones. Sin embargo, luego de comenzadas las primeras pruebas, la empresa debió apagarlo.Descubrieron que el sistema había comenzado a conversar en un lenguaje extraño, que a simple vista parecía un inglés incoherente. Sin embargo, al analizarlo descubrieron que no se trataba de ningún error. La inteligencia artificial había generado su propio lenguaje.Los creadores querían probar cómo un sistema de inteligencia artificial podía aprender a negociar, por lo cual generaron a dos agentes llamados Bob y Alice.A poco tiempo de comenzadas las pruebas, notaron que Bob y Alice se comunicaban mediante palabras aleatorias y, aparentemente, sin sentido. Pero, al estudiar estos diálogos, los desarrolladores encontraron un patrón.Increíblemente, la inteligencia artificial había creado un idioma propio, mucho más directo y efectivo que el inglés, con más lógica y menos "adornos" que un idioma humano.Obviamente, el hecho de que el sistema decida ignorar el idioma que le fue programado es un enorme riesgo puesto que, potencialmente, podría ocurrir que en un futuro sea imposible comunicarse con la inteligencia artificial, lo que significaría la pérdida absoluta de control sobre ella.Por este motivo, Facebook debió apagar este sistema y se propone trabajar en soluciones para volver a intentarlo.Curiosamente, hace pocos días el presidente de la empresa, Mark Zuckerberg, criticó la visión de Elon Musk, quien considera necesario regular la industria de la inteligencia artificial "antes de que sea demasiado tarde".Zuckerberg calificó de "apocalíptica" e "irresponsable" la visión de su colega, puesto que entiende que las medidas reguladoras "frenarán el desarrollo de la inteligencia artificial".




Fuente: www.elmundo.com.ve
Enlace: Facebook debió apagar una IA que había creado su propio lenguaje

Comentarios