Inteligencia artificial en '2001: Una odisea del espacio': cuando el padre de la 'Singularidad' creó el primer computador asesino

Inteligencia artificial en '2001: Una odisea del espacio': cuando el padre de la 'Singularidad' creó el primer computador asesino

Arthur C. Clarke publicó su relato "El centinela" en 1951, el mismo año en que apareció en el mercado su primera novela ('Las arenas de Marte'). Lo había escrito 3 años antes, con el objetivo de participar en un concurso literario de la BBC.

El argumento era simple: una expedición rutinaria al Mare Crisium de la Luna descubre una estructura translúcida piramidal, inconfundiblemente labrada por una mano inteligente.

El descubridor termina narrando a los lectores que la estructura fue erigida antes de que apareciera la vida en nuestro planeta, por seres ajenos a nuestro Sistema Solar, con el mero objetivo de dar el aviso a sus constructores cuando alguna especie terrestre fuera capaz de surcar las estrellas.

Cuando Arthur conoció a Stanley

Aunque 'El centinela' no tuvo, inicialmente, demasiada repercusión, la carrera de Clarke cambió gracias a él. Una joven promesa de Hollywood, que se había estrenado profesionalmente ese mismo año, se acercó a Clarke con una propuesta: hacer una película sobre "la relación entre el hombre y el universo".

El escritor le remitió un puñado de relatos suyos para saber cuál preferiría adaptar. El relato era 'El centinela'. La joven promesa de Hollywood se llamaba Stanley Kubrick. Y la película era, por supuesto, '2001: Una odisea del espacio'.

Con el tiempo, el guión terminaría incorporando muchos elementos nuevos. Por ejemplo, la primera parte de la película, que refleja la aparición de los primeros simios 'inteligentes' (y del primer monolito), se inspiró en otro relato de Clarke ('Encuentro en el amanecer').

El segundo acto de la película se basa en 'El centinela'. Pero el tercer y cuarto actos, que transcurren en la órbita joviana o de camino a la misma, fueron un añadido específico para la película, realizado por el trabajo conjunto entre escritor y director.

Y es el tercer acto, precisamente, el único que nos interesa para este artículo, por ser el único que muestra inteligencia artificial.

Irving John Good, el 'padre' de HAL

Una vez que Kubrick emprendió el proyecto de rodar '2001', decidió buscar asesoramiento para representar del modo más verosímil posible a uno de los grandes personajes creados ex profeso para la película: el superordenador HAL. Para ello se fue hasta Oxford para contratar como asesor a un profesor de matemáticas llamado Irving John Good.

¿Qué experiencia podía ofrecer Good a la película? Pues no poca cosa: dos décadas antes, Good había sido uno de los más cercanos colaboradores de Alan Turing a la hora de romper el código criptográfico nazi Enigma (sí, aparece en 'Imitation Game', interpretado por James Northcote). Se dice que sus cálculos acortaron varios meses la guerra.

Después de eso siguió colaborando un tiempo con Turing, introduciéndose en el estudio de la inteligencia artificial. Precisamente en 1965, mientras el guión de la película empezaba a tomar forma y la tercera generación de computadoras se abría paso, I. J. Good publicó dos de las obras fundacionales de este campo, "Especulaciones sobre la primera máquina ultrainteligente" y "La lógica del hombre y la máquina".

En ellas, Good presenta el concepto de "explosión de inteligencia", un teoría en base a la cual si las máquinas pudieran llegaran a superar el intelecto humano, podrían repetir el proceso creando máquinas aún más inteligentes que ellas mismas, produciendo una escalada exponencial de la inteligencia artificial.

Good propone, de este modo, una de las primeras formulaciones de la Singularidad, y avisa de que la primera máquina capaz de alcanzar nuestro nivel sería nuestro último invento como especie:

"Una máquina ultrainteligente se puede definir como una que supera todas las actividades intelectuales de cualquier persona ingeniosa. Ya que el diseño de estas máquinas representa una de estas actividades intelectuales se puede considerar que una máquina ultrainteligente es capaz de diseñar máquinas incluso mejores; entonces se produciría indudablemente una ‘explosión de inteligencia’ y la inteligencia del hombre quedaría atrás".

Sin embargo, '2001' no aborda en modo alguno la 'explosión de inteligencia'. Opta, por el contrario, por una trama que entonces resultaba novedosa, pero que en las décadas siguientes se ha explorado (explotado) millones de veces: la IA que se rebela y/o enloquece, volviéndose contra su creador.

Esta inteligencia artificial (o 'inteligencia mecánica', según recoge el guión de la película) es el ya mencionado 'HAL'. Dentro de la ficción, su nombre es un mero acrónimo de 'Heuristically programmed ALgorithmic computer' (Computador algorítmico programado heurísticamente), pero en realidad es una referencia velada al gigante de la computación de aquella época: IBM (basta con desplazar un puesto en el abecedario sus siglas para obtener 'HAL').

"Tengo miedo, David"

HAL 9000

En la película, el único 'rostro' de HAL son las cámaras de brillo rojizo, cámaras fabricadas por Nikon y repartidas por toda la nave (la Discovery One, aparentemente destinada a ser la primera que explore el mayor planeta del Sistema Solar, Júpiter).

La primera vez que le vemos, HAL está respondiendo, junto al capitán de la misión (David Bowman) y al ayudante de éste, a las preguntas de un presentador de TV que les entrevista desde la Tierra:

"—Al sexto tripulante no le preocupaban los problemas de la hibernación, porque él es lo último en inteligencia artificial: el ordenador HAL 9000, que puede reproducir —aunque algunos expertos prefieren la palabra "imitar"— la mayoría de las actividades del cerebro humano y con mucha más rapidez y fiabilidad. [...] Hola, HAL, ¿cómo va todo?

— Buenas tardes, Sr. Amer. Todo va perfectamente".

Las siguientes preguntas de la entrevista nos explican que la Serie 9000 es la clase de computador más fiable jamás construida, pues ningún ejemplar de la misma "se ha equivocado ni ha distorsionado información. [...] Todos somos, bajo cualquier definición, infalibles e incapaces de cometer ningún error".

Una útil característica, dado que también se le describe como "el cerebro y el sistema nervioso de la nave". Todo empieza a ir mal cuando, en mitad de una conversación, HAL le dice a Bowman "Por cierto, ¿le importa si le hago una pregunta particular? Bien, perdóneme si soy indiscreto, pero en las últimas semanas, me he preguntado si ustedes no tendrían otra idea acerca de la misión".

Esa conversación terminará bruscamente cuando HAL notifique al capitán Bowman la detección de una avería. Más tarde, el Control de Misión avisará a los astronautas de algo inconcebible:

"Os avisamos que nuestros resultados preliminares indican que vuestro ordenador 9000 se equivoca en la predicción del fallo. Repito, se equivoca en la predicción del fallo".

"Sé que suena increíble, pero esta conclusión se basa en los resultados de nuestro ordenador gemelo 9000".

Por supuesto, HAL ha estado escuchando esa transmisión. "Sólo puede deberse a un error humano", explica tranquilamente HAL. A partir de ese momento, todo se precipita: Bowman y su ayudante deciden desconectar a HAL, y éste responde intentando matarlos y anulando el soporte vital del resto de la tripulación, que permanecía en hibernación.

Al final, sólo queda en pie David Bowman, quien se abre paso hasta el mecánico cerebro de HAL en una escena que ya ha pasado a la historia del cine:

Es entonces cuando Bowman procede a 'matar' a HAL, retirando una a una sus 'unidades de memoria', lo cual hace que el computador vaya sufriendo una involución, que en primer lugar le hace retrotraerse hasta el 12 de enero de 1992 (el día de su primer encendido), y más tarde le despoja de todo atisbo de lógica. Es en ese momento cuando empieza a tararear una canción popular estadounidense llamdaa 'Daisy Bell'.

La canción no está escogida al azar: Arthur C. Clarke fue uno de los asistentes, en 1961, a la primera demostración de síntesis de voz por parte de un ordenador, un IBM 704. La canción elegida para tan especial acontecimiento fue, claro, 'Daisy Bell'.

Tras eso, HAL es definitivamente desconectado. Y entonces, de manera automática, empieza a reproducirse un vídeo que los astronautas deberían haber visualizado una vez llegados a su destino en la órbita de Júpiter, y que hasta ahora sólo HAL conocía: un vídeo que desvela a la tripulación las pruebas de inteligencia alienígena (y, con ella, su misión real).

Este vídeo es importante para comprender las motivaciones de HAL para actuar como actúa, puesto que éstas no se precisan en la película.

Una vez leída la saga de novelas, queda claro que todo se debió a un conflicto entre su programación (la serie 9000 estaba diseñada para "el procesamiento exacto de la información sin ocultamiento ni distorsión") y las órdenes dadas por el Control de la Misión (de no desvelar la existencia de inteligencia alienígena hasta que hubieran llegado a Júpiter).

Fue el conflicto generado en HAL a causa de las órdenes humanas lo que llevó a que intentara matar a la tripulación para no tener que seguir ocultándoles la información.

¿La IA actual está al nivel de HAL?

Esta computadora, co-protagonista del tercer acto de la película, es un ejemplo de lo que llamamos IA Fuerte, hoy aún inexistente pero que a finales de los 60 estaban convencidos de que habríamos conseguido desarrollar antes del cambio de siglo.

En noviembre de 2018, un equipo de científicos de TRACLabs publicaban la investigación que habían llevado a cabo para desarrollar una IA basada en HAL: CASE (Cognitive Architecture for Space Agents).

"A mediados de los años 80 mis colegas y yo queríamos desarrollar un software que razonara. Por supuesto todos conocíamos las películas de ciencia ficción por lo que aspirábamos a crear una especie de HAL", explica en una entrevista el investigador principal, Peter Bonasso.

"En 1997 creamos una arquitectura de software de agente llamada 3T capaz de gobernar una nave espacial y que también se podía emplear en robots. Le hemos ido añadiendo nuevas funcionalidades como la ontología (red que define las relaciones existentes entre los conceptos de un dominio) y un sistema de gestión de diálogos (una enorme base de datos con la que el sistema puede razonar)".

"Todo esto ya forma parte del agente CASE. A principios de la década 2000 alojamos a nuestro agente 3T en un laboratorio de recuperación de agua para gestionar cuatro sistemas de soporte vital. Funcionó de manera autónoma durante más de un año. Es quizá lo más cerca que hemos estado nunca a tener un agente HAL".

Durante la película, HAL hace gala de toda una serie de capacidades que superaban de lejos las de los computadores de las naves espaciales del programa Apolo (las contemporáneas al estreno de la película, realizado en 1968). Así, le vemos -por ejemplo- jugando al ajedrez con Bowman, conversando con los astronautas, leyéndoles los labios, etc.

Pero ninguna de estas funciones son replicadas por CASE. Así que, ¿cómo de factible sería construir a HAL a día de hoy?

Jugar al ajedrez

La IA lleva mucho tiempo jugando al ajedrez. Deep Blue batió a un humano, Garry Kasparov, en 1997, gracias a una enorme cantidad de reglas programadas por humanos. Hace unos meses, AlphaZero fue capaz de batir a Stockfish (un software similar a Deep Blue) gracias al aprendizaje por refuerzo. Podemos afirmar que este aspecto de HAL es 100% factible hoy en día.

Empatizar

"Mire, Dave, veo que esto le molesta mucho", le dice HAL a Bowman en cierto momento de la película (con 'esto' se refiere a la actitud homicida de HAL). En este y en otros momento de la película, HAL demuestra ser capaz de analizar e identificar las emociones de los humanos.

De hecho, en sus últimos momentos, se diría que HAL es capaz de sentir dichas emociones ("Tengo miedo, David", afirma ante la perspectiva de la desconexión). Se están haciendo progresos en este campo, pero lo que muestra la película no es aún factible.

Conversar

HAL demuestra ser capaz de comprender tanto el habla como el lenguaje humanos, así como de producir habla. En este último punto, los avances logrados hasta ahora permiten replicar la voz humana de manera casi perfecta.

Pero en materia de comprensión del lenguaje, pese a todo lo que se ha avanzado en los últimos años, sigue siendo imposible el nivel de naturalidad mostrado por HAL: hoy en día la IA no es capaz de captar todos los matices y complejidad del lenguaje humanos.

Leer los labios

El momento en que HAL lee los labios a los tripulantes resulta ser clave en la trama de la película. Investigadores de Oxford desarrollaron hace dos años un algoritmo capaz de leer los labios, pero que sólo es efectivo bajo condiciones muy concretas. No sería de mucha ayuda cuando la imagen captada está de lado y poco iluminada, como en la película.

De nuevo, estamos cerca, pero HAL sigue por delante de nosotros.

También te recomendamos

OpenAI dice haber creado una inteligencia artificial capaz de escribir 'deep fakes' de texto pero se niega a difundirla

¡Dulces sueños! Tecnología para dormir mejor

Científicos contra los perfiles falsos en las webs de citas: crean algoritmos para detectarlos y salvar así tu Día de San Valentín

-
La noticia Inteligencia artificial en '2001: Una odisea del espacio': cuando el padre de la 'Singularidad' creó el primer computador asesino fue publicada originalmente en Xataka por Marcos Merino .




Fuente: Xataka
Enlace: Inteligencia artificial en '2001: Una odisea del espacio': cuando el padre de la 'Singularidad' creó el primer computador asesino

Comentarios