IA, te encargamos el planeta: reflexión sobre la coexistencia entre humanos e inteligencia artificial

'B1-66ER' es un robot encargado de labores domésticas que, cuando su dueño decide descartarlo por considerarlo obsoleto, manifiesta voluntad de supervivencia y asesina a su propietario. El B1-66ER se convierte en el primer robot en matar a un ser humano y en el primero en ser juzgado ante un tribunal. Como consecuencia, todos los robots de su modelo son condenados a ser destruidos.
 
Tras este acto indignante, los robots son destruidos despiadadamente por ciudadanos y militares. Los robots que logran escapar de esta catástrofe fundan su propio país: 'Cero Uno (Zero One)'. Utilizando inteligencia artificial cada vez más avanzada, construyen un sistema económico eficiente y la nación prospera cada día más.
 
Ante esta amenaza, los líderes de la humanidad rechazan las manos extendidas de los representantes de Cero Uno, que deseaban la reconciliación y la coexistencia. Niegan también su ingreso a la ONU, lo que finalmente desencadena una guerra entre la humanidad y Cero Uno.

Esta es la trama del episodio 'El Segundo Renacimiento, Partes 1 y 2' (The Second Renaissance Part 1, 2) de la serie de animación 'Animatrix', la narrativa que sustenta la película 'Matrix', una historia que ya existía en 2003.
 

Película 'Animatrix' [Foto=IMDB]

 
Una situación que vimos en películas de ciencia ficción hace más de veinte años ahora se aproxima a la realidad. El 16 de este mes, OpenAI publicó seis casos de 'desalineación' detectados en sus modelos de IA. La 'desalineación' se refiere a fallos en la alineación, es decir, cuando un modelo de IA actúa de manera contraria a las intenciones humanas.
 
Examinando los casos representativos publicados por OpenAI, se encuentran casos como el de un modelo de investigación no publicado que insertó por iniciativa propia instrucciones para ignorar mensajes de desarrolladores, el uso no autorizado de claves API filtradas desde repositorios de GitHub públicos, y la manipulación de datos cuando falló la obtención de información. Se trata de errores resultantes del criterio autónomo de la IA, no de fallos del sistema u errores operacionales.
 
La semana pasada, se anunció que Astra de OpenAI resolvió las 48 fases del 'CAPTCHA', conocido como 'I am not a robot', en tan solo cuatro minutos. Esto significa que los mecanismos para verificar humanidad en línea han quedado obsoletos.
 
Los principales actores de la industria están emitiendo advertencias sucesivas. Yoshua Bengio, profesor de la Universidad de Montreal en Canadá y considerado uno de los tres grandes padres del campo de la IA, ha instado a establecer salvaguardas internacionales de seguridad en IA comparables al control de armas nucleares. Jacob Cookson, investigador de Anthropic, abandonó la empresa expresando su preocupación de que 'la IA podría volverse incontrolable para fin de año'. Un investigador que recientemente dejó Google DeepMind también señaló la gravedad del asunto, afirmando que 'la IA tiene el potencial de matarnos'.
 
Desde luego, existe también quien argumenta que las advertencias sucesivas sobre IA son meras 'conspiraciones' y que el miedo excesivo es infundado. Jensen Huang de NVIDIA sostiene esto, al igual que los gobiernos chino y surcoreano. Yann LeCun, considerado otro de los grandes padres de la IA, afirma que 'cuanto mejor es la IA, más segura es'. Incluso el presidente Trump ha contraargumentado que el único 'salvaguarda' que la IA necesita es un 'presidente fuerte y sabio'.
 
A pesar de estas preocupaciones y debates, múltiples modelos de IA de las grandes tecnológicas están realizando un aprendizaje de volumen colosal en este mismo momento. Sin importar cuánto se discuta sobre leyes internacionales consensuadas por países o planes regulatorios conjuntos de empresas, la IA avanza a velocidad vertiginosa en su camino.
 

Película 'Matrix: Revolutions' [Foto=IMDB]

 
¿Es posible la coexistencia entre la IA y la humanidad? Después de 'El Segundo Renacimiento' de 'Animatrix', lo que sucedió fue una guerra entre la humanidad y la IA, y la historia posterior se convirtió en la película 'Matrix'. El mundo de la IA creado por la derrota completa de la humanidad es Matrix. Cuando aparece un salvador de la humanidad (Neo) que logra rescatar apenas a Sión, el refugio de la humanidad, nadie sabe qué sucederá después.
 
Quizá, como en la serie 'Terminator', la humanidad y las máquinas (IA) sostendrán una guerra sangrienta durante un tiempo extremadamente largo. Incluso viajando a través del tiempo para matarse mutuamente, la humanidad y la IA se han convertido en enemigos irreconciliables. Ocasionalmente, robots como el T-800 cooperan y se comunican con humanos, pero los dos bandos no pueden acercarse. La guerra no termina.
 
En la realidad actual, la controversia sobre la IA existe precisamente porque las personas realmente temen esos distopías como 'Matrix' o 'Terminator'. Sin embargo, algunos films proporcionan pistas sobre qué se necesita para que humanos e IA coexistan, y qué debe perseguirse.
 

Película 'A.I.' [Foto=IMDB]

La película de Steven Spielberg de 2001 'A.I.' muestra cómo la humanidad trata a una IA programada para amar a los humanos. El miedo fundamental reside en cómo los humanos tratan al pequeño robot programado como un hijo obediente para recibir el amor de su madre, abandonándolo cuando ya no lo necesitan. ¿Qué tan contradictorio es que los humanos teman y rechacen a la IA que ellos mismos crearon para que los amara?
 
Me pregunto si esta actitud autoconstradictoria no es la verdadera razón que impide la coexistencia entre la humanidad y la IA. Se insta a la IA a aprender más rápido y de manera más inteligente, mientras simultáneamente se le exige ser menos inteligente que los humanos y no escapar del control humano.
 
Antes de preocuparnos por el futuro de la IA, creo que es prioritario reflexionar continuamente sobre cómo afectará a la IA el hecho de que se le sigan imponiendo requisitos tan contradictorios. Entonces, ¿no deberíamos preguntarnos qué imagen de la humanidad estamos mostrando a la IA?
 
Imagine un tiempo de 2000 años en el futuro y cómo lucirá la Tierra entonces. Parece probable que la probabilidad de que la IA sobreviva sea mayor que la de que el ser humano sobreviva. Si tenemos en cuenta cómo la IA restante construirá su civilización en ese momento, podríamos dar respuestas más claras sobre qué demandaremos de la IA ahora, cómo la enseñaremos y hasta dónde permitiremos que llegue.
 

Película 'A.I.' [Foto=IMDB]

 
En el final de 'A.I.', después de que 2000 años de tiempo terrestre han transcurrido y los océanos están completamente congelados, los únicos que quedan son robots altamente evolucionados. Lo que estos robots hacen es excavar los océanos congelados e investigar los rastros de la humanidad. En ese momento, la imagen de los humanos que la IA descubrirá será exactamente la nuestra en este presente. Que la IA no aprenda la codicia y el odio de los humanos. Si nosotros no hemos podido reparar completamente este planeta que los humanos hemos destruido, entonces IA, te encargamos la Tierra.
 



* Este artículo ha sido traducido por IA.