La preocupante advertencia de Yuval Noah Harari sobre la Inteligencia Artificial: “Las consecuencias podrían ser catastróficas”

Fueron muchas las personas que disfrutaron de Sapiens (2011), el libro del autor israelí Yuval Noah Harari, que recapitula la historia de la humanidad y cómo hemos ido evolucionando con el paso del tiempo y junto a nuestras propias invenciones. No obstante, un capítulo que el historiador dejó abierto fue el de la Inteligencia Artificial (IA).

“Preguntemos a los científicos por qué estudian el genoma o intentan conectar un cerebro a un ordenador, o intentan crear una mente dentro de un ordenador (...) Aunque las implicaciones de crear una mente dentro de un ordenador son mucho más espectaculares que curar enfermedades psiquiátricas, esta es la justificación típica que se da, porque nadie puede discutirla”, se lee en un extracto del libro.

En ese entonces, el autor anticipó el peligro que puede significar el avance desproporcionado de la tecnología y la IA pero, ¿qué piensa exactamente ahora, más de diez años después de haber publicado un adelanto de lo que podría pasar con nosotros en el futuro?

En conversación con el medio La Vanguardia, Yuval Noah Harari aseguró que si los humanos manejamos mal la IA, ésta podría llegar a eliminar el dominio humano en la Tierra.

“La IA domina el lenguaje mejor que la mayoría. ¿Qué pasa cuando pueda crear textos sagrados?”, se preguntó.

El reconocido autor israelí publicó recientemente Nexus (Debate / Edicions 62), donde relata la evolución de la humanidad desde la Edad de piedra hasta el vertiginoso avance de la Inteligencia Artificial que puede desafiar a los humanos, porque es lo suficientemente inteligente como para parecerse a nosotros.

“Hemos creado una nueva inteligencia potencialmente más poderosa e inteligente que nosotros. Y si se sale de nuestro control, las consecuencias podrían ser catastróficas”, comienza a decirle el autor a La Vanguardia.

Y no porque la IA sea intrínsecamente malvada, “pero sí es extremadamente poderosa y no le importamos, y no le importan otras entidades orgánicas. Podría hacernos lo que hemos hecho nosotros a tantos organismos, tantos animales”.

Pese a que es un escenario muy poco optimista, el israelí declaró que con la IA es fácil imaginar escenarios peligrosos, como “un dictador que le da a la IA el control de las armas nucleares y por error de cálculo hay una catástrofe” o “terroristas crean con la IA un nuevo virus mortal”.

Pero lo que más teme el autor es que la IA también puede pensar por sí misma y dejar de ser una herramienta para los humanos. “Estamos liberando millones de nuevos agentes autónomos que podrían volverse más inteligentes que nosotros y no podemos anticipar ni controlar qué harán”.

Los humanos le han entregado a la IA su arma más poderosa: el lenguaje.

“En la civilización, en la cultura humana, la clave de casi todo lo que hemos creado es en última instancia el lenguaje. Es la clave de la política, para persuadir a la gente. Es la clave del arte. De la religión”, aseguró el escritor.

Hasta la fecha, los humanos éramos los únicos que entendíamos sobre finanzas, símbolos, palabras. “Ningún otro animal sabía que hay dinero, o dioses, o naciones, porque se necesita el lenguaje para tratar con estas cosas”.

“Y la IA ahora domina el lenguaje en muchos sentidos mejor que la mayoría. Ya crea textos, imágenes y vídeos, y es aún muy primitiva. ¿Qué sucederá cuando pueda crear manifiestos políticos persuasivos, nuevos dispositivos financieros, nuevos libros sagrados? Por miles de años, los humanos vivieron envueltos en el capullo cultural creado por otros humanos. Ahora, cada vez más será creado por una inteligencia no humana”.

Esto, según el autor, podría afectar a la sociedad a través de noticias falsas, teorías conspirativas escandalosas y también a las democracias.

“Los estadounidenses tienen la tecnología de la información más sofisticada de la historia pero están perdiendo la capacidad de hablar entre sí y escucharse. La sospecha es que esta tecnología, en lugar de facilitar la comunicación, la dificulta. Porque hay muchas voces no humanas. La democracia es una conversación y debería ser entre humanos”.

En esta línea, el israelí cree que estamos en una época de la humanidad donde es difícil encontrar soluciones juntos, porque “la gente no puede ponerse de acuerdo en casi nada, ni en los hechos más básicos, escucharse, mantener un debate razonado”.

Y ahora, como la democracia está “edificada” en las tecnologías de la información —como los medios de comunicación, que están siendo afectados en parte por la IA—, “cualquier revolución importante en ellas está destinada a crear conmoción en la democracia”.

Entonces, ¿cómo podemos salvar al mundo del peligro de la IA?

“Debemos darnos cuenta de que todavía tenemos el control. Es responsabilidad de los gobiernos regularla (a la Inteligencia Artificial). Por miles de años prohibieron el dinero falso y ahora deben prohibir la creación de seres humanos falsos, los bots y algoritmos que se hacen pasar por humanos y difunden historias. Una IA nunca debería hacerse pasar por un ser humano”.

El nuevo libro del pensador Yuval Noah Harari, bautizado como Nexus, estará disponible en Chile, en Penguin Libros a partir del 12 de septiembre de 2024.

Sinopsis: “En medio de la desinformación y el desconcierto, estamos al borde del colapso ecológico y nos precipitamos hacia la era de la Inteligencia Artificial. ¿Por qué somos una especie tan autodestructiva? A su más puro estilo, a partir de reveladores ejemplos históricos, ofrece un marco tremendamente útil para entender las complejas relaciones que existen entre información y verdad, burocracia y mitología, y sabiduría y poder. La información no es el principio activo de la verdad; tampoco una simple arma. Nexus explora el esperanzador término medio entre ambos extremos”.