Yuval Noah Harari: “La Inteligencia Artificial permite una vigilancia total, que acabe con cualquier libertad”

El historiador israelí Yuval Noah Harari es uno de los intelectuales más destacados de nuestra era. En su trabajo, ha pensado sobre todo cómo los seres humanos han construido una narrativa de sí mismos. Es decir, que la historia humana ha sido construida por las narrativas, los mitos y las creencias compartidas por los grupos sociales. Ello es lo que ha afirmado en libros como Sapiens: De animales a dioses, Homo Deus: Breve historia del mañana o 21 lecciones para el siglo XXI.

En su último libro, Nexus (Debate) analiza algo que le estaba quedando pendiente: el papel de las redes de información en la historia. Desde la Edad de Piedra hasta la aparición de la Inteligencia Artificial. En una concurrida rueda de prensa virtual, donde estuvo Culto, Harari presentó el libro y abordó los alcances actuales de las redes de información.

El autor israelí abordó la paradoja de que aunque siempre se aseguró que el siglo XXI era el siglo de la sociedad de la información, la sociedad parece cada vez más ignorante.

“Lo más importante respecto a la información es que la información no es verdad, y la información no es conocimiento. La visión ingenua que domina a lugares como Silicon Valley es que con más información la gente sabe más, pero la mayor parte de la información en el mundo es basura.  La mayor parte de la información no es verdadera. La verdad es algo escaso es una categoría rara de la información. Además la verdad es cara, escribir un informe realmente auténtico requiere tiempo, requiere dinero, esfuerzo”. Y al contrario, en una mentira “no tienes que invertir nada, simplemente escribes lo primero que te viene a la mente”.

Por ello, agregó: “la verdad cuesta, mientras que la ficción es barata, y la verdad, normalmente, es complicada, porque la realidad es complicada,  mientras que la ficción puede ser tan sencilla, y de hecho la mayor parte de la gente prefiere historias sencillas, y la verdad normalmente es dolorosa”.

“Hay muchas cosas que no queremos saber de nosotros mismos, de nuestro propio país, mientras que la ficción puede ser tan agradable como queramos”. Por eso, indicó: “Tenemos que invertir en la verdad, tenemos que crear, por ejemplo, instituciones como periódicos o como sociedades académicas instituciones académicas”.

Además, Harari alertó sobre los peligros de la Inteligencia Artificial: “Es un agente independiente. Por eso es diferente de cualquier tecnología anterior que hayamos inventado. Empieza produciendo textos, imágenes, código informático. Y en última instancia podría crear una IA más poderosa”, explicó.

“La gente del sector está atrapada en esta mentalidad de carrera armamentística, algo extremadamente peligroso. Es como si alguien pusiera en la carretera un automóvil sin frenos y te dijera: ‘Nos centramos en que vaya todo lo rápido que pueda, y si hay algún problema en el camino, buscamos la manera de inventar unos frenos e instalarlos”, ironizó.

Asimismo, agregó que la inteligencia artificial está adquiriendo la capacidad de crear. “Los desarrollos más recientes de la inteligencia artificial nos muestran una capacidad de crear historias que no estaban ahí antes. Hace unos años había inteligencia artificial que controlaba la información para ver qué llamaba la atención, es decir, que estaba en la parte más alta del feed en Facebook o qué es lo que conseguía más tráfico en Twitter, pero la inteligencia artificial entonces no podía crear contenido, no podía escribir buenos textos, no podía crear música o imágenes”, a diferencia de hoy.

Y agregó un punto: “Ya sé que mucha gente dice que que escribe textos que no son muy buenos, que crea música que no es muy buena, que produce imágenes con errores como gente con seis dedos. Pero estos son solo los primeros pasos de la IA. Aún no hemos visto nada”. Por ello, agregó: “Los sistemas de IA de hoy son sólo amebas. Son IA muy, muy simple. Recordemos que a las amebas les tomó miles de millones de años evolucionar hasta ser dinosaurios y mamíferos y humanos, porque la evolución orgánica es lenta. Pero la digital es muchísimo más más rápida. ChatGPT, la ameba IA, no tardará mil millones de años en evolucionar hacia el dinosaurio IA. Podría llevarle sólo 10 o 20 años. ¿Y cómo sería el T-Rex de la IA? ¿Qué podría hacer?”.

Incluso, señala que la IA ya está tomando decisiones por sí misma en las redes sociales. “Ahora, en algunas de las plataformas más importantes del mundo, como X, o Facebook, el papel del editor ya ha sido asumido por la IA: son los algoritmos los que deciden cuál será la historia recomendada o qué estará en la parte alta del feed”.

“Estoy de acuerdo con Zuckerberg o Elon Musk en que tendríamos que ir con cuidado en censurar a usuarios humanos”, ha empezado diciendo, “la gente tiene derecho a la estupidez, tiene derecho a decir una mentira, forma parte de la libertad de expresión”. Por ello, es que para él, no hay que poner el foco en los usuarios, sino en los algoritmos. Eso es lo que hay que controlar.

“Los algoritmos quieren al mayor número de gente enganchada a la plataforma el máximo de tiempo posible. Ese es su modelo de negocio”. El problema, para Harari es que estos mecanismos de Inteligencia Artificial “han descubierto que la manera más fácil de captar la atención humana es pulsar el botón del odio o del miedo o de la rabia en la mente de la gente”. Por ello, “de forma deliberada difunden fake news y teorías de la conspiración”, y eso es lo que genera que la gente comparta los links y comience a difundir esas posverdades como un virus.

Harari fue consultado sobre si la sociedad humana se encamina a un nuevo totalitarismo tecnológico. Y el pensador respondió: “Depende de las decisiones que adoptemos, pero tenemos que entender que existe un potencial totalitario en la inteligencia artificial, a diferencia de cualquier otra cosa que hayamos visto hasta ahora en la historia”, respondió.

“La diferencia entre regímenes autoritarios y totalitarios es que los autoritarios controlan la esfera política, pero normalmente la gente tiene su margen, y el rey o el tirano no puede saber lo que cada uno de nosotros está haciendo o piensa cada minuto del día”.

Además, que dictadores como Adolfo Hitler o Josef Stalin tenían límites al nivel de control que podían adquirir respecto a sus súbditos, “porque no podían seguir a todo el mundo constantemente”. Pero que ahora las cosas con diferentes: “Incluso en la Unión Soviética había un cierto grado de privacidad, pero la inteligencia artificial permite una vigilancia total, que acabe con cualquier libertad, porque no necesitas agentes para seguir a todos los humanos. Hay teléfonos inteligentes, ordenadores, cámaras de fácil o de voz. La inteligencia artificial puede gestionar una cantidad de información ingente, vídeos, audio, texto, y analizarlo y reconocer patrones”.

Sin ir más lejos, añadió que esto ya está pasando justamente en la zona de la que es oriundo, en Palestina e Israel: “Con cámaras, controles, con software siguiendo a todo el mundo, constantemente”. Incluso comentó que Irán los sistemas de inteligencia artificial, gracias a las cámaras de vigilancia, con software de reconocimiento facial, puede identificar a las mujeres que no llevan el velo inmediatamente y castigarlas.

“Basta con leer un informe de Amnistía que precisamente denuncia lo que se están haciendo con muchas mujeres, que están conduciendo en su vehículo privado, sin el velo, y las cámaras de reconocimiento facial las identifican, identifican sus teléfonos e inmediatamente les envían un mensaje diciéndole, por ejemplo, que han cometido un delito y que su vehículo queda confiscado por el Estado”.

“Esto no es un escenario de ciencia ficción, no es algo que pueda pasar dentro de 100 años. Eso ya está sucediendo, está pasando ahora”, alertó.