Hace unos pocos días: Blake Lemoine, un ingeniero de Google que trabaja en el desarrollo de una inteligencia artificial, advirtió que ésta ya tenía conciencia propia. Para demostrarlo, publicó extractos de un sorprendente diálogo que tuvo con la máquina, llamada LaMDA (Language Model for Dialogue Applications), donde se advertía su capacidad de reflexión. La noticia prendió como un reguero de pólvora por Silicon Valley y más allá, y la compañía reaccionó desmintiendo al ingeniero y suspendiéndolo de su trabajo. La revista Wired publicó que Lemoine contrató un abogado para LaMDA, pero éste corrigió luego la información: dijo que fue LaMDA la que le pidió que la contactara con un abogado.
El jueves pasado, a miles de kilómetros de ahí, el exsenador Guido Girardi concurrió a La Moneda como tantas veces lo hizo en el pasado, pero esta vez su agenda era distinta. Acompañado de algunos de quienes integraron con él la Comisión Desafíos del Futuro del Senado, llevaba en sus manos el libro Chile tiene futuro desde sus territorios, un volumen de más de 500 páginas que resume el trabajo de científicos y académicos de todo Chile sobre varios temas para generar una estrategia de desarrollo que vaya más allá de la inmediatez. En una reunión de cerca de una hora con el Presidente Gabriel Boric, Girardi no sólo le describió el trabajo que durante 12 años organizaron desde el Senado a partir del Congreso del Futuro, que hoy se aloja en la Fundación Encuentros del Futuro, donde el exsenador es vicepresidente ejecutivo. También le hizo ver que el día anterior el neurocientífico español Rafael Yuste había inaugurado las cátedras de verano de una universidad hispana frente al rey Felipe VI exponiendo sobre los neuroderechos, materia del proyecto de ley chileno que, destaca Girardi, es pionero y único en el mundo -y en cuya creación Yuste fue fundamental-, pero que hoy duerme en el Parlamento.
Ese texto advierte sobre la necesidad de proteger a los ciudadanos de desarrollos tecnológicos que permitirán no sólo leer, sino también intervenir sus pensamientos. Hoy en día no es necesario escarbar demasiado para saber qué hay en la cabeza del propio Guido Girardi. Está, por una parte, la frustración de que no se haya considerado este tema en el texto de la propuesta de nueva Constitución. “Creo que lamentablemente es una Constitución que salda cuentas con el siglo XX, pero no tiene una palabra del siglo XXI. Y por eso digo que vamos a aprobar para mejorar, porque esta Constitución no permite resolver ninguno de estos problemas de futuro. Y esto es muy complejo, porque ahora viene otro mundo, una nueva evolución: el metaverso”.
Y ahí, en el metaverso, la evolución de internet, el universo de diseño que los humanos podremos habitar virtualmente, está la gran preocupación de Girardi. Advirtiendo que las plataformas tecnológicas del mundo (Google, Facebook, Apple, Microsoft y sus contrapartes chinas) han construido un imperio sin contrapesos, dice que lo que está en juego es el futuro de la sociedad, la democracia y de la propia raza humana. Y un ejemplo de lo presente que está ese futuro, apunta, es la noticia sobre Blake Lemoine y LaMDA.
“Esto demuestra que las plataformas que están desarrollando el futuro están mucho más avanzadas de lo que dicen”, advierte Girardi. ¿Y cómo es ese futuro? El exsenador tiene bastante que decir al respecto, y parte por constatar de que lo que tenemos hoy no nos sirve para enfrentarlo. “Todo lo que conocíamos empieza a quedar en el pasado, todo el chasis institucional, que la manera de pensar, de educarnos, la economía, la política, el Estado, la forma en que nos relacionamos entre nosotros, está cambiando a una velocidad gigantesca. Todo lo que tenemos obedece a una civilización que se está progresivamente y aceleradamente extinguiendo”, dice, y apunta a que el fenómeno abarca desde la escala personal más íntima hasta la relación de poderes en el mundo. “El poder del siglo XX fue el control del petróleo, que determinó una geopolítica y determinó las guerras, la política exterior de los países, las relaciones diplomáticas. Bueno, el siglo XXI cambia totalmente ese paradigma, porque el poder es el control de los datos. Y cada año estamos enfrentados a una mayor inmensidad de datos, va creciendo exponencialmente, y por lo tanto tienes un combustible que es cada vez más poderoso. El motor del siglo XXI son los algoritmos, que se van renovando a cada segundo, porque con el deep learning los propios usuarios hacen que los algoritmos vayan siendo más competentes. La inteligencia artificial es la mayor tecnología que el ser humano jamás soñó poseer. Y es la misma capacidad que ha tenido nuestro cerebro de generar estos gigantescos avances en todos los planos, esos mismos poderes que este cerebro maravilloso logró llevar a una cúspide, al mismo tiempo son nuestras mayores amenazas.
¿Estamos entonces enfrentados a la disyuntiva entre alentar estos desarrollos y al mismo tiempo tratar de contenerlos para que no jueguen en contra de nuestra especie?
Creo que estamos llegando a un punto crucial, de definiciones fundamentales que van a determinar tal vez como nunca antes en la historia el futuro de la humanidad. Porque cuando te digo que aquí la disputa del futuro son los datos, la IA, los algoritmos, el campo de batalla ya no son los pozos petroleros, sino nuestros cerebros. Porque de los cerebros se extraen los datos, se desarrollan estos motores que son los algoritmos. La mayor revolución en la inteligencia artificial fue el desarrollo del deep learning, el aprendizaje por reforzamiento. A medida que aumenta el conocimiento de la neurociencia aumenta el potenciamiento de los algoritmos y en la medida en que aumentan los datos más poderosos es el motor, más crece la IA. Estamos viviendo un proceso de desarrollo que no tiene parangón. Pensemos que la IA progresa 100 veces de un año a otro, pero en 10 años va a progresar 1 millón de veces de un año a otro, y en 2045, según Ray Kurzweil, uno de los personajes más influyentes en Silicon Valley, la IA va a ser mil millones de veces más potente que todos los seres humanos juntos. Lo que viene es entender que tenemos que generar una manera de convivir y de adecuarnos y preservar lo humano, si es que se puede, con esta IA que va creciendo exponencialmente al tiempo que nuestras capacidades van disminuyendo: cada nueva tecnología, paradojalmente, ha significado para nuestro cerebro capacidades disminuidas. Antes me sabía 100 números de teléfono; hoy mi memoria está toda externalizada en los teléfonos inteligentes y no me sé ninguno. Antes sabía perfectamente cómo ubicarme en la ciudad; hoy si no uso GPS no sé a veces llegar ni siquiera a un lugar conocido. El gran desafío entre China y Estados Unidos es la disputa por los datos, y cada una de las plataformas tecnológicas es más poderosa en la medida en que adquiere más datos y desarrolla mejores algoritmos. El campo de batalla es el cerebro, y la nueva economía es la economía de la atención. Y esta economía es muy perversa para el humano porque como a las plataformas sólo les interesa la promoción de su negocio –al igual que a las tabacaleras, a sabiendas de los daños que producen—, todas están usando nuestra propia biología. La atención en los seres humanos y en todos los seres humanos tiene que ver con la sobrevivencia: nos permite escapar del dolor, de la amenaza, reproducirnos, etcétera. Liberamos dopamina para reforzar ciertas funciones. Y en las redes, lo que activa nuestra atención no son los contenidos pacíficos. Para activar la atención lo que hacen los algoritmos es promover contenidos amenazantes, violentos, agresivos, polares, falsos. Hay un nuevo mercado cognitivo; en la competencia entre la verdad y la falsedad la primera no está promovida, porque no activa el umbral de atención.
“Estamos en la frontera de un mundo sin sociedad. Y un mundo sin sociedad es un mundo sin democracia, vulnerable a los totalitarismos, a la manipulación”.
Guido Girardi
Considerando este desfase de velocidad de desarrollo que hace imposible “ponerse al día”, ¿qué deberíamos estar haciendo como sociedad?
Bueno, yo pienso que estamos en la frontera de un mundo sin sociedad. Y un mundo sin sociedad es un mundo sin democracia, vulnerable a los totalitarismos, a la manipulación. Hay algunos que piensan que hay que volver al pasado, a evitar el uso de la tecnología. Pienso de manera absolutamente distinta: sólo si desarrollamos tecnología, inteligencia artificial, pero en el contexto de políticas donde la tecnología reafirmen las decisiones de los humanos, las decisiones democráticas, la política, vamos a sobrevivir. No vamos a sobrevivir sin inteligencia artificial. Pero también creo que hay un riesgo con aquellos que están planteando, como en Silicon Valley, que se tiene que terminar la política, la democracia, la gobernanza de los humanos, porque la tecnología y la IA nos debe reemplazar en un mundo de optimización. Es el mundo que en el fondo plantea que la tecnología debe reemplazar las decisiones de los humanos y la democracia. De hecho hay un personaje, uno de los más influyentes de Silicon Valley –que es una ideología, por eso se habla de la “siliconización” del mundo– que es Peter Thiel, que dice que no tiene que haber democracia. Y además ellos piensan que el ser humano llegó a su clímax y tiene que ser reemplazado por las máquinas; de hecho, Ray Kurzweil plantea que el ser humano va a ser inmortal el 2045 cuando pueda traspasar su conciencia a una máquina, y ellos están en eso, en la inmortalidad. Esa es una mirada, el fin de lo humano, la deshumanización. Por eso que a eso hay que enfrentar con lo que llamo un tecno humanismo. Si miro en perspectiva, yo que vengo de una corriente liberal de izquierda tradicional, y la socialdemocracia hizo muchos aportes en el siglo XX. Pero pienso que ni la socialdemocracia ni la derecha tienen respuestas para el mundo que viene. Son visiones que a lo más intentan reproducir recetas del pasado para enfrentar problemas del futuro. Pero no tienen una mirada. Porque el futuro no existe, está aplastado por la inmediatez. El futuro a lo más es el basurero del presente. Pero no nos damos cuenta de que el futuro hoy día a la velocidad que va es contemporáneo del presente. Y el mundo no está siendo capaz de tener gobernabilidad porque no entiende el mundo que viene, estamos yendo como en una nave a la velocidad de la luz tragada por un hoyo negro en dirección desconocida. Creo que hay que recuperar el pilotaje democrático del futuro.
¿Y dónde está ese tecno humanismo?
Voy a decir acá una aberración para una persona de izquierda: yo pienso que hoy día el Estado no tiene ninguna posibilidad de construir complejidad. Primero porque el diseño de Estado que tenemos es vertical, concentrado, insuficiente. Pero además el Estado que tenemos hoy día intelectualmente es más pobre incluso, teniendo desafíos mayores, que el que teníamos hace 30 años. Porque antes, en el mundo, los intelectuales estaban en el Estado. Los filósofos, los grandes pensadores, estaban en los partidos políticos, en los parlamentos, en los gobiernos. Hoy día la intelectualidad, en el mundo entero, se escapó de los partidos. Entonces si queremos generar pensamiento complejo y no simplicidad, que es la mayor amenaza, tenemos que ir a reconstituir maneras distintas de pensar. Y de hecho por eso el Congreso del Futuro es un centro de pensamiento, un laboratorio que plantea cómo construir políticas. Si no enfrentamos esto, estamos frente al fin de la sociedad. Nuestra vida ya está transcurriendo dentro del mundo virtual. Con el metaverso esto se va a agravar. Y la sociedad es lo más importante que ha generado la humanidad. La sociedad como este espacio que permite la integración de los distintos, el cemento que permite la inclusión y la emergencia de una inteligencia. Porque un ser humano solo, como una neurona sola, no es inteligente. Bueno, el problema es que el mundo virtual es sin sociedad, porque para que la sociedad exista tiene que haber normas. Pero además tiene un segundo elemento: que las redes sociales, por su modelo de negocio, personalizan. Separan a los distintos en grupos que son verdaderos silos, burbujas de iguales que nunca más se relacionan con lo distinto. Se reduce el universo cognitivo. Entonces, el problema mayor que tenemos es recuperar la gobernanza democrática de este futuro. Hoy día no estamos gobernando el futuro, está fuera de nuestro alcance.
“Tu mente va a viajar a cualquier parte, va a construir todos los mundos que quiera. Y por lo tanto vas a vivir en un mundo paralelo. El humano tal como lo conocemos puede estar terminando. Creo que estamos enfrentados a esta realidad, y si no hacemos nada , vamos a caer al precipicio”.
Guido Girardi
¿Cree que el Estado y quienes se preocupan por esta problemática deben, entonces, ocupar también el metaverso, para no perder posición?
Creo que no hay alternativa. No nos van a preguntar. La entrada al metaverso va a ser rapidísima. ¿Qué porcentaje de la humanidad está conectada a internet? Más del 60%. Pongamos el ejemplo de Facebook: 3 mil millones de usuarios, en un mundo de 7.500 millones de habitantes. Si sumas Instagram, WhatsApp, Messenger... Son todos usuarios, somos todos prisioneros de Facebook. Controlan nuestros datos, pueden establecer correlaciones secretas, nos pueden predecir. ¿Por qué Facebook toma la decisión de irse a Meta, de construir metaverso? El mundo que viene es un mundo mucho más concentrado, porque sólo las grandes plataformas van a poder desarrollar metaversos... cualquier persona podrá, pero los metaversos van a ser más ricos en la medida en que tengan usuarios. Y hay algo muy importante: por primera vez se va a dar un paso, como dice Kurzweil, cuando el ser humano corte el cordón umbilical con la vida orgánica, con el cuerpo. Y la vida se va a desenvolver en un mundo inorgánico, en las máquinas. Tu mente va a viajar a cualquier parte, va a construir todos los mundos que quiera. Y por lo tanto vas a vivir en un mundo paralelo. El humano tal como lo conocemos puede estar terminando. Creo que estamos enfrentados a esta realidad, y si no hacemos nada vamos a caer al precipicio.
¿Dónde está la resistencia, el pensamiento crítico?
Creo que recién comienza un pensamiento crítico desde el mundo intelectual, de los filósofos. Nosotros hemos traído a los filósofos más importantes del planeta, que comienzan a tener una actitud crítica, por ejemplo Eric Sadin, que escribió La siliconización del mundo, que advierte sobre esto. José María Lasalle, intelectual español; Shoshana Zuboff, que escribió El capitalismo de vigilancia; Michael Sandel, Byung-Chul Han, que han venido planteando esto... Creo que este tema no existe en la preocupación de la política y los tomadores de decisiones, porque no lo entienden. Porque los políticos y la política están con su chasis intelectual en los problemas del siglo XX, como nuestra constituyente, como nuestros parlamentarios. Si les pregunto qué es un algoritmo, te aseguro que siendo optimista ni la mitad sabe qué es.
¿El metaverso de Guido Girardi sería siendo senador sin límite de reelección?
Es que para mí el gran desafío es justamente el imperio de la democracia. Creo que el gran desafío es primero decidir si en el metaverso va a haber imperio de los derechos humanos o va a ser la ley de la selva. ¿Va a ser un mundo con sociedad o sin sociedad? Para mí, eso ya no es futuro, es el presente inmediato.
