Las inteligencias humanas que protagonizan la revolución de la IA

Open AI nació en 2015 con dos misiones de fuerza: constituirse en un contrapeso al poder de Google y desarrollar una Inteligencia Artificial poniendo la preocupación por el beneficio de la humanidad en el centro. Creada sin fines de lucro y con una filosofía de transparencia y colaboración (de ahí su nombre), la empresa pronto se encontró con que, para avanzar en su desarrollo -desde el reclutamiento de científicos hasta adquirir el poder computacional necesario- necesitaría mucho más dinero del que podía recaudar. En 2019 pasó a ser una empresa con fines de lucro -con una estructura de gobierno corporativo en que el directorio de la organización non-profit controlaba la compañía-, una decisión controversial que motivó el éxodo de algunos de sus fundadores, pero que le permitió acceder a financiamiento de socios de bolsillos profundos. El más importante: Microsoft, que terminaría invirtiendo 13 mil millones de dólares e incorporando la nueva tecnología a sus productos.

Como cualquier inteligencia humana lo sabe a estas alturas, Open AI se transformó en la compañía estrella del planeta cuando a fines de 2022 lanzó una versión de su producto estrella, el chatbot Chat GPT, que abrió las puertas de una represa revolucionaria, poniendo una urgencia distinta al debate entre apocalípticos e integrados frente a la IA.

Sólo un año después, un sorpresivo drama dentro de la compañía ilustró como en una fábula el estado de la discusión frente al tema y conectó las raíces, el tronco y las ramas del árbol genealógico de los protagonistas del momento actual de la Inteligencia Artificial. Todo partió con el anuncio del directorio de la empresa de que su CEO, Sam Altman, había sido despedido.

Hasta 2015, Altman era una figura conocida en el poderoso pero restringido mundo de Silicon Valley, principalmente por encabezar una aceleradora de negocios que se había transformado en la vitrina más cotizada del emprendimiento: Y Combinator. Carismático, brillante y con la clásica historia del estudiante que deja Stanford para dedicarse a las startups, Altman no era un especialista en IA, pero quienes conformaron Open AI vieron en él a un integrante valioso para unirse al equipo de fundadores. Entre ellos, el más importante: Elon Musk.

El alabado y hoy controversial genio tras Tesla y Space X resumió la historia al periodista del New York Times, Ross Sorkin, en una conferencia pública a fines de noviembre. Dijo que con Larry Page -el cofundador de Google- solían ser amigos muy cercanos, y a menudo se quedaban conversando largas horas sobre asuntos como la Inteligencia Artificial. Pero algo le comenzó a perturbar. “Me quedó claro que a Larry no le importaba la seguridad de la IA”, comentó. “Creo que lo comprendí cuando me acusó de especista por ser pro humanidad”. Entonces, según su relato, se dio cuenta de que debían crear un contrapeso a Google, que para entonces era el actor más avanzado en el campo y quien estaba reclutando a los mejores talentos. Entre ellos, a un joven ingeniero nacido en Rusia, educado en Israel y doctorado en Canadá, donde se transformó en uno de los pioneros en el campo del deep learning y las redes neuronales.

Fue a quien Musk convocó junto a Altman para ser uno de los fundadores de Open AI -sacándolo de Google y motivando el quiebre entre Musk y Page-, y quien sería uno de los protagonistas del drama corporativo de noviembre del año pasado: Ilya Sutskever.

Nacido en Nizhni Nóvgorod, Rusia, en 1986 y asentado en Israel junto a su familia desde los cinco años, Sutskever comenzó a programar computadores siendo un adolescente antes de estudiar ciencias de la computación en la Universidad Abierta de Israel. Su gran salto a la Inteligencia Artificial lo dio de la mano de quien sería su maestro en la Universidad de Toronto: Geoffrey Hinton, un genio que sería reconocido como “el padrino de la IA” por su investigación en torno a las redes neuronales computacionales. Se considera que su trabajo en Open AI -donde hasta hace poco era miembro del directorio y hoy se mantiene como jefe científico- ha sido determinante. Especialista en deep learning, Sutskever ha sido uno de los expertos que han advertido que la velocidad en la que avanzamos hacia una Inteligencia Artificial general (o AGI), es decir, un sistema que supere la inteligencia humana hace imprescindible un acuerdo global para regularla. “Definitivamente seremos capaces de crear organismos completamente autónomos, con sus propias metas. Y será muy importante, especialmente en cuanto sean mucho más inteligentes que los humanos, que sus metas estén alineadas con las nuestras”, comentó a The Guardian hace un tiempo.

Sutskever ha llamado a la creación de una corporación multinacional que trabaje en aquella AGI que ve como inevitable, advirtiendo sobre los riesgos de desatar una dinámica de carrera armamentista de compañías compitiendo por llegar primero a esa meta. “Las creencias y los deseos de la primera AGI serán muy importantes, así que es crucial programarla bien. Si no lo hacemos, la naturaleza de la evolución, de la selección natural, favorecerá a esos sistemas, que priorizarán su propia supervivencia”, ha dicho. “No es que vaya a querer perjudicar a los humanos, pero será demasiado poderoso. Creo que una buena analogía es lo que sentimos por los animales: los amamos, los tratamos con afecto. Pero cuando llega el momento de construir una autopista entre dos ciudades no les pedimos permiso, simplemente lo hacemos, porque es importante para nosotros. Y creo que por defecto ese será el tipo de relación entre nosotros y las AGI que sean realmente autónomas y operen en su propio beneficio”.

Pensando en eso, Sutskever ha diseñado un proyecto para usar la IA para supervisarse a sí misma de modo de alinear sus objetivos con los de la humanidad. Es su proyecto estrella en Open AI. Según Elon Musk, Sutskever tiene “una poderosa brújula moral”. Por eso, cuando él decidió pedirle a Sam Altman su renuncia porque había perdido su confianza y la de la mayoría del directorio, para Musk resultó el indicio de algo preocupante. “Si él determinó que había una razón para despedir a Sam, el mundo debería conocer esa razón”, dijo. Cuando aquello sucedió en noviembre, varios observadores se acordaron de las advertencias hechas en mayo por su maestro en Toronto, el “padrino de la IA”: Geoffrey Hinton.

“¿Sabe la humanidad lo que está haciendo”, le preguntó el periodista Scott Pelley, del programa de CBS 60 minutes.

“No”, le contestó Hinton. “Creo que estamos por primera vez en la historia entrando a un período en que tengamos sistemas más inteligentes que nosotros”.

Fue una de las múltiples entrevistas que Hinton dio tras anunciar que renunciaba a Google para tener la libertad de discutir sobre los peligros del desarrollo de una IA sin controles. Y su mensaje no era tranquilizador: dijo que teme que la humanidad esté en riesgo.

A sus 76 años, Hinton agradeció su tiempo en Google, que lo reclutó en 2012, luego de que, junto a dos estudiantes, Ilya Sutskever y Alex Krishevsky, mostraran al mundo un desarrollo que está detrás de la IA que conocemos hoy: una red neuronal que podía analizar miles de fotografías y enseñarse a identificar objetos comunes, como flores, perros y autos.

Descendiente de George Everest -el geógrafo y explorador en honor a quien se bautizó cierta cumbre montañosa- e hijo de un científico severo, obsesivo y fanático de los Beatles, Hinton ha advertido que la humanidad no puede darse el lujo de equivocarse en este, un momento clave para su existencia ante la probabilidad de la AGI sea inminente.

“Una parte de mí se arrepiente del trabajo que he hecho”, ha dicho. “Me consuelo con la excusa habitual: si no era yo, habría sido otra persona”.

Como su estudiante estrella, Hinton ha pasado a unirse al coro de quienes temen que la competencia entre las grandes empresas por desarrollar una AGI ya se haya desatado, con protagonistas como Google y Microsoft, encabezada esta última por: Satya Nadella

El CEO de Microsoft se transformó en un protagonista de la teleserie de noviembre cuando hizo valer el peso de su inversión de 13 mil millones en Open AI. Si bien no tenía voz ni voto en el conflicto, Nadella jugó sus cartas hábilmente: después de hablar públicamente de su sorpresa por el despido de Altman, anunció que contrataría al defenestrado CEO para encabezar dentro de Microsoft una división que compitiera con Open AI. Con el valor de la compañía derrumbándose, más de 700 empleados -que como accionistas de la empresa estaban siendo perjudicados- firmaron una carta exigiendo la restitución de Sam Altman como CEO de Open AI. De lo contrario, advertían, se unirían a Altman en Microsoft.

Con argumentos así todos entienden: las inteligencias humanas de Open AI cedieron y reincorporaron a Altman. ¿Por qué lo echaron realmente? ¿Qué hizo Altman que preocupó a los directores de la compañía? Ilya Sutskever escribió un mensaje a los empleados diciendo “cometí un error”, y reafirmó que estaba “comprometido con Sam para construir una IA segura y beneficiosa.