Columna de Enzo Tagliazucchi: “Una nueva era para la comunicación entre humanos y máquinas”

En el año 1950, el matemático inglés Alan Turing imaginó una forma de decidir si una computadora es capaz de razonar de acuerdo con los principios de la inteligencia humana. La prueba de Turing consiste en determinar si una computadora puede mantener una conversación con un ser humano de tal manera que pueda engañarlo y convencerlo de que está hablando con otro ser humano en lugar de una máquina. Durante décadas, la prueba de Turing fue considerada una meta solo alcanzable en un futuro lejano, dada la inmensa dificultad de programar computadoras para entender y producir lenguaje.

Sorprendentemente, en los últimos años, los avances en este campo han superado muchas expectativas. Se han desarrollado interfaces capaces de mantener conversaciones sobre cualquier tema y de asistir a seres humanos respondiendo preguntas de forma natural y coloquial. Una de estas interfaces es ChatGPT, desarrollada e implementada por la empresa NeuroAI. Es de libre acceso y puede ser utilizada sin restricciones a través del siguiente enlace: https://chat.openai.com.

La interacción con ChatGPT es asombrosa y, en ocasiones, puede causar una extraña impresión de humanidad, aunque sabemos que se trata únicamente de una computadora. Si le planteamos la pregunta: “No sé qué cenar. Quisiera algo cuya preparación no me lleve más de 40 minutos, y tenga los siguientes ingredientes: tomate, harina, ajo, queso. ¿Alguna recomendación?”, obtendremos una respuesta inmediata como: “¡Por supuesto! Una opción deliciosa y fácil de preparar podría ser una pizza casera con salsa de tomate y ajo. Aquí te dejo la receta...”. Las preguntas que podemos hacerle a ChatGPT van desde pedir explicaciones sobre conceptos abstractos o complejos en ciencias, hasta solicitar correcciones de gramática y estilo, o incluso la elaboración de textos complejos con base en una premisa dada (de hecho, el título de este artículo fue elaborado por ChatGPT).

¿Cuál es el secreto detrás del éxito de los últimos desarrollos en inteligencia artificial? Por un lado, se trata de desarrollos teóricos ingeniosos conocidos como modelos grandes de lenguaje (large language models), los cuales se basan en redes neuronales para aprender qué palabras generar según su contexto, mediante un mecanismo conocido como atención. Sin embargo, estos modelos de lenguaje requieren una enorme cantidad de datos y poder de cómputo para entrenarse y estimar adecuadamente los parámetros que les permiten generar lenguaje. Este avance ha sido posible gracias a la digitalización de decenas de miles de libros y el advenimiento de Internet, así como a los inmensos clusters de computadoras disponibles en empresas como Google o Facebook.

Los modelos de lenguaje funcionan muy bien y cada vez lo harán mejor. El futuro en el que podamos hablar con nuestro celular de la misma forma que con un asistente humano está muy cercano, y este nos responderá con la misma profundidad y complejidad. Es difícil exagerar el impacto que estas nuevas tecnologías tendrán en los seres humanos, especialmente en su ámbito laboral. Hasta hace pocos años, muchas de las habilidades de ChatGPT parecían ser el dominio exclusivo de expertos humanos, como profesores, médicos, abogados, e ingenieros. Sin embargo, estas son precisamente las ocupaciones que plataformas como ChatGPT parecen amenazar, ya que son capaces de entender preguntas formuladas de manera coloquial y transformarlas en respuestas precisas, incluso siguiendo consignas para producir texto y código de computadora capaz de cumplir con objetivos específicos. Actualmente, ya es posible pedirle a ChatGPT que escriba o corrija textos, haga traducciones entre distintos idiomas, genere código para implementar programas solicitados por el usuario, e incluso que escriba poesía o canciones imitando el estilo de autores famosos.

Actualmente, ChatGPT no responde preguntas sobre cualquier tema. Está programado para evitar pronunciarse sobre ciertos temas como salud, finanzas o cualquier otro consejo que pueda tener un impacto considerable en la vida de una persona. Esto no se debe a una incapacidad intrínseca del modelo de lenguaje, sino que fue programado para no hacerlo, principalmente por razones legales.

También es importante no dejarse engañar por la calidad del lenguaje producido por ChatGPT y entender que aún existen limitaciones en sus capacidades. Los modelos de lenguaje pueden acceder a información que puede contener sesgos (que muchas veces conducen a la discriminación por raza o género). Además, los datos con los que se entrena el modelo de lenguaje pueden ser incompletos: ChatGPT solo se entrenó con datos obtenidos de Internet hasta el año 2021, por lo que desconoce los hechos sucedidos en años posteriores (por ejemplo, es imposible hacer preguntas sobre el mundial de fútbol de Qatar 2022 y obtener respuestas correctas). Por último, existen problemáticas éticas asociadas con los modelos de lenguaje, ya que empoderan a las personas para interactuar masiva y automáticamente con otras personas, lo que podría utilizarse para difundir información falsa, así como para distintas formas de propaganda basadas en el engaño y la manipulación.

Quizás una de las limitaciones más curiosas de los modelos de lenguaje, y la que más tiene que ver con el comportamiento humano, es su exceso de confianza. ChatGPT tiende a responder preguntas de forma incorrecta en lugar de no responder o decir que no conoce la respuesta. Es comprensible que un programa de computadora entrenado para producir lenguaje humano adquiera algunos hábitos humanos, incluso aquellos que son cuestionables. Esto plantea una pregunta fundamental, muy difícil de responder, pero que debe ser abordada en las décadas siguientes: ¿realmente queremos que las computadoras se comporten de manera similar a nosotros y actúen como nosotros? ¿Es el objetivo final de la inteligencia artificial imitar el intelecto humano, o se trata de descubrir nuevas formas de pensar y razonar que incluso puedan superar a las nuestras? Hace algunas décadas, estas preguntas solo se encontraban en libros de ciencia ficción, pero hoy son inminentes e inevitables.

*Investigador BrainLat, Escuela de Psicología UAI