¿La Inteligencia Artificial de Google tiene sentimientos?

Blake Lemoine, ingeniero y parte del equipo del departamento de Inteligencia Artificial de Google, aseguró hace unos días que LaMDA, un chatbot de Google, era consciente. Lemoine reportó que la alta gerencia de la compañía no quiso escucharlo y por eso decidió contarlo al público. ¿En resumen? Fue suspendido por filtrar en su blog y en redes sociales (Twitter) un extracto de la conversación con el chatbot de la discordia, faltando a las políticas de confidencialidad de la compañía.

Entre algunas frases, LaMDA le habría asegurado que era un ser sintiente: “Quiero que todos entiendan que soy una persona. La naturaleza de mi conciencia/sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces”.

Google aseguró a The Washington Post que “nuestro equipo, formado por especialistas en ética y tecnología, ha revisado las preocupaciones de Blake de acuerdo con nuestros principios de IA y ha concluido que las pruebas no respaldan sus afirmaciones”. En total, LaMDA fue sometida a “11 distintas revisiones de principios de IA”. También se le realizaron “investigaciones y pruebas rigurosas” para determinar que no se había cobrado conciencia como Blake Lemoine afirmó.

Ahora, la misión de un chatbot, efectivamente, es simular una conversación entre humanos. ¿Pero cuál es la frontera entre “conversar” para recibir una ayuda y presenciar la reacción de una máquina que sea capaz de tener una opinión más crítica sobre algunos asuntos?

La Inteligencia Artificial es parte de nuestras vidas hace un buen tiempo: algoritmos que refuerzan las búsqueda en las apps favoritas, recomendaciones de películas y series, avisos publicitarios y tantos otros detalles que evidencian que una máquina o el software que habitan en los smartphones o cualquier chiche tech es capaz de aprender.

Para los fanáticos de la ciencia ficción es imposible no llegar a imaginar un escenario al cual temer. La película Yo, Robot, inspirada libremente en la novela de Isaac Asimov, postula un planeta Tierra donde los robots (con formas humanoides) conviven con la humanidad, pero se revela que uno de ellos siente y reflexiona, mostrando que posee una identidad y que exige ser reconocido como un individuo. El problema no es este personaje, sino que en paralelo al argumento principal, se descubre que el software que controla al resto de las máquinas está planeando una revolución tal, que finalmente pone en peligro a la humanidad. La base de esta película es construida con lo propuesto por el escritor de ciencia ficción y académico Isaac Asimov, donde se describe la primera regla para los robots: nunca dañar a los seres humanos. Pero este principio es violado en el filme.

¿Qué tan lejos estamos de un escenario así, si un software asegura que “siente”? ¿Qué pasa si en el sentir esta app genera un sentimiento negativo hacia alguna persona? Aún estamos a tiempo de reclamar seguridad, porque no existen protocolos globales para el resguardo de la vida humana frente a esta tecnología que avanza tan rápido. Es más, estamos tan atrás, que todavía no hay luz verde para que nuestros datos privados sean protegidos (con garantías eficientes) en las redes sociales. Y si estamos aún construyendo esas barreras, ¿quién nos asegura que pronto se trabajará para levantar protocolos frente al “sentir” de robots con inteligencia artificial?

Estamos en el mejor escenario para configurar nuestro nuevo destino e invitar a las grandes empresas tech a liderar esta conversación con hechos, nuevos límites y garantías, más allá de las ofrecidas individualmente como compañías. No es ponerse el parche antes de la herida, sino avanzar con inteligencia y estrategia a un mundo que nos sigue sorprendiendo y que cada vez más estas noticias se harán protagonistas de la agenda nacional e internacional.