Facebook debió apagar una inteligencia artificial que creó un lenguaje propio

ia

La IA parece generar más dudas y problemas para los desarrolladores en el corto y mediano plazo.


Hace unos días les comentábamos las diferencias que enfrentan a Elon Musk y Mark Zuckerberg sobre la inteligencia artificial (IA). Ahora les contamos cómo a Facebook le explotó en la cara un experimento sobre esa tecnología que tanto defiende su fundador.

Un equipo de Investigación IA de Facebook (FAIR, por sus siglas en inglés) desarrolló un sistema entre dos agentes inteligentes, los que debían negociar. Al inicio, funcionaban según lo esperado, pero al cabo de unos días, Bob y Alice --como se bautizó a estas dos IA-- crearon un lenguaje ininteligible para los humanos.

Según publica Fast Co. Design, que tuvo acceso a los diálogos, los agentes artificiales empezaron a usar palabras que no tenían sentido. Sin embargo, al analizarlo lo que realmente ocurrió es que la IA evolucionó la estructura de las conversaciones para hacerlas más eficientes y sin los adornos que un humano ocupa a la hora de negociar.

[caption id="attachment_17813" align="aligncenter" width="894"]

bob-alice.png
Captura de las conversaciones "sin sentido" entre Alice y Bob. Imagen: Facebook

Captura de las conversaciones "sin sentido" entre Alice y Bob. Imagen: Facebook[/caption]

El diseño del programa motivaba a los agentes a responder bajo recompensa. Al notar que el inglés no les generaba recompensa, modificaron el lenguaje a uno que consideraron más eficiente.

"Los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos", explicó Dhruv Batra, miembro del equipo de investigación de IA en Facebook.

Ante la incapacidad de poder entender lo que se decía, finalmente el equipo decidió apagar el experimento ante la probabilidad de perder el control del mismo. No porque pudiera escaparse a la red u otro, sino más bien porque al no entender la situación, no sabrían nunca cómo corregirlo.

Digital Journal, que también reportó el caso, señaló que no es la primera vez que una IA crea su propio lenguaje. Dentro de la fundación OpenAI, fundada por Elon Musk, un experimento también comprobó que las IA desarrollaban su propia manera de comunicarse.

Google mismo introdujo IA a su traductor, lo que elevó la tasa de éxito de traducciones entre idiomas que incluso no habían sido completamente enseñados.

De todas maneras, el caso plantea una dificultad para los desarrolladores, quienes podrían enfrentarse cada vez a más situaciones donde queden sin entendimiento con la máquina inteligente.

A su vez, no se sabe si esto en un futuro podría significar que una IA anule a sus propios operadores.

Comenta

Por favor, inicia sesión en La Tercera para acceder a los comentarios.