El abrigo del Papa, Trump detenido y ahora Pablo Iglesias: cómo las fotos hechas con IA engañan a la gente

“ESTO ES MUY GRAVE. El diario El Mundo usa en su portada del día 4 de abril 2023 una foto creada por inteligencia artificial”, señala un usuario en redes sociales.

El comentario hace alusión a la última polémica que ha generado la Inteligencia Artificial, tecnología que en las últimas semnanas ha estado envuelta en varias polémicas. En la cuestionada imagen, catalogada como la “imagen imposible” se aprecia a Pablo Iglesias, exlíder de Podemos, y Yolanda Díaz, vicepresidenta segunda, ministra de Trabajo y líder de Sumar, de la mano y aparentemente felices.

Si bien los montajes existen hace décadas, el hecho de que sea a través de Inteligencia Artificial, una tecnología supuestamente creada para el desarrollo de diversas innovaciones, causa mayor polémica. Incluso los autores de la portada señalaron que les parece exagerada la polémica.

La Inteligencia Artificial (IA) está en boca de todos. Ya sea por las implicancias que ha generado ChatGPT, la reciente carta firmada por Elon Musk y grupo de líderes tecnológicos, pidiendo pausar su desarrollo o el reciente video que “revive” a Felipe Camiroaga, es la tecnología del momento, tanto positiva como negativamente. No pasa desapercibida.

A la “imagen imposible” se suman una serie de publicaciones falsas, como es el caso de la fotografía del abrigo del Papa o la que mostraba al expresidente de Estados Unidos, Donald Trump, detenido. En ambos casos, se trataba de imágenes falsas creadas por IA, las que finalmente engañaron a quienes las vieron.

La creación de este contenido no es casualidad, tiene un responsable. Se trata del colectivo @unitedunknown, quienes han aprovechado todas las “bondades” que ofrece esta tecnología, para utilizarla con fines poco éticos. Logran el resultado utilizando entre 100 y 200 fotografías como base. Bajo este escenario, surge el habitual debate en torno a la IA, y la imperiosa necesidad de regularla.

Rolando Martínez, director ejecutivo del Centro Nacional de Inteligencia Artificial (Cenia) señala que las imágenes creadas con IA son una tremenda ayuda para comunicar de forma clara las ideas de diseño, conceptos audiovisuales, reforzar ideas. Pero en el uso de esas imágenes hay que considerar varios riesgos.

Por ejemplo, “repetir sesgos sobre las personas. Por ejemplo, que cuando le pidas fotos de personas cuidando niños, genere más mujeres que hombres, o si le pides fotos de hackers, sean prototipos masculinos con la cabeza tapada por una capucha. Se reportó en la web un tiempo atrás que una aplicación que generaba avatares en base a una foto real, producía avatares con menos ropa para las mujeres asiáticas que para las de otras etnias”, establece Martínez.

También, “generar versiones muy parecidas a trabajos de artistas, y entonces hay un problema de apropiación de ese trabajo sin pagar por los derechos de autor, generar fotos de personas que son iguales a sus datos de entrenamiento, y entonces no es una persona “ficticia”, sino que una persona real y que se puedan usar para generar comunicaciones falsas con las personas, induciéndolas a creer que la información recibida proviene de una fuente oficial”, añade el director ejecutivo del Centro Nacional de Inteligencia Artificial (Cenia).

Manu Chatlani, director ejecutivo de la Agencia Digital Jelly, establece que vivimos en un mundo que camina realmente al borde de la distopia. “Efectivamente la curva de innovación solo se va a acelerar y a nivel de Inteligencia Artificial (como ya pasó con Facebook), tendremos que enfrentarnos a videos e imágenes artificiales falsas, o posibles suplantaciones (imagino a nivel político esto puede ser brutal) y desinformación”.

No es peligroso, pero otra cosa que pudiera ocurrir es que el trabajo generado no se percibe real, o le falta originalidad, añade Martínez. “Hoy no hay límites para el uso de la tecnología generativa de imágenes. Se está discutiendo la posibilidad de colocar a imágenes y videos generados por inteligencia artificial una “marca de agua” que permita que las personas se den cuenta que no es una persona real o bien si es una persona real, pero el video está trucado, haciendo ciertas cosas que nunca dijo (las famosas deepfakes). En algunos países está especialmente regulado el uso de los deepfakes si es que incurren en conductas como la pornografía”, explica.

Cada país debe generar sus propias regulaciones, “y es ideal que las empresas de IA prevengan los malos usos de la tecnología”, considera el directo ejecutivo del Cenia.

La tecnología e innovación no suelen tener límites. “Lo que necesitamos es autoridades que vayan a esa velocidad para regular y poder sancionar a quienes usen Inteligencia Artificial (u otra tecnología) para desinformar, mentir y engañar. Todo esto no solo llegará más lejos. Cada vez acelera a mayor velocidad. Son ciclos más cortos. Ahora, la Inteligencia Artificial y la tecnología en general nos brindarán grandes beneficios. El tema es que hay que ir a esa misma velocidad para poder minimizar los efectos negativos. Detener la innovación nunca es el camino”, dice Chatlani.