La posibilidad de generar y modificar imágenes se ha convertido en uno de los mayores riesgos que ha traído consigo el acelerado desarrollo de la inteligencia artificial (IA).
En este sentido, hoy existen distintos sitios de Internet que permiten a los usuarios operar con la tecnología de los deepfakes.
Dicho término hace referencia a crear contenidos en los que se falsifica la identidad de un individuo.
De esta manera, por ejemplo, los implicados pueden usar una fotografía de una persona para generar una imagen o video en los que se le ve desnuda o realizando actos que no ha efectuado realmente.
Aquello suele usarse para crear material pornográfico, mientras que las víctimas pueden ser desde celebridades hasta estudiantes.
Los deepfakes pueden ser utilizados para extorsionar, humillar y/o acosar a las personas en cuestión.
Tales situaciones pueden desencadenar consecuencias en su salud mental y seguridad, además de perjudicar a otros ámbitos de su vida.
Frente a estas amenazas, las autoridades de San Francisco, California, Estados Unidos, presentaron una demanda para cerrar permanentemente 16 sitios web que convierten imágenes de mujeres y niñas en pornografía.
Cómo es la demanda que busca enfrentar las amenazas de los deepfakes
La fiscal adjunta principal de la ciudad, Yvone Meré, confirmó al New York Times que el documento ya fue presentado en un tribunal estatal a mediados de agosto de 2024.
Según dijo el equipo legal, se trataría de la primera demanda gubernamental de este tipo, la cual busca anular páginas que promueven la oportunidad “desvestir” digitalmente y sin el consentimiento de las personas afectadas.
El fiscal municipal David Chiu declaró al citado medio que “nadie ha intentado responsabilizar a estas empresas” por los múltiples daños que provocan.
A pesar de que en diversos estados se han tomado acciones para condenar judicialmente casos de este tipo, el abogado hizo hincapié que en esas situaciones se ha perseguido a los responsables uno por uno.
En cambio, la demanda que hicieron solicita el cierre total de los sitios.
Y aunque son conscientes de que podrían surgir más páginas de estas características, en el escrito proponen ir agregando más a medida que se tenga conocimiento de estas.
Chiu aseguró que las 16 que se incluyen en la demanda fueron visitadas un total de 200 millones de veces solo en el primer semestre de 2024.
También detalló que los responsables son individuos y compañías con sedes en California, Nuevo México, Reino Unido y Estonia.
Cuando desde el Times trataron de contactarse con los voceros de esos sitios, no respondieron a las solicitudes de comentarios o no pudieron ubicarlos.
El fiscal Chiu denunció que los modelos de IA que utilizan son entrenados con pornografía real e imágenes que representan abuso infantil, para así generar los deepfakes con fotografías o videos que son arrebatados y manipulados.
La jefa de la unidad que se dedica a identificar problemas sociales para abordarlos por la vía legal, Sara Eisenberg, subrayó al periódico estadounidense la importancia de que se tomen acciones para enfrentar este escenario.
“Puedes ser tan experto en Internet y en las redes sociales como quieras, y puedes enseñar a tus hijos todas las formas de protegerse en línea, pero nada de eso puede protegerlos de que alguien use estos sitios para hacer cosas realmente horribles y dañinas”, dijo.
Además de los puntos mencionados y las eventuales sanciones, la demanda contempla restringir a los responsables de operar estos sitios web para que no sigan generando pornografía desde otras fuentes.
Pese a que el fiscal Chiu afirmó que los avances de la industrias tecnológicas dedicadas a la IA pueden tener efectos positivos, alertó que los deepfakes son uno de los “lados oscuros” frente a los que se tienen que adoptar medidas con urgencia.
Previamente, en 2018, la abogada que ha trabajado con víctimas de este mecanismo, Ann Olivarius, dijo a la BBC que “es una gran preocupación”.
“Lo que hay detrás es siempre un intento de herir y degradar”, enfatizó, para luego añadir que “es un problema creciente y se manifiesta en nuevas maneras”.
Un informe de la compañía de investigación que rastrea deepfakes en Internet, Sensity AI, detalla que entre el 90% y el 95% de los videos de este tipo corresponden a pornografía sin consentimiento, según rescató El País en marzo de 2023.
De la misma manera, afirman que 9 de cada 10 de estos se refieren a mujeres.
El fundador de EndTAB, Adam Dodge, quien dirige dicha organización dedicada a la educación en usos tecnológicos, sintetizó en 2021 en una entrevista con el Instituto Tecnológico de Massachussets (MIT, por sus siglas en inglés) que se trata de “un problema de violencia contra las mujeres”.
La directora de salud mental forense de la Clínica Keck de Derechos Humanos de la Universidad del Sur de California, Kristen Zaleski, recalcó en 2023 al Washington Post que ver imágenes explícitas de una persona sin su consentimiento es una forma de violencia sexual, independiente de si son reales o falsas (creadas con IA).
Respecto a la demanda que se presentó en San Francisco, los representantes del equipo legal argumentan que los sitios aludidos rompen las leyes estatales sobre pornografía de venganza y pornografía infantil, además de la Ley de Competencia Desleal de California.
Esta última norma, según informó el Times, prohíbe prácticas comerciales ilegales e injustas.
Ahora, las autoridades de dicha ciudad estadounidense están llevando adelante la demanda que busca aplicar las sanciones expresadas en el documento, que fue presentado en el tribunal el miércoles 14 de agosto.
