De Taylor Swift a inocentes colegialas: ¿Qué es la pornografía deepfake y cuál es el país más afectado?

Es difícil hablar de inteligencia artificial sin hablar de pornografía deepfake, un subproducto dañino de la IA que se ha utilizado para atacar a todo el mundo, desde Taylor Swift hasta colegialas australianas.

Pero un informe reciente de la startup Security Heroes descubrió que de 95.820 videos pornográficos deepfake analizados de diferentes fuentes, el 53% presentaba a cantantes y actrices surcoreanas, lo que sugiere que este grupo es un objetivo desproporcionado.

Entonces, ¿qué hay detrás del problema de las deepfakes en Corea del Sur? ¿Y qué se puede hacer al respecto?

Los deepfakes son fotos, vídeos o archivos de audio manipulados digitalmente que muestran de forma convincente a alguien diciendo o haciendo cosas que nunca hizo. Entre los adolescentes surcoreanos, la creación de deepfakes se ha vuelto tan común que algunos incluso lo consideran una broma. Y no solo se dirigen a las celebridades.

En Telegram, se han creado chats grupales con el propósito específico de cometer abusos sexuales a través de imágenes contra mujeres, incluidas estudiantes de secundaria y preparatoria, profesoras y familiares. Las mujeres que tienen sus fotos en plataformas de redes sociales como KakaoTalk, Instagram y Facebook también son atacadas con frecuencia.

Los perpetradores utilizan robots de inteligencia artificial para generar imágenes falsas, que luego se venden o difunden indiscriminadamente, junto con las cuentas de redes sociales, números de teléfono y nombres de usuario de KakaoTalk de las víctimas. Un grupo de Telegram atrajo a unos 220.000 miembros, según un informe de The Guardian.

A pesar de que la violencia de género causa daños significativos a las víctimas en Corea del Sur, sigue habiendo una falta de concienciación sobre el problema.

Corea del Sur ha experimentado un rápido crecimiento tecnológico en las últimas décadas. Ocupa el primer lugar en el mundo en cuanto a número de propietarios de teléfonos inteligentes y se dice que tiene la mayor conectividad a Internet. Muchos puestos de trabajo, incluidos los de restaurantes, la industria manufacturera y el transporte público, están siendo reemplazados rápidamente por robots e inteligencia artificial.

Pero, como señala Human Rights Watch, el progreso del país en materia de igualdad de género y otras medidas de derechos humanos no ha seguido el ritmo del avance digital. Y las investigaciones han demostrado que el progreso tecnológico puede, en realidad, exacerbar los problemas de violencia de género.

Desde 2019, los delitos sexuales digitales contra niños y adolescentes en Corea del Sur han sido un gran problema, en particular debido al caso “Nth Room”, que involucró a cientos de víctimas jóvenes (muchas de las cuales eran menores de edad) y alrededor de 260.000 participantes que compartían contenido íntimo explotador y coercitivo.

El caso desencadenó una indignación generalizada y demandas de mayor protección. Incluso condujo al establecimiento de condiciones más estrictas en la Ley de Casos Especiales Relacionados con el Castigo de Delitos Sexuales de 2020. Pero a pesar de esto, la Fiscalía Suprema dijo que solo el 28% del total de 17.495 delincuentes sexuales digitales capturados en 2021 fueron procesados, lo que pone de relieve los desafíos actuales para abordar eficazmente los delitos sexuales digitales.

En 2020, el Grupo de Trabajo sobre Delitos Sexuales Digitales del Ministerio de Justicia propuso alrededor de 60 disposiciones legales, que aún no han sido aceptadas. El equipo se disolvió poco después de la toma de posesión del gobierno del presidente Yoon Suk Yeol en 2022.

Durante la campaña presidencial de 2022, Yoon afirmó que “no hay discriminación estructural de género” en Corea del Sur y se comprometió a abolir el Ministerio de Igualdad de Género y Familia, el principal ministerio responsable de prevenir la violencia de género. Este puesto permanece vacante desde febrero de este año.

Pero la IA no siempre es dañina, y Corea del Sur también es una prueba de ello. En 2022, un centro de apoyo digital contra delitos sexuales dirigido por el gobierno metropolitano de Seúl desarrolló una herramienta que puede rastrear, monitorear y eliminar automáticamente imágenes y videos deepfake las 24 horas del día.

La tecnología, que ganó el Premio de Administración Pública de las Naciones Unidas en 2024, ha ayudado a reducir el tiempo que lleva encontrar deepfakes de un promedio de dos horas a tres minutos. Pero si bien estos intentos pueden ayudar a reducir el daño adicional que causan los deepfakes, es poco probable que sean una solución exhaustiva, ya que los efectos en las víctimas pueden ser persistentes.

Para lograr un cambio significativo, el gobierno debe exigir a los proveedores de servicios, como las plataformas de redes sociales y las aplicaciones de mensajería, que se responsabilicen de garantizar la seguridad de los usuarios.

El 30 de agosto, el gobierno de Corea del Sur anunció planes para impulsar una legislación que penalice la posesión, compra y visualización de deepfakes en Corea del Sur.

Sin embargo, las investigaciones y los juicios pueden seguir siendo insuficientes hasta que los deepfakes en Corea del Sur sean reconocidos como una forma dañina de violencia de género. Será necesario un enfoque multifacético para abordar el problema de los deepfakes, que incluya leyes más estrictas, reformas y educación.

Las autoridades surcoreanas también deben ayudar a mejorar la conciencia pública sobre la violencia de género y centrarse no sólo en apoyar a las víctimas, sino también en desarrollar políticas proactivas y programas educativos para prevenir la violencia en primer lugar.

*Sungshin (Luna) Bae, Estudiante de doctorado, funcionaria pública especial de políticas de igualdad de género en la Fiscalía Suprema de Corea del Sur, Universidad de Monash