“Desnudadas mediante Inteligencia Artificial: ¿cómo se detiene?”

Hace algunas semanas en un colegio privado de Lima (Perú), y luego en Almendralejo (España), se repitió la misma situación: adolescentes varones de 12 a 14 años manipulan, usando inteligencia artificial, fotografías de sus compañeras de colegio para hacerlas parecer desnudas y compartir o vender ese contenido. Las afectadas son niñas también de 12 a 14 años.

Estudios internacionales han relacionado la exposición temprana a pornografía con actitudes no realistas de lo que es el sexo y se ha asociado con conductas sexuales más agresivas, además de una percepción negativa del propio cuerpo, y un menosprecio hacia las mujeres. Este fenómeno quizás es otro ejemplo de esa relación ¿Puede una Ley evitar que más adolescentes sigan utilizando abusiva y maliciosamente estas tecnologías para dañar a sus compañeras? No es realista esperar aquello, ya que la ley siempre llegará tarde.

Solo en Chile, la llamada “Ley Pack”, que penaliza la difusión no consentida de imágenes con contenido sexual, presentada por las diputadas Maite Orsini (RD) y Maya Fernández (PS) en 2019 y aprobada en primer trámite en la Cámara de Diputados, duerme en el Senado (y esa ley, ni siquiera considera explícitamente la posibilidad de creación de imágenes con IA).

Si bien existe una responsabilidad colectiva, que involucra a los gobiernos, las empresas y plataformas –y hay que exigirles rendir cuentas y prevenir estos episodios-, la primera línea de contención y defensa contra la creación misma de este tipo de contenidos son y serán los padres y educadores.

La educación afectiva y sexual debe venir desde la casa y la escuela, y no desde un video pornográfico, padres deben conversar con sus hijos sobre la idea del consentimiento y preocuparse de que entiendan las correctas expresiones del género (no es más macho quien más fotografías o videos intercambia), deben aprender sobre el respeto, la empatía y lo que significa el acoso, pero también deben conocer que la producción y distribución de pornografía infantil está prohibida y es duramente castigada.

Es clave también, para evitar las consecuencias negativas de estas prácticas, el reforzamiento de vínculos seguros con niños y adolescentes, tanto en términos de las personas que los rodean en su día a día, como con los adultos responsables de su cuidado, para que puedan sentir la confianza de buscar ayuda y denunciar sin temor a ser juzgados o castigados por dar la alarma. Ya que necesitamos que testigos y víctimas recurran lo antes posible a los adultos para detener estas cadenas de distribución de contenidos.

No podemos impedir la revolución digital tampoco que nuevas tecnologías sean usadas maliciosamente, lo que sí podemos y debemos hacer es formar ciudadanos digitales que sepan actuar de una forma ética en la sociedad actual.

*Formando Ciudadanía Digital-Universidad Adolfo Ibáñez.