Un grupo de alumnos -usando aplicaciones de inteligencia artificial- fabricó imágenes falsas de sus compañeras para que parecieran desnudas.
Ha pasado en España, Perú, México, Ecuador, Estados Unidos y Canadá. Y también en Chile, pues se conoció el que sería el primer caso, en el colegio Saint George’s. Ningún país estaba bien preparado, han reaccionado sobre la marcha, y a menudo existen controversias y discrepancias entre autoridades educativas, colegios y padres respecto de los procedimientos y las sanciones. El colegio Saint George’s asegura haber aplicado los protocolos, sin embargo, la Corte de Apelaciones de Santiago declaró admisibles esta semana los recursos de protección interpuestos por algunos padres y madres de alumnas. Asimismo, la Fiscalía Metropolitana Oriente empezó una investigación para determinar si se configuran los ilícitos de trato degradante y uso de material pornográfico infantil.
Estos hechos son de la mayor seriedad, pues “el uso de imágenes no consentidas generadas por IA para acosar, humillar e intimidar a mujeres jóvenes puede dañar su salud mental, su reputación y su seguridad física, así como plantear riesgos para sus perspectivas universitarias y profesionales”, aseguraron varios expertos al New York Times en un informe sobre el tema.
¿Cómo enfrentar este tema tan complejo? Primero, contando con regulaciones y legislaciones especializadas. En Estados Unidos, el Consejo de Género de la Casa Blanca ha advertido de la proliferación del «abuso sexual basado en la imagen» y les ha exigido a las empresas tecnológicas que combatan la creación y distribución de pornografía deepfake. Al mismo tiempo, el FBI advirtió con claridad que es “ilegal distribuir material de abuso sexual infantil generado por computador”, incluidas imágenes de aspecto realista generadas por IA de menores identificables. Varios estados norteamericanos ya penalizan la creación y difusión de estas imágenes y otros más están analizando hacerlo.
En Chile, en cambio, habría una ambigüedad legal, pues, según algunos abogados, no existiría un tipo legal específico para aplicar en casos como este (sin embargo, la Fiscalía está analizando dos posibles ilícitos mencionados antes). Para mayor certeza, más que crear un nuevo proyecto de ley, podría ser más eficaz hacerle indicaciones a un proyecto ya en trámite, la llamada “Ley Pack”, presentada por la diputada Maite Orsini y la entonces diputada y hoy ministra Maya Fernández, en 2019. Esta ley penaliza la difusión no consentida de imágenes con contenido sexual y fue aprobada en primer trámite en la Cámara de Diputados. Hacerle indicaciones acerca del uso de IA haría mucho más expedito el trámite. (Mientras se legisla con tanto sentido de urgencia sobre la “Ley Pajarete”, podría haber un espacio para discutir cómo prevenir y sancionar la violencia digital contra las niñas).
Quizás más importante que la ley, es fundamental relevar el rol de la educación como factor preventivo de este tipo de situaciones. La violencia digital, sobre todo, afecta a las mujeres, sea con desnudos construidos con deepfakes (99% tiene a niñas de víctimas), sea por amenazas u otro tipo de ataques hostiles en redes sociales, donde hay un ensañamiento contra las mujeres, ampliamente documentado. Este tipo de abusos les “está sucediendo desproporcionadamente a las mujeres, las niñas y las personas LGBTQIA”, dice Arati Prabhakar, directora de Política Científica y Tecnológica de Estados Unidos.
Es esencial, entonces, enseñar, desde la primera infancia, los valores de la igualdad en dignidad y derechos entre mujeres y hombres, de modo de no crear condiciones que habiliten acosos y abusos, ya sea en el mundo real o en el digital, un espacio donde a veces los y las jóvenes pasan la mayor parte de su tiempo. Esa educación en la igualdad entre niñas y niños, que es justamente lo que significa promover la perspectiva de género en la educación, debiera ser un consenso lo más transversal posible. Aunque algunos la han descalificado, la prevalencia de la violencia contra las mujeres evidencia la necesidad de educar con esa perspectiva, para no fomentar estereotipos que luego están en la base de las discriminaciones en distintos ámbitos. Esto es más urgente que nunca, pues diversos estudios, tanto en Chile como globales, muestran una gran y creciente brecha entre las mujeres y los hombres jóvenes, entre otras materias, respecto a su percepción y valoración de los avances en igualdad de las mujeres.
Educar sobre el respeto a las mujeres, explicar las formas concretas que puede tomar la violencia contra ellas (por ejemplo, en el mundo digital), ayudaría a prevenir -en los colegios, las familias y la sociedad en general- hechos tan lamentables como los ocurridos a muchas niñas en distintas partes del mundo y a las alumnas del Saint George’s.
Las imágenes son falsas. Pero los daños, muy reales.
