El siniestro caso de la joven que fue asesinada hace 18 años y reapareció en un chatbot de Inteligencia Artificial

La mañana del 2 de octubre, Drew Crecente recibió una notificación de Google en su teléfono.

Cuando tomó su dispositivo, descubrió que su hija Jennifer Ann Crecente había reaparecido en un nuevo perfil en internet.

En la cuenta aparecía su nombre completo, una foto de su anuario y una biografía falsa que indicaba que era “periodista de videojuegos y experta en tecnología, cultura pop y periodismo”.

Drew quedó horrorizado ante lo que veía: 18 años antes, Jennifer había sido asesinada a tiros por su novio en la ciudad de Austin, Texas.

Todo apuntaba que tanto el nombre como la imagen de su única hija habían sido empleados sin permiso para crear un chatbot de Inteligencia Artificial en Character, plataforma que permite a los usuarios desarrollar personajes y conversar con ellos.

Drew Crecente ha indicado en diversas entrevistas que enfrentó una ola de emociones al descubrir que la imagen de su hija asesinada estaba siendo usada como un chatbot de IA sin que la familia estuviera enterada.

“Al principio estaba confundido”, dijo al medio Daily Mail. “Esa confusión rápidamente se convirtió en pavor y enojo cuando comencé a darme cuenta de que, de alguna manera, un servicio estaba brindando los medios para que los usuarios pudieran chatear con mi amada y fallecida hija”, agregó.

El caso de Jennifer conmocionó a la comunidad de Austin en 2006.

La joven, de entonces 18 años, estaba en su último año de secundaria y tenía una relación abusiva con Justin Crabbe. Después de desaparecer en febrero de ese año, su cuerpo fue encontrado en una zona boscosa de la ciudad. Los investigadores determinaron después que Crabbe la llevó al bosque y la asesinó a tiros, tras lo cual fue declarado culpable de asesinato. Hoy sigue cumpliendo una condena de 35 años de prisión.

Su muerte también fue un duro golpe para sus padres, Drew y Elizabeth. Cada uno de ellos decidió crear organizaciones sin fines de lucro, en homenaje a su hija, para prevenir la violencia de género durante la adolescencia.

El caso también impulsó nuevas legislaciones en Texas: una que busca que los distritos escolares tengan políticas en relación a la violencia en citas en la adolescencia, y otra que tiene por fin otorgar diplomas póstumos a aquellos estudiantes que han fallecido antes de graduarse.

Drew ha explicado que no tiene claro cuándo se creó el chatbot, ni mucho menos quién fue el responsable de quién lo publicó.

El hallazgo se produjo debido a que, por la organización que dirige, Google rastrea si su hija es nombrada y le manda alertas cada vez que eso sucede. Ese 2 de octubre, la notificación lo llevó al perfil falso de Jennifer en Character.

El chatbot mostraba una descripción de la adolescente como si aún estuviera con vida, indicando que “siempre está al día de las últimas noticias del mundo del espectáculo” y que tenía experiencia en noticias de videojuegos.

Para el momento en que Drew descubrió el perfil, este indicaba que se había empleado en más de 60 chats. Poco después se comunicó por correo con Character para exigir que eliminaran el chatbot y, además, guardaran los datos de su creador.

Él no fue el único que intentó contactar a la compañía de Inteligencia Artificial por lo ocurrido. El tío de Jennifer, Brian Crecente, quien fundó sitios de videojuegos como Kotaku y Polygon, hizo una publicación en X para exigir que se pusiera fin a “este tipo de práctica terrible”.

Minutos después, Character respondió el tweet de Brian y aseguró que habían sacado del sistema el chatbot basado en Jennifer por violar las políticas de suplantación de identidad de la empresa. “Analizaremos si se justifican otras medidas”, agregaron.

Character es una startup que fue fundada en 2021 por Noam Shazeer y Daniel De Freitas, quienes trabajaron durante varios años en Google. Ambos renunciaron a la empresa después de que esta se negara a lanzar el servicio de chatbot que habían creado, alegando motivos de seguridad.

El objetivo de Character es que, a través de la Inteligencia Artificial, los usuarios tengan la posibilidad de generar y personalizar chatbots según sus propios intereses. Una vez que estos son creados, pueden ser publicados en la aplicación para que más personas conversen con ellos.

Los personajes pueden estar inspirados en figuras públicas, que van desde Taylor Swift hasta Elon Musk. Otros se basan en personajes de ficción, como Frodo Bolsón.

Cabe destacar que, en agosto de este año, Character firmó un acuerdo no exclusivo con Google para que use su tecnología. El gigante tecnológico también volvió a contratar a Shazeer y De Freitas.

La aplicación no ha estado exenta de ser cuestionada desde que fue lanzada, principalmente porque brinda la posibilidad de interactuar como si el otro fuera un humano y podría generar dependencia en algunas personas. Ahora, con el caso de Crecente, se abren nuevas inquietudes sobre el respeto hacia las víctimas de asesinato y la protección de datos en medio del boom que ha experimentado la Inteligencia Artificial.