¿Qué es la “teoría de Internet muerta”? Las siniestras implicancias de una red gestionada por la IA

Si busca “Jesús camarón” (shrimp Jesus) en Facebook, puede encontrar docenas de imágenes de crustáceos generados por inteligencia artificial (IA) entrelazados en diversas formas con una imagen estereotipada de Jesucristo.

Algunas de estas imágenes hiperrealistas han obtenido más de 20.000 me gusta y comentarios. Entonces, ¿qué está pasando aquí exactamente?

La “teoría de la Internet muerta” tiene una explicación: la IA y el contenido generado por bots han superado a la Internet generada por humanos. Pero, ¿de dónde surgió esta idea? ¿Tiene alguna base en la realidad?

La teoría de la Internet muerta esencialmente afirma que la actividad y el contenido en Internet, incluidas las cuentas de redes sociales, son creados y automatizados predominantemente por agentes de inteligencia artificial.

Estos agentes pueden crear rápidamente publicaciones junto con imágenes generadas por IA diseñadas para generar participación (clics, me gusta, comentarios) en plataformas como Facebook, Instagram y TikTok. En cuanto al Jesús camarón, parece que AI ha descubierto que es la última combinación actual de absurdo e iconografía religiosa que se ha vuelto viral.

Pero la teoría de la Internet muerta va aún más lejos. Muchas de las cuentas que interactúan con dicho contenido también parecen estar administradas por agentes de inteligencia artificial. Esto crea un círculo vicioso de compromiso artificial, que no tiene una agenda clara y que ya no involucra a los humanos en absoluto.

A primera vista, la motivación de estas cuentas para generar interés puede parecer obvia: la participación en las redes sociales genera ingresos publicitarios. Si una persona configura una cuenta que recibe una participación inflada, puede obtener una parte de los ingresos publicitarios de organizaciones de redes sociales como Meta.

Entonces, ¿la teoría muerta de Internet se limita a una agricultura de compromiso inofensiva? ¿O tal vez debajo de la superficie se esconde un intento sofisticado y bien financiado de apoyar regímenes autocráticos, atacar a sus oponentes y difundir propaganda?

Si bien el fenómeno Jesús camarón puede parecer inofensivo (aunque extraño), existe potencialmente una estratagema a largo plazo entre manos.

A medida que estas cuentas impulsadas por IA aumentan en número de seguidores (muchos falsos, algunos reales), el alto número de seguidores legitima la cuenta ante usuarios reales. Esto significa que ahí fuera se está creando un ejército de cuentas. Cuentas con un alto número de seguidores que podrían ser implementadas por aquellos con la oferta más alta.

Esto es de vital importancia, ya que las redes sociales son ahora la principal fuente de noticias para muchos usuarios en todo el mundo. En Australia, el 46% de los jóvenes entre 18 y 24 años eligieron las redes sociales como su principal fuente de noticias el año pasado. Esto representa un aumento del 28% en 2022, reemplazando a los medios tradicionales como la radio y la televisión.

Ya hay pruebas contundentes de que estos robots inflados están manipulando las redes sociales para influir en la opinión pública con desinformación, y esto ha estado sucediendo durante años.

En 2018, un estudio analizó 14 millones de tweets durante un período de diez meses en 2016 y 2017. Descubrió que los bots en las redes sociales estaban significativamente involucrados en la difusión de artículos de fuentes no confiables. Las cuentas con un gran número de seguidores legitimaban la desinformación y la desinformación, lo que llevaba a los usuarios reales a creer, interactuar y compartir el contenido publicado por bots.

Se ha descubierto que este enfoque de manipulación de las redes sociales ocurre después de tiroteos masivos en los Estados Unidos. En 2019, un estudio encontró que las publicaciones generadas por bots en X (anteriormente Twitter) contribuyen en gran medida al debate público, sirviendo para amplificar o distorsionar narrativas potenciales asociadas con eventos extremos.

Más recientemente, varias campañas de desinformación prorrusas a gran escala han tenido como objetivo socavar el apoyo a Ucrania y promover el sentimiento prorruso.

Los esfuerzos coordinados, descubiertos por activistas y periodistas, utilizaron robots e inteligencia artificial para crear y difundir información falsa, llegando a millones de usuarios de redes sociales.

Sólo en X, la campaña utilizó más de 10.000 cuentas de bots para publicar rápidamente decenas de miles de mensajes de contenido pro-Kremlin atribuidos a celebridades estadounidenses y europeas que aparentemente apoyaban la guerra en curso contra Ucrania.

En esta escala la influencia es significativa. Algunos informes incluso han descubierto que casi la mitad de todo el tráfico de Internet en 2022 fue realizado por bots. Con los recientes avances en IA generativa –como los modelos ChatGPT de OpenAI y Gemini de Google– la calidad del contenido falso no hará más que mejorar.

Las organizaciones de redes sociales buscan abordar el uso indebido de sus plataformas. En particular, Elon Musk ha explorado exigir a los usuarios de X que paguen una membresía para detener las granjas de bots.

Los gigantes de las redes sociales son capaces de eliminar grandes cantidades de actividad de bot detectada, si así lo desean. (Malas noticias para nuestro amigable Jesús camarón).

La teoría de la Internet muerta no afirma en realidad que la mayoría de sus interacciones personales en Internet sean falsas.

Sin embargo, es una lente interesante a través de la cual ver Internet. Que ya no es para humanos, para humanos: este es el sentido en el que Internet que conocimos y amamos está “muerto”.

La libertad de crear y compartir nuestros pensamientos en Internet y las redes sociales es lo que lo hizo tan poderoso. Naturalmente, es este poder el que los malos actores buscan controlar.

La teoría de la Internet muerta es un recordatorio de que debemos ser escépticos y navegar en las redes sociales y otros sitios web con una mente crítica.

Cualquier interacción, tendencia y especialmente “sentimiento general” bien podría ser sintético. Diseñado para cambiar ligeramente la forma en que percibes el mundo.

*Jake Renzella, director de Estudios (Ciencias de la Computación), UNSW Sydney

*Vlada Rozová, investigador en aprendizaje automático aplicado, Universidad de Melbourne

**Vlada Rozova,