Las normas comunitarias de prohibición de contenidos en plataformas de redes sociales son claras. No se permite la difusión de desnudos, incitaciones al odio, promoción del terrorismo, acoso o vulneración de los derechos de autor, entre otros temas.

Esas reglas se aplican constantemente. Las cuentas de los usuarios son bloqueadas. Casos que han tenido especial relevancia son las censuras a imágenes desnudos femeninos. Restricciones que no han estado exentas de polémicas. Ocurrió así en 2015, cuando Facebook bloqueó la cuenta de un francés que publicó una fotografía sobre el cuadro El origen del mundo, de Gustave Courbet, que  muestra la vagina de una mujer.

Hoy esos mecanismos enfrentan una nueva polémica, por la difusión en vivo del ataque terrorista que se produjo en dos mezquitas en Nueva Zelandia donde murieron 49 personas. Y esas impactantes imágenes de alto grado de violencia fue transmitido por el atacante a través del servicio de video de Facebook Live, de esa red social.

El atacante llevaba una cámara GoPro en su cabeza. Transmitió en vivo a través de su página de Facebook cómo asesinaba a esas personas presentes en la mezquita de Masjid Al Noor.

Facebook a través de su cuenta de Twitter informó que interceptaron el video para sacarlo de la web rápidamente. "La policía nos alertó de un video en Facebook poco después de que comenzara el slipstream y rápidamente eliminamos tanto la cuenta de los tiradores como las cuentas integradas y el video. También estamos eliminando cualquier alabanza o apoyo para el crimen del el tirador o tiradores", dijo la empresa.

Sin embargo, ante el gran número de personas que lo han compartido, se vuelve imposible que desaparezca de las redes.

Tiempo real

¿Crees que fallaron los mecanismos de protección? Juan Carlos Lara, Research and Public Policy Manager de Derechos Digitales, indica que esté caso deja en evidencia que no funcionaron. A pesar de que Facebook tiene moderadores humanos y además usa (y entrena), mecanismos de detección automatizada de contenidos, explica, es difícil una moderación en tiempo real infalible. "En particular, porque la escala es enorme: son miles de millones de cuentas produciendo contenido continuamente. Aunque Facebook ha expresado que ha mejorado en la detección y el control de esos contenidos, es una tarea difícil".

Esos mecanismos automatizados no fueron tan efectivos con horror e impacto de esas imágenes, cómo lo han sido con los desnudos de mujeres. "Sí, los mecanismos automatizados y humanos han sido mucho más efectivos y estrictos con la desnudez (femenina) que con discursos de odio, acoso, incitación a la violencia, y promoción del terrorismo", indica Lara.

Que ocurra eso, explica Lara, tiene que ver con la naturaleza del contenido. Puede ser más fácil de detectar en el primer caso, especialmente con herramientas automatizadas, donde ha sido más fácil distinguir ciertas características en imágenes o video, que en textos o imágenes con alusiones violentas pero ligeramente menos evidentes. "Pero también tiene que ver con preocupaciones históricas por mantener una plataforma ´limpia´ de pornografía y de cualquier cosa que se le acerque (desde una perspectiva relativamente conservadora y sexista), frente a contenidos violentos que son al mismo tiempo complejos, sujetos a códigos comunicativos y contextuales en constante cambio", sostiene.

A través de un comunicado oficial, Twitter indicó que "nos entristece profundamente lo ocurrido hoy en Christchurch, Nueva Zelandia". Aseguran además que sobre la difusión del video tienen procesos rigurosos y cuentan con un equipo dedicado a manejar situaciones exigentes y de emergencia como ésta. "También cooperamos con la policía para facilitar sus investigaciones según sea necesario".