Twitter se disculpó por su algoritmo que recorta imágenes con un sesgo racial

Twitter presentó sus disculpas por un algoritmo que cuenta con un sesgo racial al recortar las imágenes que son subidas a su plataforma.

Su comentario surgió luego de que diversos usuarios descubrieron que la imágenes automáticamente se focalizaban en los rostros blancos en desmedro de los negros.

El ejemplo más comentado involucró una imagen que involucraba al senador Mitch McConnell, líder republicano que ampara las medidas impulsadas por Donald Trump, y el expresidente de los Estados Unidos, Barack Obama.

Posteriormente se hicieron otros ejemplos, ya sea cambiando el color de la corbata o invirtiendo los colores.

Desde Twitter explicaron que el algoritmo fue revisado sobre la parcialidad de su detección antes de implementarlo, aunque ahora reconocen que las pruebas parecen no haber sido suficientes.

“Nuestro equipo probó el sesgo antes de enviar el modelo y no encontró evidencia de sesgo racial o de género en nuestras pruebas. Pero a partir de estos ejemplos queda claro que tenemos más análisis por hacer. Continuaremos compartiendo lo que aprendemos, las acciones que tomamos y abriremos nuestro análisis para que otros puedan revisar y replicar", explicó un portavoz de la red social.

Twitter recorta las imágenes automáticamente para evitar que ocupen demasiado espacio en el timeline principal y para permitir que se muestren varias imágenes en el mismo tweet. La empresa utiliza herramientas algorítmicas para asegurarse de que las caras y el texto permanezcan en la parte recortada de una imagen.

La detección de este problema en particular se generó tras los mensajes del usuario Colin Madland, quien lo dejó al descubierto tras comentar un problema con la aplicación de videollamadas Zoom. El rostro de un compañero de facultad afroamericano era eliminado al utilizar los fondos virtuales de Zoom.

Para finalizar, solo queda remarcar que toda la situación también dio pie a ejemplos de corte meme para este incidente, incluyendo a Carl y Lenny de Los Simpson.