Columna de Constanza Michelson: Los algoritmos no son neutrales, son ideológicos

Hay dos supuestos bajo los que el sentido común occidental opera. Primero, que el progreso es una línea recta hacia delante, si algo es nuevo entonces es moderno. Y segundo, que somos libres en nuestras elecciones personales.

Si Freud, el creador del psicoanálisis, fue vapuleado en el siglo XIX y lo es también hoy, es porque precisamente vino a desmontar estas dos ideas. "No hay progreso" afirmó en 1930 en su ensayo El malestar en la cultura, constatando cómo a veces la técnica sólo aporta aceleración a objetivos para nada modernos, como la industrialización de la muerte y la barbarie. Porque el mal y el bien van trenzados en todo proyecto humano. "El Yo no es amo en su propia casa", fue otra de sus aseveraciones; y si la idea de que no somos transparentes a nosotros mismos no le gustó a la racionalidad de su tiempo, menos prende en el nuestro, que está enfermo de narcisismo.

A estas alturas ya hemos escuchado sobre algo llamado algoritmos, los que a partir de grandes concentraciones de datos pueden predecir qué cosas necesitamos, o intervenir en nuestras preferencias. Sin embargo, cuando la coincidencia es excesiva, la mayoría decimos: "No puede ser, nos están escuchando". Nos ponemos paranoicos porque, al igual que como operan las ideologías, suponemos que la falsa conciencia sólo la padecen los demás; lo realmente inaceptable para las cabezas modernas es que somos manipulables, hackeables.

Si hay un campo que pensamos está libre de influencias es el del amor. Lo cierto, es que la discoteca nunca fue un lugar libre (¿pudo alguien pasarlo bien alguna vez, si andaba en plan de búsqueda?): como cualquier mercado está atravesado por categorías que nos ubican en algún lugar de la pirámide de valor sexual. La periodista Judith Duportail, demostró cómo Tinder, plataforma del amor moderno, también puede ser un acelerador de las barbaries pasadas.

En su libro El algoritmo del amor, un viaje a las entrañas de Tinder, Duportail anda detrás de su puntaje. Porque, sí, Tinder nos ubica en un ranking, del cual se desconocen sus criterios y que nos hace visibles para ciertos perfiles por sobre otros. No es cierto que podamos hacer match con cualquiera que se nos cruce. ¿Cómo nos puntúan?, ¿respeta ese cálculo nuestra dignidad?, son preguntas que la periodista se hace y que no pudo responder hasta que, gracias a un hacker, se entera de que ella es un 5,5. ¿Qué diablos significa eso en la vida? ¿Según quién somos un 5, un 7 o un 10? ¿Acaso los desarrolladores, con sus trajes de futuro, son expertos en relaciones sentimentales?

Desde Tinder se rehusaron a responderle, sin embargo, con la ayuda de una especialista en tecnología llegó a la patente de la aplicación, que es algo así como la declaración de principios de la plataforma. Y encontró que, a pesar de que Tinder publicitariamente se presenta como progresista, reproduce lógicas amorosas machistas y anticuadas. Por ejemplo, le sube el puntaje a varones con alto nivel educacional y económico mientras que estas mismas características en una mujer le restan puntos. Esto porque se basa en el supuesto de que los hombres heterosexuales prefieren a mujeres inferiores a ellos y viceversa.

Lo nuevo no siempre es moderno: Tinder está programado por dueños premodernos bajo el aspecto de una aplicación posmoderna.

Un algoritmo nunca es neutral, es una opinión. El algoritmo es político.

En San Francisco se prohibió la tecnología de reconocimiento facial porque arrojaba más falsos positivos en población negra. Había sido programada con un sesgo racista. Y estos días Elon Musk invierte grandes sumas de dinero en Neurolink, una compañía que pretende conectar el cerebro humano a la máquina, primero con fines médicos, luego para ser pioneros en cyborgs. El problema no es la tecnología, sino que un algorítmo frenético por llegar a Marte esté definiendo problemas filosóficos y éticos fundamentales, como qué entenderemos por lo humano en el futuro próximo.

Se supone que ya Dios ha muerto, pero lo cierto es que nunca existió uno como hoy, tan independiente de la voluntad humana y tan transparente: los algoritmos intervienen nuestras elecciones, mientras cada uno cree que está actuando en libertad.