En 2015, ante el rápido crecimiento de la compañía, Amazon solicitó a un equipo del Centro de ingeniería de Edimburgo que diseñara una inteligencia artificial que le permitiera a la empresa agilizar el proceso de selección de personal.
Rápidamente el equipo puso manos a la obra y desarrolló 500 modelos de computador capaces de rastrear la web y detectar candidatos adecuados para puestos específicos de trabajo. Para ello el equipo le enseñó a cada uno de los computadores a reconocer 50 mil términos que habían aparecido en los curriculum de los candidatos pasados, con el fin de que los algoritmos aprendieran a asignar poca importancia a las habilidades que eran comunes en los aspirantes a un determinado puesto.
Pero, según informa Reuters, en lugar de discernir entre los candidatos por sus habilidades, la IA comenzó a discriminar a los principiantes por género. Pese a que Amazon había editado el programa para hacerlo neutral a estos términos, el sistema aprendió por sí mismo a dar preferencia a los candidatos masculinos y descartar los curriculum que incluían la palabra "mujeres" y a las personas graduadas de dos universidades para mujeres que no fueron reveladas por la compañía.
Pero mientras la IA rechazaba a las candidatas mujeres, favorecía aquellos candidatos masculinos que se describían usando verbos como "ejecutivo" y "capaz", que serían comunes entre los curriculum de ingenieros.
Sin embargo, la diferencia de género no fue el único problema con la IA, ya que personas vinculadas al proyecto señalaron a Reuters que a menudo el sistema recomendaba a personas no calificadas para distintos tipos de trabajos.
Ante esta situación Amazon aseguró que desconocía que la inteligencia artificial podían sobrepasar sus medidas anti-discriminación, y que la compañía está enfocada en crear un espacio de trabajo con "diversidad y equidad". Sin embargo, la forma de aprender del sistema indica que la discriminación efectuada por la IA hacia las mujeres apunta un patrón de selección de la industria, desde donde aprendió el programa, más que aun déficit en su programación.
A la luz de este problema, Amazon disolvió la iniciativa en 2017, sin esperanzas de revivir el programa en un futuro próximo.
