Tecnología

Amazon elimina una IA para reclutar talento por ser machista

robot y hombre

Las primeras fases de procesos de selección cada vez quedan más en manos de robots. No obstante, Amazon se ha visto obligado a eliminar su herramienta de Inteligencia Artificial para reclutar talento ya que descubrieron que sus decisiones eran machistas.

Elegir los mejores curriculums para determinado puesto de trabajo se trata de una tarea muy automatizable, quedando cada vez más en manos de robots. No obstante, delegar la primera fase de un proceso de selección en una máquina no siempre es tan seguro. Al menos en el caso de Amazon no lo fue.

El gigante de ecommerce estaba probando una herramienta de Inteligencia Artificial para reclutar talento; no obstante, han tenido que eliminarlo ya que ha demostrado tomar decisiones machistas a la hora de escoger los mejores candidatos, informa la BBC.

Pero ¿cómo puede ser un software machista? ¿no debería ser lo más objetivo posible? El problema estaba en que el sistema lo habían entrenado datos facilitados por solicitantes a lo largo de un periodo de 10 años, de los cuales muchos eran hombres.

El proyecto arrancó en 2014, con el objetivo de que la herramienta analizara por ejemplo 100 curriculums, y escogiera los 5 mejores, sin ayuda de un humano. No obstante, los primeros indicios de machismo comenzaron a manifestarse en 2015: al tener como referencia mayormente datos de hombres, no valoraba igual al sexo femenino llegando a descartar curriculums que contenían la palabra “mujer.

IBM se pone seria en la lucha contra los sesgos en la inteligencia artificial

Intentaron arreglarlo pero el software evidentemente había demostrado que no era de fiar. Abandonaron la idea de dejar todo el proceso en manos de un robot, pero los reclutadores sí miraban algunas de las recomendaciones del sistema, sin fiarse plenamente de ello.

Mientras que muchos creen que los algoritmos serán la clave para acabar con la desigualdad en los procesos de contratación, casos como este demuestran que, mientras aprendan de los humanos, los sesgos siempre serán una amenaza.

Sobre el autor de este artículo

Christiane Drummond

Graduada en Periodismo y redactora en TICbeat. ¿Qué me interesa? La innovación, la actualidad, la tecnología y, sobre todo, las personas.