Amazon prescinde de una inteligencia artificial
Amazon desestima un sistema de inteligencia artificial por discriminar a las mujeres
El sistema obtenía los datos en base, a los archivos de los últimos 10 años de la compañía,
y así, aprendió con esta información, que los hombres eran preferibles a las mujeres.
Amazon detectó el error y decidió prescindir de este sistema.
El funcionamiento del sistema realizaba su revisión puntuando a los candidatos de una a cinco estrellas
(usando la valoración con la que los clientes pueden calificar cualquier producto en la página web de la compañía).
- El proyecto final era crear un sistema en el que introducías 100 currículos y seleccionara a los cinco mejores para contratarlos.
- En 2015 la compañía se dio cuenta de que se estaba discriminando a las mujeres candidatas a los puestos técnicos en la compañía.
Esta inteligencia artificial, discriminaba enormemente a las mujeres
Los especialistas de Amazon observaron que esta inteligencia artificial, basada en aprendizaje automático, discriminaba enormemente a las mujeres.
El problema, según han explicado varios expertos de la compañía, radicaba en la fuente informativa que este sistema utilizaba para tomar decisiones y evolucionar:
- Una base de datos de currículos presentados a la empresa durante 10 años.
- Pertenecían mayoritariamente a hombres.