Resulta que la inteligencia artificial no es tan objetiva como parece. Y si no, que se lo digan a Amazon. Los fascinados por la tecnología hemos estado muchos años convencidos de que con la inteligencia artificial, al fin, contábamos con una herramienta totalmente objetiva y en absoluto sometida a sesgos de ningún tipo. Esto, aplicado a la publicación de noticias o incluso al reclutamiento de empleados, parecía una noticia perfecta, ya que por fin nos expondríamos a información incuestionable.
Pero resulta que no todo es tan bonito. Incluso las inteligencias artificiales, que parecen ser el mejor método de aprendizaje automático y delegación de según qué tareas, tienen sesgos imposibles de tolerar. Y este es un ejemplo de ello.
La IA que discrimina a las mujeres
E precisamente lo que le ha pasado a Amazon. Entre sus muchos desarrollos internos, el gigante del comercio electrónico cuenta con una inteligencia artificial que ayuda a sus departamentos de recursos humanos a evaluar a los mejores candidatos. Esta herramienta, aparentemente, no solo analiza los CVs de los aspirantes a trabajar en Amazon, sino también su trayectoria, conocimientos y aptitudes para el puesto en cuestión.
Parece una gran noticia, ¿no? Pues no: según ha podido comprobar Reuters, los analistas de la compañía se han dado cuenta de que su inteligencia artificial también tiene sesgos, y en este caso parecen ser bastante machistas, discriminando a las mujeres para según qué puestos y dando prioridad a los hombres.
¿Mujeres en puestos técnicos? No, gracias
Un ejemplo. Amazon se ha dado cuenta de que, cuando su inteligencia artificial analiza y evalúa a los diversos candidatos que están aplicando para un puesto técnico, los principios básicos de igualdad y meritocracia quedaban a un lado, ya que las mujeres siempre salían perdiendo en estos análisis.
Y este hecho no se debía a que los hombres de esas ofertas tuvieran mejores condiciones para los puestos, ni mucho menos. Al analizar los CVs y trayectorias desde el ojo humano, los analistas de Amazon se dieron cuenta de que mujeres con un perfil mucho más indicado para dicho trabajo estaban siendo apartadas y discriminadas del proceso de selección de una manera totalmente inexplicable.
La tecnología no está libre de sesgos
Este hecho demuestra lo que la industria tecnológica viene comprobando desde hace algunos años: las tecnologías también tienen sesgos. O mejor dicho, las personas que diseñan esas tecnologías también tienen sesgos. Porque una inteligencia artificial puede aprender de manera automática e ir creciendo de manera autónoma, pero en un primer momento fue desarrollada por un humano, así que si el humano tiene prejuicios, la inteligencia artificial no hará más que replicarlos de manera continuada.
Por el momento, Amazon no solo ha reconocido el problema, sino que también ha retirado su herramienta de análisis. Parece que, con las ventajas de la inteligencia artificial en marcha, ahora la tarea es otra: vigilar bien al que la programa.
Fuente: Tecnoxplora