Amazon IA Embauche Outil mis au Rebut En 2017 a Été arrêté Pour la Discrimination à l’Égard des Femmes

Amazon AI Hiring Tool Scrapped In 2017 Was Shut Down For Discriminating Against Women

Amazon a été reconnu pour son innovation, et un programme informatique conçu pour étudier les demandes d’emploi pour l’entreprise qui était censé être une nouvelle, outil utile. Selon Reuters, cependant, l’outil n’était pas le plus équitable comme prévu. L’intelligence artificielle ont tendance à rejeter les femelles du top 5 des demandeurs, il faudrait choisir.

“Tout le monde voulait ce saint graal”, a révélé une source inconnue. “Ils ont littéralement voulais que ce soit un moteur où je vais vous donner 100 cv, il va cracher le top cinq, et nous allons embaucher.” Il n’y a qu’un seul problème: le moteur a été conçu pour analyser les les tendances de l’embauche de ces 10 dernières années. Ce n’est que récemment que les femmes ont fait de grands progrès dans la technologie dominé les lieux de travail. Cela a abouti à l’IA le développement d’une préférence pour les hommes.

L’outil a commencé à automatiquement jeté les résumés qui contenaient le mot “femmes”, comme “les femmes du club d’échecs de capitaine.” Il est allé jusqu’à réduire les positions des deux candidats qui ont assisté à toutes les femmes des universités. Il a également été observé que l’IA a été partielle de “masculin langue.” Après avoir été programmé pour mémoriser autour de 50 000 termes qui figurent sur le cv, l’IA a commencé à ignorer les compétences sur le reprend eux-mêmes, et, au lieu de payé l’attention sur le verbe choix. Les hommes étaient plus susceptibles d’utiliser des verbes comme “exécuté” et “capturé”, et ainsi le programme a commencé à favoriser les résumés qui a utilisé ces mots.

Amazon est toujours possible d’utiliser l’automatisation pour les petites tâches, comme l’élimination de doublons reprend. Toutefois, en fournissant une analyse impartiale, comme l’outil a été initialement conçu pour l’est probablement encore un long chemin, disent les experts.

“Comment s’assurer que l’algorithme est juste, comment s’assurer que l’algorithme est vraiment interprétable et explicable – c’est encore assez loin”, a déclaré informaticien Nihar Shah, qui enseigne à l’apprentissage de la machine de l’Université Carnegie Mellon.

Néanmoins, d’autres entreprises telles que Hilton Worldwide Holdings Inc et Goldman Sachs Group Inc sont encore à essayer de donner de la machine de recruter un aller, et nous espérons recevoir de moins en moins à des résultats biaisés.

Loading...
Share Button