00110101010110101011001101010101100101 011001101010101101010110011010100101 01100110101010110010101100110101010 110101011001101010101101010110011010101011 0010101100110101010110101011 0011010101011010101100110101010110010101 1001101010101101010110011010101011 01010110011010101011001010110011010101011010 1011001101010010101100110101010110 010101100110101010110101011001101010101101010110 01101010101100101011001101010 10110101011001101010101100101011001101010 10110010101100110101010110101011001 101010101101010110011010101011001010110 0110101010110101011001101010010101 1001101010101100101011001101010101101010110 011010101011010101100110101010110 0101011001101010 101101010110011010101011010 10110011010101011001010110011010101011010 10110011010101011010101100110101010 1100101011001101010101101010110 10101110110101001010110011010101011001 0110011010101011010101100110101010110101
homme ou une femme . L ’ ordinateur suppose simplement que si vous parlez d ’ un médecin , il s ’ agit forcément d ’ un homme .
Comment les robots apprennent les préjugés implicites
Caliskan a récemment publié avec des collègues un article dans la revue Science , qui établit que lorsqu ’ un ordinateur apprend de lui-même l ’ anglais , il développe des préjugés contre les Afro-Américains et les femmes .
Pour résumer , ils ont utilisé un programme courant d ’ apprentissage automatique pour fouiller sur internet , étudier 840 milliards de mots , et apprendre de lui-même la définition de ces mots . Le programme mène ces tâches à bien en analysant le degré de récurrence de certains mots dans une même phrase . Prenons le mot « bouteille ». L ’ ordinateur commence à comprendre le sens de ce mot en remarquant qu ’ il apparait plus fréquemment à proximité du mot « contenant » et de mots liés à des liquides , comme « eau » ou « lait ».
Cette façon d ’ apprendre l ’ anglais aux robots vient en fait des sciences cognitives et de leur compréhension de l ’ apprentissage des langues par les enfants . La fréquence de récurrence de deux mots proches est le premier indice vers le décryptage de leur sens .
Lorsque l ’ ordinateur a terminé d ’ établir son vocabulaire , Caliskan lui a fait subir une version du Test d ’ Association Implicite .
Chez les êtres humains , le TAI cherche à découvrir des préjugés subtils en déterminant la durée qu ’ il faut aux gens pour associer des mots . Une personne peut par exemple associer assez vite les mots « homme » et « ingénieur ». Mais si cette personne hésite à associer « femme » et « ingénieur », cela montre que ces termes ne sont pas aussi étroitement liés dans son esprit , ce qui suggère un préjugé . Chez les êtres humains , le TAI présente des problèmes de fiabilité .
Dans ce cas , au lieu d ’ analyser le temps de réponse , Caliskan a étudié le degré de proximité entre deux termes estimé par l ’ ordinateur . Elle a découvert que le programme associait moins souvent les noms afro-américains que les noms typiquement blancs au mot « pleasant » ( agréable ). Les noms féminins étaient en outre plus souvent associés à des termes liés à la famille que les noms masculins ( il est amusant de constater que le TAI est probablement mieux adapté à une utilisation sur des
68 | THE DOPPLER | ÉTÉ 2017