The Doppler Quarterly (日本語) 夏 2017

スマートフォンで写真アプリケーションを開いて「犬」を検索すると、保存してあるすべての犬の写真が表示されます。これはかつて至難の業でしたが、今では犬が「どのようなもの」であるこれについて、 ProPublicaは次のように説明しています。「リスクアセスメントとして知られるこのようなスコアは、全国の法廷で一般的になりつつあります。これらのスコアは、保釈金の額のかをスマートフォンが認識しています。の決定から被告人の釈放に関するより基本的な決定に至るまこのような今日の驚異は、機械学習によってもたらされていまの決定事項を知らせるために使用されています。」す。数百万個のデータをくまなく調べて関連付けを行い、世界の状況を予測するプログラムである機械学習の魅力は計り知れず、これに対応したマシンでは、信頼性の高いコールドデータを使用して、場合によっては人間より正確に判断を下すことがで、刑事司法制度のすべての段階で釈放可能な人物についてこのプログラムは、実際の有期刑に関するデータから収監される可能性が最も高い人物についての情報を取得していましたが、現実の刑事司法制度は、歴史的に見てアフリカ系アメリカできます。人に対して不公正なものでした。ただし、機械学習には負の側面もあり、プリンストン大学のコこの事例は機械学習についての深い皮肉を明らかにしていまンピューターサイエンティストである Aylin Caliskan 氏は、次のように述べています。「多くの人は、マシンが偏見を持つことはないと思っています。しかし、マシンには人間のデータが組み込まれており、人間は偏見を持っています。」またコンピューターは、その創造主から人種差別的になったり、性差別的になったり、子供がするのと同じように偏見を持ったりする方法を学ぶと同氏は説明しています。私たちは人工知能が公正なものであると思っているが、そうした考えは多くの場合に間違っている新しいコンシューマーテクノロジーは、そのほぼすべてが何らかの形で機械学習を使用しており、たとえば Google 翻訳では、人がソフトウェアにギリシャ語からフランス語、そしてフランス語から英語に翻訳する方法を指示することは一切なく、ソフトウェアが無数のテキストをくまなく調べて自ら学習しています。また別のケースでは、履歴書からどの応募者が成功を収める可能性が高いのかといったことや、患者が特定の薬にどのように反応するのかといったことを機械学習プログラムで予測しています。機械学習は、数十億ものデータポイントを取捨選択して ( 「写真の中から動物を識別せよ」といった ) 問題を解くプログラムですが、常にその方法を明らかにするわけではありません。そしてこれらのプログラムは、私たちが気付かないうちに偏見や固定観念を持つようになる場合があることが次第に明らかになりつつあります。 ProPublica は昨年の 5 月、裁判所が体系的に調書を取った後に別の罪を犯す可能性が高い人物を予測するのに使用している機械学習プログラムの調査結果を公表しましたが、この調査報告書の作成者は、ソフトウェアで白人より黒人の方が罪を犯すリスクが高いと評価されていることに気付きました。す。これらのシステムの魅力は、人間のような偏見を持たずに公正な決定を下せる点にあり、 ProPublica は、「コンピューターが新たな罪を犯す可能性が高い被告人を正確に予測できたら、刑事司法制度は、収監する人物とその期間に関してより公正かつ選択的なものになる可能性がある」と述べています。しかし実際には、機械学習プログラムが幅広く人間の偏見を受け継いだため、アフリカ系アメリカ人に偏見を持つ裁判官がロボットに変わっただけでした。 Caliskan 氏は、 ProPublica の調査結果のような事例を見てこの問題を研究するようになりましたが、大学院のクラスでいつも決まって唯一の女性だった同氏は、女性コンピューターサイエンティストとしてこのテーマに敏感になっています。同氏は、たとえば Googl e 翻訳で、多くの場合にそれとなく機械学習に偏見が入り込むのを見てきました。同氏の母国語の 1 つであるトルコ語には、性別を表す代名詞はありませんが、同氏が Google 翻訳にトルコ語のフレーズを入れると、「結局最後には性別を区別した言葉で『彼は医師です』と翻訳されます。」このように、トルコ語の文では医師が男性であるのか女性であるのかを示していなかったにもかかわらず、コンピューターは、医師について話しているのであれば、それは男性であると仮定していたのです。ロボットはいかにして暗黙の偏見を持つようになるのか Caliskan 氏とその仲間は最近、コンピューターが自ら英語を学習すると、アフリカ系アメリカ人と女性に偏見を持つようになることがわかったという研究論文を Science 誌で発表しました。これらのコンピューターは基本的に、インターネットにアクセスして 8,400 億個の単語を調べ、それらの定義を自ら学習するために一般的な機械学習プログラムを使用していました。この 2017 年夏号 | THE DOPPLER | 67

The Doppler Quarterly (日本語) 夏 2017 | Page 69