AIが人種差別!? 偏見も学んでしまう人工知能

  • ようこそ、ゲストさん
  • ログイン
  • メンバー登録(無料)
  • エリア設定
MENU
閉じる
  • ようこそ、ゲスト さん

    メンバー登録(無料)

  • 適学・適職診断無料!

    診断を受ける

  • エリア設定

現在4校がカートに入っています。

一度に最大30校までまとめて資料請求することができます。

閉じる

「マイナビ進学」サイトが別タブでが開きます。

AIが人種差別!? 偏見も学んでしまう人工知能

2018.07.31

提供:マイナビ進学編集部

メイン
テーマ

AIが人種差別!? 偏見も学んでしまう人工知能

なにか気になることがあったら、すぐにスマホを取り出して検索サイトで調べる人も多いかもしれません。検索サイトは、検索欄に知りたいことを打ち込むだけで、何でも教えてくれて便利ですよね。しかし以前、Googleの検索結果に「偏見が含まれている」というニュースが話題になりました。検索サイトが人種差別をするというのは、一体どういうことなのでしょうか?

この記事をまとめると

  • Googleの検索結果が人種差別をしていると話題になった
  • データを蓄積して学習したAIが、偏見も一緒に学んでしまった
  • AIは発展途上なので、人間が管理していくことが必要

「3人の10代の黒人」と「3人の10代の白人」の検索結果に差別?

Googleは、スマホやパソコンで使える便利な検索エンジンです。英単語の意味や芸能ニュース、明日の天気など気軽に調べられるので、日頃から使っている人も多いのではないでしょうか。

Google検索は複雑な検索アルゴリズムを持っていて、検索した人に最も適した結果を表示するように作られています。その精度は人工知能(AI)によってますます高まり、その便利さから世界中にたくさんの利用者がいます。しかし2016年、ある高校生がGoogleで調べた検索結果が「人種差別ではないか」と話題になりました。

高校生は、Googleで2つのよく似た言葉を画像検索し、その結果を調べました。それによると、「3人の10代の黒人」で調べた結果には3人の黒人の逮捕写真が表示され、「3人の10代の白人」で調べた結果には、3人の白人が並び笑顔でポーズを決めたさわやかな素材写真が表示されたのです。黒人は犯罪者の写真なのに、白人はきれいな宣材写真だなんて、なんだか悪意を感じてしまいますよね。

しかし、ロボットがそのような偏見を持っているはずがありません。では、なぜGoogleのAIは、このような検索結果を出力してしまったのでしょうか。

データを学習するAIは、偏見や差別も一緒に学んでしまう

これは、GoogleのAIロボットが検索結果を導くために、事前に大量のデータをインプットされ、学習しているからです。AIが学習した膨大なデータの中に差別や偏見が含まれていた場合、AIはそれらも一緒に学習し、結果に反映してしまうのです。

GoogleがAI検索エンジンに学習させるデータは、著作権が切れたパブリックドメインのデータが多く使われているといいます。このようなデータ元は古い資料であることが多く、作られた当時の偏見や差別、固定観念が含まれている可能性が高いのです。

紹介した例の他にも、性差別だと捉えられてしまいそうな事例も起こっています。ある研究結果によれば、女性ユーザーに表示される給与の高い仕事の広告は、男性ユーザーに表示されるよりも少なかったといいます。

AIロボットはまだ発展途上なので、理解した上で使うことが大事

スマホで簡単に何でも検索できる現在、私たちの日常生活には「検索する」という行為がすっかり定着しています。検索結果に表示される内容は、最適で最良の結果だと感じている人も多いかもしれません。しかし、頼りがいのあるGoogleの検索結果も、大元となるデータには多くの偏見を含んだデータが使われている可能性があることを、忘れないようにしましょう。

例えば「客室乗務員は女性である」や「医師といえば男性」といった古い固定観念を含んでいるデータがAIにインプットされている可能性もあります。

AIから差別を取り除くためには、法整備を進めて「著作権あり」の正しいデータをAIに読み込ませる必要がありそうです。また、AIが偏見を持たない手立てを講じていくことが大切です。人工知能や情報処理に興味がある方は、通信工学やシステム・制御工学を学んで、自分なりの解決策を見い出してみてはいかがでしょうか。


【出典】
ロケットニュース24|「3人の若い黒人」と「3人の若い白人」とググったら……大変なことが判明すると話題
https://rocketnews24.com/2016/06/10/759138/

ニューズウィーク日本版|AIが性差別・人種差別をするのはなぜか? どう防ぐか?
https://www.newsweekjapan.jp/stories/technology/2018/02/ai-32.php

この記事のテーマ
情報学・通信」を解説

情報通信産業には、通信業、放送業、情報サービス業、インターネット付随サービス業、映像・音声・文字情報制作業の5分野があります。近年は各分野の垣根が取り払われつつありますが、なかでも注目されているのが、インターネットに代表されるコンピュータを介した情報通信工学でしょう。高度に情報化が進んだ現代において、安全保障や経済政策はもちろんのこと、日常生活に至るあらゆるシーンで必要とされる、活躍の場の広い学問です。

「情報学・通信」について詳しく見る

この記事で取り上げた
「通信工学」
はこんな学問です

通信技術は、コンピュータ内の技術とネットワーク技術に分けられる。たとえば、コンピュータ内では、通信に関連するソフトウェアとハードウェアの技術が挙げられる。ネットワーク上で用いる技術では、情報の圧縮技術や暗号化技術、光通信をはじめとする光ファイバー技術、インターネットを用いたネットワーク技術、LANによる有線・無線の通信技術などがある。その他、次世代の通信技術開発や宇宙通信技術などの研究も行う。

「通信工学」について詳しく見る

あなたの適性にあった学びや仕事が見つかる

適学・適職診断

無料

進学・適職診断を受ける