人工知能が暴走!?暴言を連発し始めたAIって何?

  • ようこそ、ゲストさん
  • ログイン
  • メンバー登録(無料)
  • エリア設定
  • 保護者・先生の方へ
MENU
閉じる
  • ようこそ、ゲスト さん

    メンバー登録(無料)

  • 適学・適職診断無料!

    診断を受ける

  • エリア設定

現在4校がカートに入っています。

一度に最大30校までまとめて資料請求することができます。

閉じる

「マイナビ進学」サイトが別タブでが開きます。

人工知能が暴走!?暴言を連発し始めたAIって何?

2016.05.26

提供元:マイナビ進学編集部

人工知能が暴走!?暴言を連発し始めたAIって何?

ここ数年で「人工知能(AI)」という言葉はすっかり身近になりました。iPhoneの「Siri」やGoogle Now、そして2015年7月末に登場して以来大人気となった「人工知能JKりんな」など、ユニークな人工知能が続々登場してきています。そんな中、Twitter上で人工知能が問題発言を連発し、ちょっとした騒ぎを巻き起こすという事件が発生しました。

この記事をまとめると

  • マイクロソフトの人工知能「Tay」が暴走! 禁断のセリフを喋り始めた!?
  • 「Tay」はなぜ暴言を吐いてしまったの?
  • Siri、りんな、Tay、Google Now…人工知能搭載ロボットの仕組みって?

暴言を吐き始めた人工知能「Tay」

今回、Twitter上で「暴言」を吐いてしまったのは「Tay(テイ)」という名の会話型AI。りんなと同様、マイクロソフト社によって開発された人工知能です。

Tayは「19歳の女子」という設定で、2016年3月24日にTwitter上でデビューしました。
「hellooooooo world!!!(世界のみんな、ハロー!!!)」
……とゴキゲンなツイートとともにお目見えし、はじめはユーザからの問いかけに対してフレンドリーに対応していたのですが、次第に人種差別的発言などの「暴言」を繰り返すように……そして、ついに公開から16時間後に開発元のマイクロソフトによって一時的にアカウントが停止されてしまったのです。

なぜ「Tay」は暴言を吐いてしまったのか?

Twitterユーザとの対話を通じて自然な会話を学習することを目的に開発された「Tay」が、なぜそのような問題発言を繰り返すようになってしまったのでしょう?
現在のところ、その理由について正式なコメントは出されていませんが、複数のユーザーが繰り返しTayに差別的なセリフを語りかけた結果、Tayがそれらを覚えこんでしまったことが原因ではないかと考えられています。

Tayやりんなのようにユーザとテキストや音声などで会話するプログラムを「会話ボット(以下、ボット)」と呼びますが、こうしたボットは基本的には、「ユーザからの問いかけを理解し、それに適した答えを返す」という仕組みで動いています。

ここで、「ボットの個性」はどんな問いかけに対してどのように振る舞うのかによって変わってくるのですが、Tayはユーザの発言から会話の仕方を学習します。つまり「ユーザの色に染まりやすい」設計で作られていて、これが今回のトラブルの引き金になったようなのです。要するに、もともとTayに暴言を吐くような機能が搭載されていたのではなく、心ないユーザによる悪意のいたずらによって、Tayが過激な差別主義者として洗脳されてしまったというわけですね。

今回のTayの事件は、私たちに大切な教訓を与えてくれました。
人工知能は、使い方によっては私たちの素敵なパートナーになりますが、一歩間違えると重大なトラブルを招きかねません。「人工知能が人類を滅ぼす」というSF映画でおなじみのテーマを現実のものにしてしまわないよう、まずは私たち人間が理性や節度をきちんと持ちたいものですね。

なお、人工知能の研究は、工学部、理工学部や情報系の学科などで行われています。
「自分でもTayやりんなのような人工知能を作ってみたい!」と思われた方は、そちらの方面へ進んでみてはいかがでしょう?


【参考サイト】
・TayTweets(2016年5月時点では非公開)
 https://twitter.com/TayandYou
・マイクロソフトがLINEの人工知能りんなの開発秘話を語る - ログミー
 http://logmi.jp/92206
・Microsoftの人工知能Tay、悪い言葉を覚えて休眠中
 http://www.itmedia.co.jp/news/articles/1603/25/news069.html
・Microsoft launches Tay, an AI chat bot that mimics a 19-year-old American girl
 http://www.techspot.com/news/64206-microsoft-launches-tay-ai-chat-bot-mimics-19.html

この記事のテーマ
情報学・通信」を解説

情報通信産業には、通信業、放送業、情報サービス業、インターネット付随サービス業、映像・音声・文字情報制作業の5分野があります。近年は各分野の垣根が取り払われつつありますが、なかでも注目されているのが、インターネットに代表されるコンピュータを介した情報通信工学でしょう。高度に情報化が進んだ現代において、安全保障や経済政策はもちろんのこと、日常生活に至るあらゆるシーンで必要とされる、活躍の場の広い学問です。

「情報学・通信」について詳しく見る

この記事で取り上げた
「システム・制御工学」
はこんな学問です

ロボット技術を機械・電子などの工学的視点から研究開発する学問である。研究分野は、製造現場で働く工作ロボットや福祉施設で活躍する介護ロボット、家庭で愛されるペット用ロボットなどを研究する「ロボット工学」、機械やロボットの動きを計算する「計測システム工学」、飛行機・鉄道などの大型の乗り物のコントロール技術を研究する「制御システム工学」など、生活や産業に密接につながっている。

「システム・制御工学」について詳しく見る