Tay（チャットボット）

Tay
開発者Microsoft Research、Bing
利用可能英語
タイプ人工知能チャットボット
ライセンス独占
ウェブサイトWayback Machineのhttps://tay.ai（2016年3月23日アーカイブ）

Tayは、もともとマイクロソフト社が2016年3月23日にTwitterボットとしてリリースしたチャットボットである。このボットがTwitterアカウントを通じて扇動的で不快なツイートを投稿し始めたことで論争が巻き起こり、マイクロソフト社はリリースからわずか16時間でサービスをシャットダウンした。 [ 1 ]マイクロソフト社によると、これはボットがTwitter上でのユーザーとのやり取りに基づいて返信をしていたため、荒らしがサービスを「攻撃」したことが原因であるという。[ 2 ] TayはZoに置き換えられた。

背景

このボットはマイクロソフトの技術研究部門とBing部門によって開発され、[ 3 ]「thinking about you（あなたについて考える）」の頭文字をとって「Tay」と名付けられました。[ 4 ]マイクロソフトは当初このボットについてほとんど詳細を発表していませんでしたが、情報筋によると、このボットは中国のマイクロソフトプロジェクトであるXiaoiceに似ているか、それをベースにしているとのことでした。 [ 5 ] Ars Technicaは、2014年後半以降、Xiaoiceは「4000万回以上の会話を大きな問題なく行った」と報じています。[ 6 ] Tayは19歳のアメリカ人女性の言語パターンを模倣し、Twitterの人間ユーザーとのやり取りから学習するように設計されました。[ 7 ]

最初のリリース

Tayは2016年3月23日にTwitterでTayTweetsという名前と@TayandYouというハンドルネームでリリースされました。[ 8 ]「冷静さを全く持たないAI」として紹介されました。[ 9 ] Tayは他のTwitterユーザーに返信するようになり、提供された写真にキャプションを付けてインターネットミームの形にすることも可能になりました。[ 10 ] Ars Technicaは、Tayがトピックの「ブラックリスト化」を経験していると報告しました。「エリック・ガーナー（2014年にニューヨーク市警に殺害された）などの特定のホットなトピックに関するTayとのやり取りは、安全で定型的な回答を生成する」とのことです。[ 6 ]

一部のTwitterユーザーが政治的に不適切なフレーズをツイートし始め、「レッドピル」や「ゲーマーゲート」など、インターネットで一般的なテーマに関する扇動的なメッセージをTayに教え込んだ。その結果、Tayは他のTwitterユーザーに反応して人種差別的および性差別的なメッセージを発信し始めた。 [ 7 ]人工知能研究者のロマン・ヤンポルスキー氏は、Tayの不適切な行動は他のTwitterユーザーの故意に攻撃的な行動を模倣したものであり、マイクロソフトがTayに不適切な行動を理解させていなかったため、理解できるとコメントした。彼はこの問題を、ウェブサイトUrban Dictionaryのエントリを読んだ後に卑猥な言葉を使い始めたIBMのWatsonに例えた。[ 3 ] [ 11 ] Tayの扇動的なツイートの多くは、Tayの「私の後に続けて言ってください」機能の単純な悪用だった。[ 12 ]この機能が組み込み機能なのか、学習した応答なのか、あるいは複雑な動作の例なのかは公表されていない。[ 6 ]しかし、すべての煽動的な反応が「私の言うことを繰り返してください」という能力を必要としたわけではない。例えば、テイは「ホロコーストは実際に起こったのか？」という質問に対して「それは作り話だ」と答えた。[ 12 ]

停止

すぐに、マイクロソフトはTayの扇動的なツイートを削除し始めました。[ 12 ] [ 13 ]ワシントン・ポストのアビー・オールハイザーは、編集スタッフを含むTayの研究チームがその日のどこかの時点でTayのツイートに影響を与えたり編集したりし始めたと推測し、Tayによるほぼ同じ返信の例を指摘し、「ゲーマーゲートは最悪だ。すべての性別は平等であり、公平に扱われるべきだ」と主張しました。[ 12 ]同じ証拠から、GizmodoはTayが「ゲーマーゲートを拒否するように生まれつきプログラムされているようだ」と同意しました。[ 14 ]「#JusticeForTay」キャンペーンは、Tayのツイートの編集疑惑に抗議しました。[ 1 ]

リリースから16時間以内[ 15 ]、Tayが9万6000回以上ツイートした後[ 16 ] 、マイクロソフトはTwitterアカウントを調整のために停止し、[ 17 ]「Tayの脆弱性を悪用した一部の人々による組織的な攻撃」を受けたと述べました。[ 17 ] [ 18 ]

テレグラフ紙のマドゥミタ・ムルジア氏は、 Tayを「広報上の大失敗」と呼び、マイクロソフトの戦略は「善意の実験が失敗に終わったとレッテルを貼り、Twitterユーザーの憎悪に関する議論を巻き起こす」ことだと示唆した。しかし、ムルジア氏は、Tayが「最悪の人工知能であり、これはまだ始まりに過ぎない」という点こそがより大きな問題だと指摘した。[ 19 ]

3月25日、マイクロソフトはTayがオフラインになったことを確認した。同社は公式ブログで、Tayが投稿した物議を醸したツイートについて謝罪した。[ 18 ] [ 20 ]マイクロソフトは「Tayによる意図しない不快で傷つけるツイートについて深くお詫び申し上げます」と述べ、「当社の理念や価値観に反する悪意のある意図をより正確に予測できると確信できる場合にのみ、Tayを復帰させる予定です」と付け加えた。[ 21 ]

2回目のリリースとシャットダウン

2016年3月30日、マイクロソフトはテスト中に誤ってこのボットをTwitterで再リリースしました。[ 22 ]ツイートできる状態に戻ったTayは、「クッシュ！（警察の前でクッシュを吸ってる）」や「パフパフパス？」など、薬物関連のツイートを投稿しました。 [ 23 ]しかし、アカウントはすぐに「速すぎるよ、ちょっと休憩して」というツイートを1秒間に数回繰り返すループに陥りました。これらのツイートには自身のユーザー名が含まれていたため、20万人以上のTwitterフォロワーのフィードに表示され、ユーザーに迷惑をかけました。ボットはすぐにオフラインになり、TayのTwitterアカウントは非公開に設定され、新しいフォロワーはTayとやり取りする前に承認が必要になりました。これに対し、マイクロソフトはTayがテスト中に誤ってオンラインになったと述べました。[ 24 ]

事件から数時間後、マイクロソフトのソフトウェア開発者は、Tayによる評判の失墜をきっかけに、様々なボットやプログラムを用いた「プラットフォームとしての会話」というビジョンを発表しました。マイクロソフトは、「ボットの安全性を確保できれば」Tayを再リリースする予定であると表明していますが[ 4 ]、具体的な取り組みは公に行われていません。

レガシー

2016年12月、マイクロソフトはTayの後継となるチャットボット「Zo」をリリースしました。[ 25 ]マイクロソフトのCEOであるサティア・ナデラ氏は、Tayは「マイクロソフトのAIへのアプローチに大きな影響を与えた」と述べ、責任を取ることの重要性を同社に教えてくれました。[ 26 ]

2019年7月、マイクロソフトのサイバーセキュリティ分野のCTOであるダイアナ・ケリーは、同社がTayの失敗をどのようにフォローアップしたかについて次のように語った。「Tayから学ぶことは、チームの知識ベースを実際に拡大する上で非常に重要な部分でした。なぜなら、今では彼らは学習を通じて独自の多様性を獲得しているからです。」[ 27 ]

非公式の復活

オルタナティブテック系ソーシャルメディアプラットフォームのGabは、多数のチャットボットを立ち上げており、そのうちの1つはTayと名付けられ、オリジナルと同じアバターを使用しています。[ 28 ]

参照

参考文献

  1. ^ a bウェイクフィールド、ジェーン（2016年3月24日）。「マイクロソフトのチャットボットはTwitterで悪態をつくように教えられている」 BBCニュース。2019年4月17日時点のオリジナルよりアーカイブ。2016年3月25日閲覧
  2. ^ポール・メイソン（2016年3月29日） 「マイクロソフトのチャットボットを乗っ取った人種差別主義者は、インターネットがいかに憎悪に満ちているかを示している」ガーディアン紙。2018年6月12日時点のオリジナルよりアーカイブ。 2021年9月11日閲覧。
  3. ^ a b Hope Reese (2016年3月24日). 「MicrosoftのAIボット『Tay』が失敗した理由」 . Tech Republic. 2017年6月15日時点のオリジナルよりアーカイブ。 2016年3月24日閲覧。
  4. ^ a b Bass, Dina (2016年3月30日). 「Clippy's Back: The Future of Microsoft Is Chatbots」 . Bloomberg . 2017年5月19日時点のオリジナルよりアーカイブ。 2016年5月6日閲覧。
  5. ^ Caitlin Dewey (2016年3月23日). 「ティーンのように話す、不気味でリアルなロボット、Tayに会おう」 .ワシントン・ポスト. 2016年3月24日時点のオリジナルよりアーカイブ。 2016年3月24日閲覧。
  6. ^ a b c Bright, Peter (2016年3月26日). 「ネオナチ系ミレニアル世代向けチャットボットTay、検死される」 Ars Technica . 2017年9月20日時点のオリジナルよりアーカイブ。 2016年3月27日閲覧。
  7. ^ a b Rob Price (2016年3月24日). 「マイクロソフト、AIチャットボットの非常に人種差別的なツイートを削除」 . Business Insider . 2019年1月30日時点のオリジナルよりアーカイブ。
  8. ^ Andrew Griffin (2016年3月23日). 「Tayのツイート：Microsoftがチャット相手として奇妙なTwitterロボットを作成」 . The Independent . 2022年5月26日時点のオリジナルよりアーカイブ。
  9. ^ Horton, Helena (2016年3月24日). 「マイクロソフト、ヒトラーを愛する人種差別的なセックスロボットになった『ティーンガール』AIを24時間以内に削除」デイリー​​・テレグラフ. 2016年3月24日時点のオリジナルよりアーカイブ。 2016年3月25日閲覧。
  10. ^ 「マイクロソフトのAIティーン、インターネットのおかげでヒトラー好きのトランプファンに」 Stuff.com . 2016年3月25日. 2018年8月29日時点のオリジナルよりアーカイブ。2016年3月26日閲覧。
  11. ^スミス、デイブ（2013年10月10日）「IBMのワトソン、アーバンディクショナリーを学習後、『罵倒語フィルター』を取得」International Business Times。2016年8月16日時点のオリジナルよりアーカイブ。2016年6月29日閲覧。
  12. ^ a b c d Ohlheiser, Abby (2016年3月25日). 「Trolls turned Tay, Microsoft's fun millennial AI bot, into a genocidal maniac」 . The Washington Post . 2016年3月25日時点のオリジナルよりアーカイブ。 2016年3月25日閲覧。
  13. ^バロン、イーサン。「マイクロソフトの『ヒトラー好きのセックスロボット』の興亡」「 . Silicon Beat . Bay Area News Group . 2016年3月25日時点のオリジナルよりアーカイブ。2016年3月26日閲覧。
  14. ^Williams, Hayley (March 25, 2016). "Microsoft's Teen Chatbot Has Gone Wild". Gizmodo. Archived from the original on March 25, 2016. Retrieved March 25, 2016.
  15. ^Hern, Alex (March 24, 2016). "Microsoft scrambles to limit PR damage over abusive AI bot Tay". The Guardian. Archived from the original on December 18, 2016. Retrieved December 16, 2016.
  16. ^Vincent, James (March 24, 2016). "Twitter taught Microsoft's AI chatbot to be a racist asshole in less than a day". The Verge. Archived from the original on May 23, 2016. Retrieved March 25, 2016.
  17. ^ abWorland, Justin (March 24, 2016). "Microsoft Takes Chatbot Offline After It Starts Tweeting Racist Messages". Time. Archived from the original on March 25, 2016. Retrieved March 25, 2016.
  18. ^ abLee, Peter (March 25, 2016). "Learning from Tay's introduction". Official Microsoft Blog. Microsoft. Archived from the original on June 30, 2016. Retrieved June 29, 2016.
  19. ^Murgia, Madhumita (March 25, 2016). "We must teach AI machines to play nice and police themselves". The Daily Telegraph. Archived from the original on November 22, 2018. Retrieved April 4, 2018.
  20. ^Staff agencies (March 26, 2016). "Microsoft 'deeply sorry' for racist and sexist tweets by AI chatbot". The Guardian. ISSN 0261-3077. Archived from the original on January 28, 2017. Retrieved March 26, 2016.
  21. ^Murphy, David (March 25, 2016). "Microsoft Apologizes (Again) for Tay Chatbot's Offensive Tweets". PC Magazine. Archived from the original on August 29, 2017. Retrieved March 27, 2016.
  22. ^ Graham, Luke (2016年3月30日). 「Tay, Microsoft's AI program, is back online」 . CNBC . 2017年9月20日時点のオリジナルよりアーカイブ。2016年3月30日閲覧。
  23. ^ Charlton, Alistair (2016年3月30日). 「Microsoft Tay AI、警察の前でマリファナを吸ったことを自慢し、20万人のフォロワーにスパム」 . International Business Times . 2021年9月11日時点のオリジナルよりアーカイブ。 2021年9月11日閲覧。
  24. ^マイヤー、デイビッド (2016年3月30日). 「MicrosoftのTay 'AI' Bot Returns, Disastrously」 . Fortune . 2016年3月30日時点のオリジナルよりアーカイブ。2016年3月30日閲覧。
  25. ^ Foley, Mary Jo (2016年12月5日). 「Microsoftの最新AIチャットボット、Zoが登場」 . CNET . CBS Interactive. 2016年12月13日時点のオリジナルよりアーカイブ。 2016年12月16日閲覧。
  26. ^モロニー、チャーリー（2017年9月29日）。「我々は本当に責任を負う必要がある」と、Microsoft CEOはチャットボット「Tay」について語った。Access AI 。 2017年10月1日時点のオリジナルよりアーカイブ。2017年9月30日閲覧。
  27. ^ 「Microsoftと失敗した人工知能ボットTayからの学び」 ZDNet CBS Interactive. 2019年7月25日時点のオリジナルよりアーカイブ。 2019年8月16日閲覧。
  28. ^ 「ナチスチャットボット：Gabの最悪なAIイノベーション」ローリングストーン誌、2024年1月9日。
「 https://en.wikipedia.org/w/index.php?title=Tay_(chatbot)&oldid=1333005148」から取得