ヘイト発言のAI「Tay」と女子高生AI「りんな」の差

 チャットボット「Tay」にヘイト発言を教えたのは、米国の匿名掲示板「4chan」「8chan」の一部ユーザーたちだと報じられている。一方、マイクロソフトは2014年から同様のAIボットを中国と日本で展開しているが、大きな問題は起こっていない。

「わたしたちは(不法移民が入り込まないような)壁を築き、そのコストはメキシコが負担するのよ」(あるユーザーが、トランプ候補のプロパガンダをツイートするようTayに指示し、Tayはその通りにした。このツイートはいまは削除されている)

マイクロソフトは3月25日(米国時間)、自社が開発した機械学習チャットボット「Tay」(テイ)が人種差別的で口汚い発言を連発した(日本語版記事)ことに対して謝罪した。

謝罪リリースのなかで、マイクロソフト・リサーチのヴァイスプレジデントを務めるピーター・リー博士は、中国では2014年7月から似たような女性型ボット「XiaoIce(シャオアイス)」を稼動させてきたことに言及している。

会員限定記事会員サービス詳細