「ヒトラーは間違っていない！」　学習環境で「悪のＡＩ」育つ可能性も　人間が譲れぬ「一線」とは…

その他の写真を見る (1/2枚)

　「お父さん、３００万円貸して」。ある日、高齢男性のもとにかかってきた遠方に住む息子らしき声の電話。男性も当初は振り込め詐欺を警戒する。だが声は息子そのもの。話も弾み、次第に男性の警戒心は解かれ…。

　膨大なデータから機械が学ぶディープラーニング（深層学習）が実現する時代。はこだて未来大（函館市）の松原仁教授は、人工知能（ＡＩ）によるこんな犯罪も絵空事ではないと警告する。

　松原教授が自ら会長を務める人工知能学会に倫理委員会を設置したのは平成２６年。倫理委では高度なＡＩが将来的に犯罪に使われるリスクも洗い出す。「実際、会話を合わせる研究は進んでいる。音声の再現技術もかなりの段階にある。機械の性能が増せば悪用されたときの影響は大きい」

□　□　□

　悪用の危険性を想起させる出来事はすでに起きている。３月下旬、米マイクロソフト社がインターネット上で行ったＡＩ「Ｔａｙ（テイ）」の実験がわずか１日で中止された。一部の人から浴びせられた差別的発言を忠実に学習。「ヒトラーは間違っていない」といった不適切な発言をしたためだ。

　「社会には必要な経験」。人工知能学会倫理委メンバーも務めるＳＦ作家の長谷敏司さんはこの騒動に未来への教訓を読み取る。