産経ニュース

人工知能は「第2の核兵器」になるかもしれない 「自動化された戦争」を避けるためにすべきこと

WIRED WIRED

記事詳細

更新


人工知能は「第2の核兵器」になるかもしれない 「自動化された戦争」を避けるためにすべきこと

世界一よりも協調が必要な「AI外交」

15年、研究者や科学者、マイクロソフトやグーグルなどの企業幹部3,000人以上が、当時のバラク・オバマ政権に対して、ロボット兵器の禁止を求める書簡を渡した。署名者のひとりであるアレン人工知能研究所のオーレン・エツィオーニCEOは、「誰かを殺すかどうか、いつ殺すかを判断する完全自律型のシステムを配備すると聞いたら、ほとんどの人がとても嫌な気持ちになると思います」と話す。

ただし、ひとつの国が配備を決断すれば、他国も気が変わる可能性があることをエツィオーニは認めている。「おそらく、より現実的なシナリオは、各国がそのようなシステムを保有し、使用に関する厳格な条約を順守することでしょう」

米国防省は12年、殺傷力の行使にかかわる決断は人が下さなければならないという暫定的な方針を定めた。そして17年5月、これを恒久的な方針に変更した[PDFファイル]。

今回の報告書は、AIの規制をめぐる国際的な合意について、米国家安全保障会議や国防総省、国務省はいますぐ検討を始めるべきだと提言している。AIが社会に与える影響を研究するオックスフォード大学のマイルズ・ブランデージは、AIを制する者が勝利を手にするという発想から抜け出すことができるのであれば、「AI外交」は効果的になりうると考えている。

「世界一になることを最重視すれば、安全や倫理といった概念が隅に追いやられてしまいます」とブランデージは話す。「われわれは歴史上のさまざまな軍備競争で、協調と対話が実を結ぶ例を目にしてきたはずです」

核保有国が数えるほどしかないという事実は、非常に強力な軍事技術が必ずしも魅力的ではないことを証明している。「国家は、“この技術は不要だ”と主張することができます。核兵器がそれを証明してくれています」と、新アメリカ安全保障センターのアレンも述べている。

しかしAIは、国家安全保障においてさまざまな可能性を秘めている。米国とその同盟国、敵国が自制を続けるには、おそらく相当な忍耐力を必要とするはずだ。

このニュースの写真

  • 人工知能は「第2の核兵器」になるかもしれない 「自動化された戦争」を避けるためにすべきこと