産経ニュース

人工知能が生んだ「フェイクポルノ」は、AIが摘発する コンテンツ・モデレーションの最先端

WIRED WIRED

記事詳細

更新


人工知能が生んだ「フェイクポルノ」は、AIが摘発する コンテンツ・モデレーションの最先端

「法医学的なシステムを本気でだまそうとする人は、ディープフェイク動画の製作方法を改良し始めるでしょう。フェイク動画の製作自体を止めることはできませんが、(複数のプロトコルをインストールすることによって)製作を難しく、時間がかかるものにすることはできます」とファリドは言う。

いまのところ、AIモデレーターを使ってディープフェイク動画を排除しているプラットフォームはGfycatのみのようだ。PornhubとDiscordはどちらも、ディープフェイク対策にAIは使っていないと答えた。

RedditはAIを使っているかどうか明らかにしなかった。広報担当者によれば、モデレーションの手の内を明かすと悪人たちが抜け穴を探し始める危険があるという。ツイッターからの回答はまだ得られていない。

毎日、数百万もの動画がアップロードされるウェブ。Youtubeでは、1分当たり約300分相当の動画が公開されているという。それらの動画が本物かどうか判断するのには、人間の力だけでは足りなくなるだろう。コンピューターの力が必要なのだ。

このニュースの写真

  • 人工知能が生んだ「フェイクポルノ」は、AIが摘発する コンテンツ・モデレーションの最先端