人工知能が生んだ「フェイクポルノ」は、AIが摘発する　コンテンツ・モデレーションの最先端

　顔を別人のものとすり変えた「ディープフェイク」と呼ばれる動画が、ネットの掲示板やポルノサイトなどに溢れ始めた。人工知能（AI）まで用いて進化するフェイク動画に対応する決め手となったのは、やはりAIだった。これまで人手に頼ってきたコンテンツ・モデレーションを、いかにAIがこなすのか。その最前線をレポートする。

顔認識と機械学習プログラムが広く一般に行きわたるようになり、インターネットでは当然のごとくその技術がポルノに使われ始めた。

ニュースサイト「Motherboard」が報じたように、いま人々は人工知能（AI）を使ってフェイクポルノを製作している。その多くは有名人の顔をポルノスターの体に付けたものだ。女優のガル・ガドットが義理の兄と寝ているように見えるフェイクポルノもある。

AIによって製作された動画は「ディープフェイク（deepfakes）」と呼ばれる。オンライン掲示板の「Reddit」やアダルトサイト「Pornhub」などのコミュニティーは、フェイク対策に悪戦苦戦している。これに対して、GIF投稿サイト「Gfycat」はもっといい解決策を見つけたらしい。

ディープフェイク動画を監視しているプラットフォームの多くは、コンテンツの摘発をキーワードやユーザーからの報告に頼っている。だが、Gfycatは不正動画を見分けるよう、AIを訓練する方法を発見したという。技術の基盤となっているのは、Gfycatがもともとプラットフォーム上のGIFを分類するために使ってきたツールだ。

この新しい技術は将来、プラットフォームとして偽のヴィジュアルコンテンツとどう戦うべきかを実演するものでもある。こうした戦いは今後ますます重要性を増してゆく。スマートフォン向け写真共有アプリ「Snapchat」がクラウドソーシングで集めた動画をジャーナリズムに活用し始めるなど、状況が変化しているからだ。

人間はもうネット空間を管理できない

Gfycatは1日当たり少なくとも2億人のアクティヴユーザーを抱えている。ディープフェイク動画を排除するため、これまでにRedditやPornhub、Discordがとってきた手法より包括的なアプローチで問題を解決したいと考えている。

ニュースサイト「Mashable」は2月12日、Pornhubが多数のディープフェイク動画を削除しそびれたと報じた。取りこぼしのなかには何百万ものヴューを獲得した動画もあったという（記事の公開後、削除された）。

またRedditは2月上旬、ディープフェイク動画のコミュニティーをいくつも閉鎖した。しかし、『WIRED』US版がRedditに指摘するまで、「r/DeepFakesRequests」や「r/deepfaux」といった一部のコミュニティは残ったままだった。