説得力のあるフィッシング詐欺のメールを、AIが人間よりうまく“書く”時代がやってきた(1/3ページ) - 産経ニュース

メインコンテンツ

説得力のあるフィッシング詐欺のメールを、AIが人間よりうまく“書く”時代がやってきた

人工知能(AI)にフィッシング詐欺のメールを自動生成させたところ、人間が書いたものよりもクリック率が高い文章をつくれる段階に到達したことを、このほどシンガポールの研究チームが発表した。使われたのは、高性能な言語生成アルゴリズム「GPT-3」と、AIaaS(サービスとしてのAI)のプラットフォームだ。

TEXT BY LILY HAY NEWMAN

WIRED(US)

自然言語処理の意外な分野への進出が止まらない。今度はフィッシング詐欺のメールだ。高性能な言語生成アルゴリズムとして知られる「GPT-3」とAIaaS(サービスとしてのAI)のプラットフォームを利用することで、特定の個人や団体を標的にした大規模なスピアフィッシング詐欺への参入障壁を大幅に下げられることを、ある研究チームが小規模な研究から明らかにしたのである。

説得力のあるフィッシングメールを生成できるよう機械学習のアルゴリズムをトレーニングすることは、詐欺師にとって労力に見合う結果が得られるのだろうか──。この問いを巡り、研究者たちは長らく論争を続けてきた。

そもそも、量産型のフィッシングメールはシンプルで定型に沿っており、すでにかなり効果がある。一方、ターゲットを絞って個別化された「スピアフィッシング」のメッセージは、作成により多くの労力が必要だ。自然言語処理が驚くほど効果を発揮するかもしれないのは、まさにこの点なのである。

微々たるコストで優れた効果

今回の最新の実験結果はシンガポール国立テクノロジー庁のチームが手がけたもので、8月上旬にラスベガスで開催されたセキュリティカンファレンス「Black Hat」と「DEF CON」で発表された。

研究チームは、メンバー自身が作成した標的型フィッシングメールとAIaaSプラットフォームが作成したフィッシングメールを、同僚200人に送信した。どちらのメッセージにもリンクが含まれており、実害は与えないもののクリックスルー率を研究チームに報告する仕組みになっていた。

この結果に研究チームは驚いた。人が書いたメッセージのリンクよりも、AIが作成したメッセージのリンクのほうが、はるかに多くクリックされていたのである。

「研究者たちは、AIにはある程度の習熟が必要であると主張してきました。非常に優れたモデルのトレーニングには、数百万ドルのコストが必要になるという主張です」と、シンガポール国立テクノロジー庁のサイバーセキュリティ専門家のユージーン・リムは言う。

「ところが、AIaaSに放り込んでしまえばコストは微々たるもので、使い方も非常に簡単です。ただテキストを入力するだけで、結果が出力されます。コードを走らせる必要すらなく、プロンプトを与えればアウトプットを得られます。このため参入障壁が低下し、はるかに多くの人が利用できるようになります。同時に、スピアフィッシングの潜在的な標的も拡大します。大々的に送信されるすべてのメールを、一夜にして個々の宛先に合わせてパーソナライズできるようになったのです」

不気味なほど人間らしい文章

今回の実験に際して研究チームは、OpenAIのGPT-3プラットフォームと、個人の性格の分析に特化した別のAIaaSを利用して、同僚たちの背景情報や特徴に合わせたフィッシングメールを作成した。個人の性格の分析に特化した機械学習モデルは、個人の行動に関するインプットに基づいて個人の傾向や気質を予測するものだ。

研究チームは、モデルのアウトプットを複数のサービスにかけることで、メールを送信する前に流れ作業のように文面を校正するラインを組んだ。その結果、完成した文章は「不気味なほど人間らしく」なったという。しかも自動化されたプラットフォームであるにもかかわらず、驚くほど細部にまで凝った文章が出力されたという。例えば、シンガポール在住者に向けて生み出されたコンテンツでは、シンガポールの国内法について言及されていた。