産経ニュース

人工知能が「偏見」を学んでしまった 画像認識で「白人男性」より「黒人女性」の識別率が低かった理由

WIRED WIRED

記事詳細

更新


人工知能が「偏見」を学んでしまった 画像認識で「白人男性」より「黒人女性」の識別率が低かった理由

システムの利用者が巻き込まれる懸念も

機械学習アルゴリズムを提供するサーヴィスの分野では、マイクロソフトやIBMのほか、グーグル、アマゾンといった大手テック企業が激しい競争を繰り広げている。いままでAIの能力はテック企業しか活用できなかったが、スポーツやヘルスケア、製造といった産業でも広く利用できるよう、画像や文章の解析を行うクラウドサーヴィスを売り込んでいる。

見逃しがちな裏の面として、こうしたサーヴィスの技術的な制約や限界にクライアントも巻き込まれる懸念がある。

マイクロソフトのAIサーヴィスを利用しているクライアントのひとつに、スタートアップのPivotheadがある。目の不自由な人のためにスマートグラスを開発している企業だ。マイクロソフトのヴィジョンサーヴィスを利用し、ユーザーの近くにいる人の年齢と表情を合成音声で説明する。

マイクロソフトと共同で制作したプロジェクトの動画を見てほしい。ロンドンの街を白い杖をついて歩く男性が、スマートグラスの助けを借りて、周りに何があるのかを理解する様子が映されている。

スマートグラスが男性に「スケートボードで空中トリックをきめた男性がいるようです」と教える場面がある。若い白人男性がその前をシューっと滑っていく。マイクロソフトの画像認識サーヴィスがテスト結果の通りなら、この男性が黒人だった場合、描写の精度は低くなる可能性がある。

マイクロソフトはサーヴィスについての技術文書でジェンダーの判別について、顔認識技術における表情や年齢といったほかの要素と同様、「まだ試験的なものであり、正確でない場合がある」と記している。

続きを読む

このニュースの写真

  • 人工知能が「偏見」を学んでしまった 画像認識で「白人男性」より「黒人女性」の識別率が低かった理由