産経ニュース

人工知能が「偏見」を学んでしまった 画像認識で「白人男性」より「黒人女性」の識別率が低かった理由

WIRED WIRED

記事詳細

更新


人工知能が「偏見」を学んでしまった 画像認識で「白人男性」より「黒人女性」の識別率が低かった理由

技術の「透明性」を高め、正答率を公開する動きが活発に

D.J.パティルは、オバマ政権でチーフデータサイエンティストを務めた人物だ。この研究成果を踏まえ、テック企業の役割について、機械学習システムがあらゆるタイプの人々に対して等しく機能すると保証すべきだと話す。また、AIという輝かしい名を掲げて販売するシステムの限界をもっとオープンにすべきだとも言う。

「企業は『機械学習システム』や『AI』といった宣伝文句をつけますが、そのシステムがどれだけよく機能するかは未知数です。機能するところと、しないところをユーザーが判断できるだけの透明性が求められています」

ブォラムウィニとゲブルーは論文で、画像認識ソフトウェアの正確さについて、正答率が公開されるまでわからないと主張した。次年度のIBMの年次報告書には、顔分析サーヴィスがどう改善されたかに加え、正答率も掲載される予定だ。

IBMに情報の公開を迫った研究者たちは、機械学習システムに対して同様の審査を行う人が増えてほしいと考えている。今回の研究に使われた画像集は、クラウドサーヴィスのテストに使えるよう、ほかの研究者たちにも公開される予定だ。

マイクロソフトは機械学習の倫理を考えるリーダーとしての地位を確立する努力を続けている。社内にはこのテーマに取り組んでいる研究者が数多くおり、また「Aether」(AI and Ethics in Engineering and Researchの略)という倫理委員会を設けてもいる。

17年には、マイクロソフトのクラウドサーヴィスが一定年齢以下の子どもの表情を十分に認識できていないことが明らかになった。調査の結果、訓練に使われるデータに欠陥があったとわかり、サーヴィスの改善につながった。

このニュースの写真

  • 人工知能が「偏見」を学んでしまった 画像認識で「白人男性」より「黒人女性」の識別率が低かった理由