偏見と不平等にノーと言いましょう!マイクロソフト、物議を醸していた顔認識サービスの提供を停止

マイクロソフトは、動画や画像に基づいて感情を識別するサービスを含む、人工知能を活用した顔認識ツールの一部へのアクセスを段階的に廃止すると発表した。

マイクロソフトは数日前にこの決定を発表した際、公正で信頼できる AI に対するマイクロソフトの目標を説明する 27 ページの「責任ある AI 標準」も公開しました。 Microsoft は、Azure Face API、コンピューター ビジョン、Video Indexer サービスによって提供されるものを含む一部の顔認識ツールへのアクセスを制限することで、これらの基準を満たしています。

マイクロソフトは、新規ユーザーにはこれらの機能を使用する機会がなく、既存の顧客も年末までに使用を中止する必要があると述べた。

顔認識技術は、公民権およびプライバシー保護団体にとって大きな懸念事項となっている。これまでの研究では、顔認識技術は完璧からは程遠く、女性や肌の色が濃い人を誤認する割合が高いことが分かっている。これは、AI が犯罪容疑者の特定やその他の監視状況に使用される場合に、大きな問題を引き起こす可能性があります。

感情を検出するための人工知能ツールの使用はさらに物議を醸している。今年初め、ズーム・ビデオ・コミュニケーションズ社が「感情AI」機能の追加を検討していると発表した際、プライバシー保護団体ファイト・フォー・ザ・フューチャーは、同技術が悪用される恐れがあるとしてズーム社に機能追加を控えるよう求めるキャンペーンを開始した。

顔認識をめぐる論争はテクノロジー企業によって真剣に受け止められており、アマゾン・ウェブ・サービスやフェイスブックの親会社メタ・プラットフォームズはいずれもそうしたツールの使用を縮小している。

マイクロソフトは、AIシステムが信頼できるものであるためには、それが解決するように設計された問題に対する適切な解決策でなければならないことを認識していると、マイクロソフトの最高AI責任者であるナターシャ・クランプトン氏はブログ投稿で述べた。顔認識は不適切なソリューションとみなされ、マイクロソフトは「感情状態や性別、年齢、笑顔、ひげ、髪、化粧などのアイデンティティ属性」を推測するAzureサービスを棚上げするとクランプトン氏は述べた。

彼女はまた、「AIシステムが社会的な偏見や不平等を悪化させる可能性は、おそらくこれらのシステムの最も広く認識されている害の1つです。私たちの法律は、AI特有のリスクや社会的ニーズにまだ追いついていません。AIに対する政府の行動が拡大している兆候が見られますが、私たちにも行動する責任があることは認識しています」と述べました。

マイクロソフトの決定が良いものかどうかについてはアナリストの間で意見が分かれている。 Pund-ITのチャールズ・キング氏はCNNビジネスに対し、顔認識技術をめぐる論争に加え、AIプロファイリングツールは開発者の主張ほどうまく機能しないことが多いと語った。 「より良い生活を求める難民や有色人種が多くの場所で攻撃されており、プロファイリングツールが悪用される可能性が大きいことにも留意する必要がある」とキング氏は述べた。「したがって、この種のツールの使用を制限するというマイクロソフトの決定は非常に合理的であると思う」

また、エンダール・グループのロブ・エンダール氏は、初期の数々の失敗から大きく進歩したツールである顔認識からマイクロソフトが撤退するのは残念だと述べた。同氏は、顔認識をめぐる否定的な評判のせいで、すでに大手企業の一部がこの分野から撤退せざるを得なくなっていると述べた。

「AI ベースの顔認識は、犯罪者、テロリスト、スパイを捕まえるのに非常に価値があるため、政府機関による使用を阻止することはできない」とエンダール氏は述べた。「しかし、マイクロソフトの撤退は、結局は専門の防衛企業や外国のベンダーのツールを使用することになるということであり、それらはおそらく効果が低く、同様の制御を欠いている。悪魔が解き放たれ、顔認識技術を抑圧することは、社会全体がその恩恵を受けることを妨げるだけだ。」

マイクロソフトは、責任あるAI基準は顔認識に限定されないと述べた。 Microsoft は、文字起こしツールを強化するために使用できる音声テキスト変換サービスである Azure AI Custom Neural Speech にもこれらの標準を適用します。マイクロソフトは、2020年3月の調査でアフリカ系アメリカ人と黒人コミュニティのソフトウェア使用時のエラー率が高かったことが判明し、これを考慮してソフトウェアの改善策を講じたと説明した。