マイクロソフト、物議を醸す顔認識機能を廃止へ

マイクロソフトは、動画や写真から対象者の感情を識別できると主張するツールを含む、人工知能による顔分析ツールの一部について、一般利用を禁止する動きを見せている。

こうした「感情認識」ツールは専門家から批判されている。顔の表情は人によって異なると広く信じられており、外見上の感情表現を内面の感情と同一視するのは非科学的だと彼らは言う。機械はしかめっ面を検出することはできますが、それは怒りを検出することと同じではないからです。

この決定は、マイクロソフトの AI 倫理ポリシーの大規模な見直しの一環です。 2019年に初めて提案された同社の最新の責任あるAI基準では、誰が同社のサービスを利用しているかを把握し、それらのツールがどこで使用されているかを人間が監視することに対する説明責任を強調している。

現実的に言えば、これはマイクロソフトが Azure Face と呼ばれる顔認識サービスの特定の機能へのアクセスを制限し、他の機能を完全に削除することを意味します。ユーザーは、顔認識のために Azure Face を使用するには、システムをどのように、どこで使用するかを Microsoft に伝えるなどの申請を行う必要があります。画像や動画内の顔を自動的にぼかすなど、それほど害のない使用例は引き続きオープンアクセスのままになります。

マイクロソフトは、感情認識ツールへの一般公開を削除したほか、Azure Face が「性別、年齢、笑顔、ひげ、髪、化粧などの属性」を認識する機能も削除した。

「社内外の専門家は、『感情』の定義に関する科学的コンセンサスの欠如、ユースケース、地域、人口統計にわたる推定の難しさ、そしてこの種の機能に関するプライバシーの懸念の高まりを指摘している」とマイクロソフトのトップAIリーダーであるナターシャ・クランプトン氏はこのニュースを発表するブログ投稿に記した。

6 月 21 日より、Microsoft は新規ユーザーへのこれらの機能の提供を停止し、既存ユーザーのアクセスは 2023 年 6 月 30 日に取り消されます。

Microsoft の一部の AI アプリケーションでは、引き続き感情認識機能が提供されます。

マイクロソフトはこれらの機能を一般向けに提供しなくなったが、少なくとも自社製品の 1 つでは引き続きこれらの機能を使用する予定である。それは、視覚障害を持つ人々に世界を「見る」ための新しい能力を与えるために機械視覚を使用する「Seeing AI」というアプリである。

マイクロソフトの Azure AI リードチームのプロダクトマネージャーであるサラ・バード氏は、感情認識などのツールは「アクセシビリティが制御されたシナリオで使用すると価値がある」と述べた。これらのツールが他の Microsoft 製品でも利用できるかどうかは不明です。

マイクロソフトは、顧客が実際の人間の録音に基づいて AI 音声 (ディープフェイク音声と呼ばれることもある) を作成できるようにするカスタム ニューラル音声機能にも同様の制限を導入しました。

このツールは「教育、アクセシビリティ、エンターテインメントの面で素晴らしい可能性を秘めている」が、バード氏は「講演者を不適切に偽装したり、聴衆を騙したりするためにも簡単に使用される可能性がある」と指摘した。マイクロソフトは、今後はこの機能へのアクセスを「管理顧客とパートナー」に限定し、「合成音声の作成時に元の話者の積極的な参加を確保する」と述べた。