マイクロソフト、感情分析技術の販売を中止し、顔認識ツールの使用を制限

マイクロソフトは、人工知能システムのためのより責任ある枠組みを構築する取り組みの一環として、画像分析を使用して人の感情状態を判断するソフトウェアを撤回することを確認した。同時に、同社は顔認識技術の広範な使用にも制限を課す予定だ。既存の顧客は、感情、性別、年齢、笑顔、髪、化粧の有無などを推測する AI ツール セットである Azure Face を 1 年間のみ使用できます。

「こうした取り組みは、プライバシーや感情に関するコンセンサスの欠如、さらには関連するユースケース、地域、人口統計にわたって顔の表情と感情の状態の関係を一般化できないことなど、重要な問題を提起しています」と、マイクロソフトの Azure AI 主任製品マネージャーであるサラ・バードは述べています。

マイクロソフトは、自社の感情認識システムが科学的であるかどうかを検討していると報じられている。同社は何も語っていないが、画像に基づいて人の感情状態を推測するアルゴリズムをさらに改良することはできないかもしれないと思われ、マイクロソフトはそのようなツールの使用に関する新たな規制や法律を支持するかもしれない。

マイクロソフトは感情認識技術の販売停止に加え、顔認識技術へのアクセスも制限する予定だ。製品の継続使用を希望するお客様は、事前に承認を得て、対応する契約上の義務を負う必要があります。

実際の実施に関しては、マイクロソフトが追加の制限を課すのか、それともさまざまな不正使用のケースに対する法的処罰を免れるために顧客に免責同意書への署名を求めるだけなのかは不明です。

現在、マイクロソフトは顧客に対し、「プライバシーを侵害したり、技術に潜在的なトラブルを生じさせるような状況を避ける」ことだけを求めている。不可解なのは、未成年者を特定しないようにする法的規定があるにもかかわらず、マイクロソフトがそのような使用を明確に禁止していないように見えることです。

最後に、Microsoft はカスタム ニューラル音声機能にもいくつかの制限を設けています。この機能により、顧客は実際の人物による録音に基づいて AI 合成音声を出力できるようになります。