顔認識ブームを冷静に考える：倫理的・道徳的問題は熟考する価値がある

[[354407]]

科技日報は11月27日、顔認識システムが都市に多くの利便性をもたらしたと報じた。しかし、多くの国では顔認識に対する抵抗が高まっています。研究者、公民権擁護者、法学者は顔認識技術の台頭に困惑している。彼らはその使用状況を追跡し、その害を明らかにし、その技術の使用に対する安全策や全面禁止を求める運動を行っている。しかし、技術発展の潮流は止められず、この技術の存在は「避けられない」と考える人が増えていますが、その背後にある道徳的、倫理的問題は、私たちが熟考する価値があります。

最近、ネイチャー誌の一連のレポートで、顔認識システムの背後にある倫理が検討されました。一部の科学者は顔認識技術に内在する不正確さと偏見を分析し、その背後にある差別を警告し、技術のより厳しい規制と透明性の向上を求めている。

ネイチャー誌が顔認識、人工知能、コンピューターサイエンスの分野で研究する480人の研究者を対象に行った調査では、顔認識研究の倫理性について幅広い懸念がある一方で、意見の相違もあることがわかった。

一部のデータは同意なしに取得される

顔認識アルゴリズムが適切に機能するためには、理想的にはさまざまな照明条件や角度で複数回撮影された大規模な画像データセットでトレーニングおよびテストを行う必要があります。かつて科学者はさまざまな角度から写真を撮るためだけにボランティアを募集するのが一般的でしたが、現在ではほとんどの人の顔画像が許可なく収集されています。

顔認識技術を使って外見から性別、年齢、人種などの個人的特徴を特定または予測する研究について尋ねられたネイチャー誌の調査対象者480人のうち約3分の2が、そのような研究は顔認識技術を使用する人々の十分な情報に基づく同意を得た上で、または影響を受ける可能性のあるグループの代表者と話し合った上でのみ実施されるべきだと述べた。

顔認識ソフトウェアを使用した研究は、倫理審査委員会などの倫理審査機関によって事前に承認されるべきだと考える人がほとんどです。彼らは、学校や職場、あるいは公共空間が民間企業によって監視されているときに顔認識がリアルタイム監視に利用されることに最も不快感を覚えると述べたが、犯罪捜査において警察が顔認識システムを利用することには概ね賛成した。

法的には、ヨーロッパの科学者が生体認証研究のために本人の同意なしに顔写真を収集できるかどうかは不明だ。 EUの一般データ保護規則は研究者にとって明確な法的根拠を提供していません。米国では、一部の州が、営利企業が個人の同意なしに生体認証データを使用することは違法であるとしている。

回答者は、公的機関による顔認識技術の使用を規制するための追加規制が必要であると強く信じています。 40％以上がリアルタイムの大規模監視の禁止を望んでいる。

性別や人種による偏見が存在する

顔認識システムは通常、独自のものであり、秘密に包まれているが、専門家によれば、そのほとんどは、ディープラーニングを通じて大量のデータで大規模なニューラルネットワークをトレーニングする多段階のプロセスを伴うという。

米国立標準技術研究所（NIST）は昨年末に発表した報告書で、顔認識の精度が大幅に向上し、ディープニューラルネットワークが画像認識に効果的であると述べた。しかしNISTは、ほとんどの顔認識システムは有色人種や女性よりも白人男性の顔に対しての方が正確であることも確認した。特に、NIST データベースでアフリカ系アメリカ人またはアジア人として分類された顔は、白人として分類された顔よりも誤認される可能性が 10 ～ 100 倍高かった。女性は男性よりも誤検知を報告する可能性が高くなります。

NISTの画像グループを率いる電気技師クレイグ・ワトソン氏は、この不正確さは各社のトレーニングデータベースの構成の不均衡を反映している可能性が高いと考えている。一部の企業はすでにこの問題に取り組み始めているかもしれない。

厳格な法律と監督が必要

顔認識や分析技術に取り組んでいる研究者は、顔認識には、迷子の子供の発見、犯罪者の追跡、スマートフォンやATMの使いやすさの向上、ロボットが人間のアイデンティティや感情を認識して人間とやりとりするのを支援すること、一部の医学研究では診断を支援したり、同意した参加者を遠隔で追跡したりするなど、多くの用途があると指摘している。

顔認識技術には利点があるが、その利点はリスクと比較して評価される必要があり、そのため適切かつ慎重に規制される必要がある。

現在、Google、Amazon、IBM、Microsoftなどの多くの研究者や企業が、顔認識システムのより厳しい規制を求めています。

マサチューセッツ州ボストンのノースイースタン大学で顔面監視を研究しているコンピューター科学者で法学教授のウッドロー・ハーツォグ氏は、顔認識技術を「歴史上最も危険な発明」と呼び、米国の議員が企業による顔認識の使用を許可するなら、ジムからレストランに至るまで「顔指紋」の収集と保管を禁止し、予測的な警察活動、広告ターゲット、雇用などの自動意思決定と連携した顔認識技術の使用を禁止する規則を制定すべきだと述べている。

慎重な調査と検討がまだ必要である

「私たちの社会には、顔認証や生体認証の合法的かつ合法的な応用が数多く必要だ」と、イーストランシングにあるミシガン州立大学のコンピューター科学者アニル・ジェイン氏は言う。しかし、一部の科学者は、人々に知られることなく遠隔で顔を認識したり分類したりする技術は根本的に危険であり、人々を支配するために使われることは避けるべきだと研究者は認識しなければならないと述べている。

人工知能分野の最高峰の会議の一つである神経情報処理システム会議は、今年初めてそのような倫理的配慮を求め、顔認識に関する論文を提出する科学者に対し、研究の倫理的問題と潜在的な悪影響を説明する声明を追加することを義務付けた。

さらに、Nature Machine Intelligence誌は、一部の機械学習論文の著者に対し、より広範な社会的影響と倫理的問題を考慮した声明を論文に含めるよう要求しようとしている。

ニューヨーク州イサカのコーネル大学でテクノロジー倫理を研究する社会学者カレン・レヴィ氏は、顔認識を研究する学者の間で道徳的、倫理的問題に対する認識が高まっていることは「科学界における真の目覚めのように感じられる」と考えている。