顔認識技術は議論を呼んでいる。人工知能はどのように制御されるべきか？

[[264511]]

最近、米国の18歳の大学生が、アップルが顔認識ソフトウェアを使用して彼を強盗と間違えたとして、10億ドルの損害賠償を求めてアップルを訴えた。

男性は当時、マンハッタンで高校のプロムに参加していたと述べ、犯人は以前紛失した写真のない学生証から情報を盗んだのではないかと推測した。

アップルの不正行為は彼に大きな打撃を与え、ニューヨーク市警に自宅で午前4時に逮捕され、授業や中間試験を欠席せざるを得なくなり、その後成績にも影響を及ぼした。彼は過失、故意の精神的苦痛の加害、名誉毀損などの罪でアップルを相手取り10億ドルの訴訟を起こした。

これに対し、アップルは顔認識技術を使ったことは一度もないと主張したが、この事件により顔認識は論争の的となった。

昨年、アマゾンが開発・販売した顔認識技術「レコグニション」は、プライバシー擁護団体やリベラル団体、さらには社内の従業員からも、国民の権利や人権を直接的または間接的に侵害しているとして批判された。

今年1月、一部の株主は政府に対し、Rekognitionの取引禁止を提案した。Amazonはこの提案に対抗しようとしてきたが、SECに却下された。さらに、Amazonには権利が侵害されていないことを示す「独立した証拠」を提供する手段がない。

マイクロソフトは今年、国内の大学とのAI関連プロジェクトの共同研究や、米国の刑務所への顔認識ソフトウェアの取引など、AIと顔認識ソフトウェアに関しても多くの批判にさらされている。

最近、AIと顔認識は国民や政府からの圧力が高まっており、米国政府は顔認識の使用を制限するための法案をいくつか検討している。米国上院でさえ、顔認識ソフトウェアを超党派法案に盛り込んだ。

人工知能の発展と応用により、潜在的な脅威が徐々に明らかになるでしょう。 eBayの創設者ピエール・オミダイア氏と百度会長ロビン・リー氏はともに人工知能の倫理と道徳性について懸念を表明した。

Googleは3月26日、人工知能の倫理に関する問題に対処するためにATEAC委員会を設立した。しかし、設立から1週間も経たないうちに解散した。グーグルによれば、人工知能の道徳や倫理を規制する組織は必要だが、現実的に実施するのは難しいという。

もちろん、実用効果のないものにお金を使う人はいません。営利企業にとっては、これは慈善事業と何ら変わりません。政府が関連する法律や規制を持っていなければ、人工知能の倫理と責任の問題は将来大きな問題になるでしょう。