欧州のAI規制案は世界的な影響を及ぼす可能性がある

メディアの報道によると、欧州連合は最近、米国や中国のテクノロジー大手を含む組織を対象に、域内での人工知能技術の使用を制限または禁止する規則を提案した。

EUが提案する規則は、顔認識、自動運転車、オンライン広告、自動採用、信用スコアリングを推進するアルゴリズムなど、人工知能技術を規制するこれまでで最も厳しい規則の一つとなるだろう。提案された規則は、未来志向でありながら議論を呼んでいる人工知能技術に関する世界的な規制と規範を確立することになる。

[[395248]]

「これは、特定のAI技術は民主主義、法の支配、基本的権利に基づく社会では使用できないという非常に重要なメッセージを世界的に伝えることになるだろう」と、欧州のデジタル権利非営利団体「アクセス・ナウ」の欧州政策アナリスト、ダニエル・ルーファー氏は述べた。

同氏は、EUが提案した規則は曖昧ではあるものの、潜在的に有害な技術の使用を阻止する上で重要な一歩であると指摘した。国際的に厳しく監視される可能性が高いこの規則は、欧州連合内で製品やサービスを販売するあらゆる企業に適用される。

他の擁護者たちは、AIの多くの悪用から国民を守るためのEUの規則には抜け穴が多すぎると主張する。 「いくつか前向きな規則もある」とブリュッセルに拠点を置く欧州デジタル権利グループ（EDRi）の政策・キャンペーン担当役員エラ・ヤクボウスカ氏は言う。「一部の規定は、政府機関や組織がAI技術を懐疑的な形で使い続けることを認めることになるだろう」

例えば、提案されている規制では、AIの「高リスク」な応用を禁止する。これには、法執行機関による顔認識のためのAIの使用が含まれるが、その技術が公共の場でリアルタイムに人の位置を特定するために使用される場合に限られる。この規則では、警察が少なくとも3年の懲役刑につながる可能性のある犯罪を捜査している場合の例外についても勧告される。

ヤクボウスカ氏は、AIは今でも学校、企業、ショッピングセンター、そしてさまざまな警察の捜査で使用されていると指摘した。 「基本的なデジタル権利に関しては、まだ改善の余地が大いにある」と彼女は語った。「彼らがもっと大胆な姿勢を取ることを期待している」

顔認識技術は最近の人工知能の発展により、はるかに効果的になり、多くの論争を巻き起こしている。一部の国では、Clearview AIなどの商用ツールを通じて法執行機関が広く使用しており、米国の一部の都市では、警察が抗議活動に対応するためにこの技術を使用することを禁止している。

EUが提案するAI規則では、政府機関が一般的な目的でAIベースの社会スコアリングを行うことや、心理的または身体的危害を与える可能性のある方法で「特定のグループ」を監視対象としてAIを使用することも禁止される。また、信用スコアリング、採用、あるいはある種の監視広告への AI の使用にも制限が設けられる可能性があり、たとえば AI アルゴリズムがギャンブル サイトの広告を人々に推奨する可能性がある。

EUが提案するAI規制では、高リスクのAIアプリケーションを使用する組織は、安全性を証明するために規制当局にリスク評価レポートを提出することが義務付けられる。遵守しない組織には、世界売上高の最大6%の罰金が科せられる可能性がある。

提案された規則では、組織が AI を使用して感情を検出したり、生体認証特性 (性別、年齢、人種、政治的志向など) に基づいて感情を分類したりしようとする場合、ユーザーに通知することが義務付けられます。

デジタル著作権アナリストのロイファー氏は、EUが提案した規則は業界団体の特定分野への投資を妨げ、EUや他の国や地域におけるAI産業の発展のペースに影響を及ぼす可能性があると述べた。

今年1月に策定されたこの規制案の内容が最近明らかになった。最終版には、高リスクのAIシステムの使用を禁止する条項の削除など、いくつかの注目すべき変更が含まれていました。