EUが新たなAI規制を導入

欧州委員会は、ヨーロッパを信頼できる人工知能（AI）の世界的な中心にすることを目指して、2021年4月21日に人工知能（AI）規制を提案した。 EU初のAIに関する法的枠組みは、EU加盟国全体の協調計画と相まって、人々と企業の安全と基本的権利を保証するとともに、EUのAIの導入、投資、イノベーションを強化します。新しい規制では、安全基準を調整し、新世代の多機能製品に対するユーザーの信頼を高めます。

[[395459]]

新たな AI 規制により、ヨーロッパの人々は AI 製品を信頼できるようになります。比例的かつ柔軟なルールは、AI システムによってもたらされる特定のリスクに対処し、世界的に最高水準を設定するように設計されています。協調計画は、人間中心で持続可能、安全、包括的かつ信頼できる AI の開発におけるヨーロッパのリーダーシップを強化するために、EU 加盟国による必要な政策変更と投資を概説しています。

新しい規制は人工知能の開発動向に基づいており、リスク分類に応じてすべてのEU加盟国に適用される。

容認できないリスク:人々の安全、生活、権利に明らかな脅威を与えると判断される AI システムは禁止されます。これには、人間の行動を操作してユーザーの自由意志を回避する AI システムやアプリケーション (たとえば、音声アシスト玩具を使用して未成年者の危険な行動を促すなど) や、政府が「ソーシャル スコアリング」を実施できるようにするシステムが含まれます。

高リスク:高リスクとして識別された AI システムには、次の用途が含まれます。

• 人々の生命や健康を危険にさらす可能性のある重要なインフラ（交通機関など）
• 誰かの教育機会を決定する可能性のある教育または職業訓練（テストのスコアなど）。
• 製品の安全コンポーネント（ロボット支援手術における AI の使用など）
• 雇用、スタッフ管理、自営業チャネル（採用用の履歴書整理ソフトウェアなど）
• 基本的な民間および公共サービス（国民の信用へのアクセスを奪う信用スコアなど）
• 人々の基本的権利を侵害する可能性のある法執行（証拠の信頼性を評価するシステムなど）
• 移民、亡命、国境管理の管理（渡航文書の真正性を検証するシステムなど）
• 司法および民主的なプロセスに AI を活用する。

高リスクの AI システムは、市場に投入される前に厳しい管理の対象となります。

• 適切なリスク評価および軽減システム
• リスクと差別的な結果を最小限に抑えるために、高品質のデータセットをシステムに入力します。
• 結果の追跡可能性を確保するために活動の記録を保持する。
• 規制当局がコンプライアンスを評価できるように、システムとその目的に関する必要な情報をすべて提供します。
• ユーザーに十分かつ明確な情報を提供する。
• リスクを最小限に抑えるための適切な人的監視措置。
• 高度な堅牢性、セキュリティ、精度。

特に：

• すべてのリモート生体認証システムは、高リスク AI システムと見なされます。
• 原則として、法執行目的で公共の場での使用は禁止されていますが、厳密に定義および規制されている狭い例外（行方不明の子供の捜索、特定の差し迫ったテロの脅威の防止、または重大な犯罪の加害者または容疑者の検出、所在確認、特定、起訴に必要な場合など）があります。
• アクセスは司法機関またはその他の独立機関によって承認され、時間、地理的範囲、検索対象のデータベースが適切に制限される必要があります。

限定的なリスク:透明性のある開示義務を備えた AI システム。チャットボットなどの AI システムを使用する場合、ユーザーは機械と対話していることを認識して、十分な情報に基づいた意思決定を行う必要があります。

最小限のリスク:規制により、ビデオゲームやスパムフィルターなどのアプリケーションで AI を自由に使用することが許可されています。AI システムの大部分はこのカテゴリに分類され、国民の権利や安全に対するリスクが最小限またはまったくないため、介入の対象にはなりません。

監督の面では、欧州委員会は各国の市場監督当局が新しい規制に協力することを推奨し、その実施を促進し、人工知能の標準の開発を促進するために欧州人工知能委員会を設立する予定です。さらに、リスクの高くない AI システムに関する自主的な行動規範を策定し、イノベーションを促進するための規制サンドボックスを設立することが提案されています。

AIに関する協調計画

2018年に初めて公開されたEU AI調整計画は、人工知能の開発のための行動とツールを定義し、国家戦略とEUの官民パートナーシップ、研究・イノベーションネットワークのダイナミックな環境を作り出しています。この調整計画の包括的な更新では、COVID-19によってもたらされた新たな課題を考慮しながら、協力のための具体的な行動を提案し、AIに関する欧州戦略および欧州グリーンディールとの整合性を確保します。この調整された計画は、AIへの投資を加速し、パンデミック後の回復を推進し、各国のAI開発戦略を刺激し、断片化を排除し、世界的な課題に対処するというビジョンを示しています。

この調整された計画は、デジタル・ヨーロッパおよびホライズン・ヨーロッパ・プログラム、ならびにEU復興基金の20%のデジタル支出目標、およびEU結束政策によって割り当てられた資金を通じて実施される。

• 政策的知見の交換、データの共有、重要なコンピューティング機能への投資を通じて、AI 開発を促進する環境を構築する。
• 官民パートナーシップ（PPP）を通じて研究、開発、イノベーション能力を構築し、中小企業や行政機関に試験・実験施設やデジタルイノベーションセンターを提供することでAIの商業化を促進します。
• デジタル分野における研修プログラム、博士課程ネットワーク、ポスドク研究員制度をサポートし、人材とスキルを構築し、AIに関する欧州のビジョンを世界的に推進し、AIが人々のために機能し、社会の力となることを保証します。
• 持続可能な環境への AI の貢献、スマート ヘルスケア システムを推進するための国境を越えた情報交換の拡大、公共部門、輸送、農業、ロボット工学における AI の応用など、影響力の大きい分野とテクノロジーで戦略的リーダーシップを確立します。
• 機械規制: ロボットから芝刈り機、3D プリンター、建設機械、工業生産ラインまで、幅広い消費者向け製品と業務用製品をカバーします。新世代の機械がユーザーと消費者の安全を確保し、イノベーションを促進することを保証します。 AI規制はAIシステムの安全リスクに対処する一方、新しい機械規制はAIシステムを機械全体に安全に統合することを保証します。企業は適合性評価を 1 回だけ実行する必要があります。

さらに、新しい機械規則は、既存の規定をより明確にし、文書のデジタル形式を許可し、中小企業の適合性評価料金を調整することで、企業の管理上の負担とコストを簡素化するとともに、EU製品法の枠組みとの整合性を確保します。

欧州議会とEU加盟国は、通常の立法手続きにおいて、AIシステムと機械に関する委員会の勧告を採用する必要がある。規制が採択されると、EU 全域に直接適用されることになります。同時に、欧州委員会は加盟国と協力し、協調計画の実施を促進していきます。

背景：

欧州委員会は長年にわたり、EUの価値観に基づく競争力の向上と信頼の確保を目的に、EU全体でAIに関する協力を推進・強化してきました。

2018年に欧州AI戦略が発表され、広範な協議と議論を経て、人工知能に関するハイレベル専門家グループは、2019年に信頼できるAIのためのガイドライン、2020年に信頼できるAIの評価リストを策定しました。同時に、加盟国との共同の取り組みとして、2018年12月に初の人工知能に関する調整計画が発表されました。

欧州委員会の2020年AI白書では、欧州におけるAIの明確なビジョン、すなわち卓越性と信頼のエコシステムが示されており、AI規制の提案の基盤が築かれています。人工知能白書に関するパブリックコンサルテーションには、世界中から幅広い参加が集まりました。人工知能、モノのインターネット、ロボット工学の安全性と責任への影響に関する白書では、製品の安全性に関する法律がまだ不完全であると指摘されています。

EUはAI規制の導入を計画、業界は反発

欧州連合（EU）は、人工知能（AI）の応用を規制する新たな法案を提案した。この法案が可決されれば、AIを規制する世界初の規則となる。しかし、企業は、この新法によってAIの利用コストが増加し、EUの技術革新が制限または抑制されるのではないかと懸念している。

最新のEU法案では、AIの応用方法をリスクに応じて分類しています。リスクの高いAIの応用には、主要なインフラ、大学入学選考システム、銀行融資審査システムなどが含まれます。新法では、こうした高リスクのAIアプリケーションはEUによって厳しく規制され、違反した企業は全世界の年間収益の最大6％の罰金を科せられることになる。

新法は、監督を強化するほか、公共交通機関、公共の場所、店舗での顔認識検出、警察が犯罪者を追跡するための遠隔生体認証システム、潜在意識を読み取ることができるAI技術など、特定のAIアプリケーションも禁止する。新しい規制では、使用前に顔認識システムがどのようにデータを取得するかを詳述したコンプライアンス報告書を管轄当局に提出しなければならないと規定されている。

新しいAI法は、あまりに一般的で不明瞭であると批判されており、実際にどのように実施されるかはまだ分からない。法律の専門家は、規制には例外が多すぎるため、AIを規制、保護、禁止するという目的が無意味になっていると考えています。