人工知能の時代に人権と民主主義をどう守るか

人工知能 (AI) システムは近年急速に普及しており、特に 2023 年には大規模言語モデル (LLM) と呼ばれる特定のタイプのシステムの導入により注目を集めるようになります。このようなシステムの例としては、ChatGPT や Bard などがあります。

AI 技術はまだ発展途上ですが、AI システムの使用により、私たちの仕事や私生活、そして社会の組織や統治の方法が大きく変わることは明らかです。これは、アルゴリズムが文字通り人間よりも賢いからではなく、ほとんどの人間の知能ではかなわない幅広い基本的および高度なタスクを実行する際に、経済的な安定性と効率性を提供するからです。

人工知能の利用に関する懸念

一般的に、公の議論はAI技術の使用による経済的利益と欠点、行政や司法制度へのAIシステムの導入、さらには民間主体による特定の必須サービスの提供に焦点が当てられる傾向があるが、AIシステムが人間の意思決定を支援したり、さらには人間の意思決定に取って代わったりする場合、人権と民主主義の継続的な保護と法の支配の尊重をどのように確保するかについて深刻な懸念が生じている。これらの使用は、投票権、集会や結社の権利、意見を表明する権利、情報を受け取ったり伝えたりする権利など、つまり自由民主主義の基礎となる民主的なプロセスにも重大な影響を及ぼす可能性があります。

したがって、世界中の国々や政府間組織は、AI技術がもたらす課題に対処し、切望されているイノベーションを促進するために必要な法的枠組みを確立すべき時が来ているが、人権や基本的自由を犠牲にしてはならない。法の支配ではなくアルゴリズムのルールによって支配されるディストピア的で非民主的な世界をうっかり作り出すのではなく、社会の仕組みを改善し、環境を保護し、経済発展を促進するために AI システムをどのように使用するかについて慎重に考える必要があります。

AI技術の利用を規制する

欧州評議会は、46カ国が加盟するヨーロッパ大陸最古の政府間地域組織であり、その欧州人権裁判所はおそらく世界で最もよく知られている機関です。 2019年、欧州評議会は、人権、民主主義、法の支配の分野における自らの法基準およびその他の関連する国際法基準に基づき、AIに関する国際条約の実現可能性と必要性​​に関する画期的な作業を開始しました。この国際レベルでの重要な先駆的研究の成果により、2022 年に人工知能委員会 (CAI) が設立されました。 CAI の使命は、人権、民主主義、法の支配の観点から、AI システムの設計、開発、使用、廃止に関連する法的拘束力のある要件、原則、権利、義務を規定する AI 技術に関する枠組み条約を策定することです。

グローバルアプローチ

「人は誰も孤島ではない」ということわざにあるように、世界のどの地域も完全に独立することはできません。私たちは皆、グローバル化した経済の一部であり、最終的には同じ課題と政策選択に直面しています。 AI技術には国境がなく、AIシステムに関連する人権や民主主義に関する有意義な国際標準の設定は、世界の特定の地域に限定することはできません。そのため、欧州評議会の閣僚委員会は、欧州評議会の価値観と目的を共有する関心のある非欧州諸国の交渉参加を認めることを決定し、世界中でますます多くの国がすでに私たちの取り組みに参加しているか、参加する過程にあります。

同様に、欧州委員会がこれらの交渉に関係する非国家主体を密接に関与させることも重要である。現在、CAI には、各国の代表、その他の国際機関、欧州委員会の関連機関や委員会とともに、61 名の民間団体および業界の代表者がオブザーバーとして交渉に参加しています。

人権と民主主義を守る

ヨーロッパでは、欧州連合 (EU) が 27 の加盟国における AI システムの規制において重要な役割を果たしており、加盟国を代表して欧州委員会の交渉に直接参加しています。 EU の AI 指令と欧州評議会の枠組み条約は、発効すれば相互に強化し合い、欧州の両組織の強みと能力を最大限に活用する方法の例となるでしょう。

枠組み条約草案は、AI技術の使用が人権の保護、民主主義、民主的プロセスの機能、あるいは法の支配の尊重に関して法的空白をもたらさないことを確保することに重点を置いています。旧人工知能特別委員会（CAHAI）が作成した実現可能性調査の結果によると、その目的はAI環境に新たな実質的な人権を創設することではなく、既存の人権、特に国際法や基本的自由によって保護されている人権が侵害されないよう保証することである。これは、規制当局、開発者、プロバイダー、その他の AI 関係者に、これらのシステムが考案された瞬間からライフサイクル全体にわたって、人権、民主主義、法の支配に対するリスクを考慮することを義務付けることによって達成されます。さらに、AI技術の透明性と説明可能性という特有の課題を考慮すると、人権侵害の被害者が利用できる法的救済策を更新する必要がある。

民主主義への脅威

AI技術が民主主義と民主的プロセスに及ぼす潜在的な脅威、特にこれらのシステムが個人を操作したり欺いたりする能力に関しては、条約によって対処されることになる。これには、いわゆる「ディープフェイク」の使用、マイクロターゲティング、または表現の自由、意見を形成し保持する権利、集会や結社の自由、情報を受け取ったり伝えたりする権利に対するより直接的な干渉が含まれます。枠組み条約には、締約国に対し、そのような慣行に対して効果的な保護を提供する法的拘束力のある義務が含まれることになる。

「法の支配」とは、政府と民間主体が法律に基づいて責任を負うこと、法律は明確かつ公開されるべきであること、法律はアクセスしやすく、公正かつ効率的な方法で制定、管理、施行されるべきであること、そして誰もが公正な紛争解決へのアクセスを保証されるという考えを含む、長年にわたる法哲学的概念です。デリケートな状況で使用される可能性のある AI システムの設計と使用は、法律の起草、行政、特に裁判所を通じた司法の運営など (ただしこれらに限定されない) 公正で自由な法を遵守する社会を構成する基本概念を尊重しなければならないことは明らかです。枠組み条約では、この点に関して締約国に具体的な義務も規定する。

バランスを取る行為: AI に対するリスクベースのアプローチ

枠組み条約の草案とCAIのすべての取り組みは、AIシステムの設計、開発、使用、廃止に対してリスクベースのアプローチを採用しており、そうすることで人間の尊厳と主体性を重視しています。さまざまな状況で AI システムを使用することで生じる可能性のある悪影響を慎重に考慮せずに、AI テクノロジーが提供する明らかな可能性に夢中にならないことが重要です。したがって、枠組み条約草案では、締約国に対し、AI 技術の使用方法に関する意識を高め、情報に基づいた公的な議論を促進することも求めています。

前述のように、AI やその他の新興デジタル技術は、民主主義社会に多くの根本的な疑問と課題を提起します。同時に、これらのテクノロジーは、科学、医学、環境の保護と改善など、いくつかの重要な分野で貴重な進歩を遂げる機会も提供します。また、世界経済を活性化し、最終的には全人類にとってより良い生活環境を生み出すことも約束されています。しかし最近では、AI技術がもたらす危険性がメリットを上回るとして、AI技術の一時停止や禁止を求める声も上がっている。 AIに関して提起された正当な懸念を真剣に受け止める必要がある一方で、問題はすでに発生しており、高度で強力なAIシステムの作成を可能にした科学技術の発展を効果的に逆転させることはできないことを認めなければなりません。

したがって、現実的なアプローチは、AI やその他のデジタル技術を責任を持って使用し、世界中のできるだけ多くの人々がそれらの恩恵を受け、それらの誤用から保護されるようにする方法を見つけることでなければなりません。

これは、志を同じくする国々の共同の努力と、市民社会、テクノロジー業界、学界の支援が必要となる大きな課題です。欧州評議会が世界各国と共同で策定している枠組み条約が、切望されている法的明確性と基本的権利の保護の保証を提供し、強力な新デジタル技術の導入によって人権と民主主義にもたらされる課題に対して、バランスのとれた永続的な政策的解決策をいかにして開発するかについての現在および将来の議論の焦点となることを、私たちは期待し、切望しています。