政府規制のAIの時代が到来

スティーブン・ホーキング博士はかつてこう言った。「効果的な人工知能の開発に成功すれば、私たちの文明史上最大の出来事となるかもしれない。しかし、潜在的なリスクに備え、回避する方法を学ばなければ、私たちの文明史上最悪の出来事となるかもしれない。」

LLM (大規模言語モデル) の形で AI が爆発的に増加しています。 ChatGPT のようなツールを使用した人間のような自然言語による会話により、AI が広く採用される時代がすぐそこまで来ていると多くの人が信じるようになりました。かつては「純粋な人間」が行っていた多くの作業を自動化することを期待して、ハードウェアとソフトウェアに巨額の投資が行われてきました。最近、Googleは広告販売チームの再編を発表し、AIプロセスを自動化し、主要な業務をAIエージェントやツールに引き継ぐために「数百人の従業員」を解雇した。こうした高レベルの人間と AI の会話の有効性は未だ不明です。

LLM を含む生成型人工知能 (GenAI) の 1 つの側面は、市場が進化するスピードです。研究者たちは何年も新しいアイデアやモデルを開発してきましたが、AI、特に GenAI と LLM に対する商業的な関心は過去 18 か月で加速しており、減速の兆候は見られません。ホーキング氏のアドバイスはまさに的を射ている。

AI テクノロジーの急速な発展と未検証の有効性を考慮して、HPCwire は Intersect360 Research のシニア アナリストである Steve Conway 氏にインタビューし、AI を規制するための政府の取り組みと、こうした取り組みがハイパフォーマンス コンピューティング (HPC) に及ぼす影響についてコメントしてもらいました。コンウェイ氏は10年以上にわたり人工知能の進歩を注意深く追ってきた。彼はこのテーマについて積極的に講演し、ジョンズ・ホプキンス大学応用物理学研究所と共同執筆した「米国軍上級指導者のための人工知能入門」など、多数の記事を出版しています。

AIは政府によってどのように規制されていますか?

コンウェイ氏：2024年と2025年は、世界各国の政府によるAI規制にとって重要な時期となるでしょう。政府は、最近の進歩、特に生成型 AI が社会と経済を大きく変革できることを認識しており、有害な潜在的リスクを回避しながら AI のリーダーになれるように設計された規制を推進しています。今日の世界は、AI に関しては興奮と懸念の間で揺れ動いており、規制の言語はその両方を反映しています。これらの文書を読んでいくと、まるでパンドラの箱が開かれたかのように、リスクを管理するための大きな情熱と緊急感が生まれます。

なぜ今規制措置が増えているのでしょうか?

コンウェイ氏：主流の方法と学習モデルは非常に有用ですが、まだ十分な透明性と信頼性がありません。この状況により、意図的または意図的でない虐待の重大な可能性が生じます。数年前、私はシカゴ大学のレベッカ・ウィレット氏による、AI がエラーやバイアスをもたらす可能性のあるさまざまな方法についての素晴らしい講演を聞きました。生成 AI は、データを集約して整理する際に事実と虚構を区別できないという点でも懸念を引き起こしています。

たとえば、Google Duplex のような超リアルなロボットは、その AI としての性質を人間から意図的に隠すように設計されており、会話の中に「えー」や「あのー」を挿入することさえあります。スタンフォード大学の Adaptive Agent Group は、人工知能エージェント向けの Shibboleth ルールを提案しました。 「すべての自律型 AI は、エージェントから要求された場合、人間であろうとなかろうと、自分自身を識別する必要がある」と述べています。

これは HPC コミュニティにとって何を意味するのでしょうか?

コンウェイ氏：HPC は AI 研究開発の最前線でほぼ不可欠であり、ほぼすべての HPC サイトが AI の開発または調査を行っているため、策定中の国家 AI 規制の一部が主に科学研究者や、いわゆる最先端の AI 機能を持つ研究者を対象としているのは偶然ではありません。

HPC ベンダーに特別な影響はありますか?

コンウェイ氏：多くの政府規制当局が最先端の AI 機能のためのテクノロジーを設計し、提供しており、クラウド サービス プロバイダーを含む高性能コンピューティング ベンダーは AI リスクを軽減する取り組みに細心の注意を払い、こうした取り組みに直接参加することを検討すべきだと思います。知的財産権を保護し、違反に対して厳しい罰金を課すことも含まれます。サプライヤーはこれに細心の注意を払う必要があります。

これは研究者にとって何を意味するのでしょうか?

コンウェイ氏：AI の透明性の問題は、研究者が AI をいつ適用し、いつ人間を関与させるかについて引き続き注意する必要があることを意味します。重要なアプリケーションの場合、AI の使用は最後のステップではなく中間ステップであることが多く、AI の結果は可能な限り人間によって検証されるべきです。

世界中の規制では AI が同様に定義されていますか?

コンウェイ: これらの定義は通常非常に広範囲で、科学研究からソーシャルメディア、家電製品、自動運転および半自動運転、精密医療、通信など、幅広い分野が含まれることがよくあります。政府は、単一の機関がこのような多様な分野の AI 規制や政策を管理する能力があるかどうかについて真剣に検討する必要がある。米国、中国、英国を含む一部の政府は単一機関による解決策に向かっているようだが、欧州連合は分野ごとに異なる規制アプローチを追求している。

AI規制に関する主要国・地域の立場を簡単にご紹介いただけますか？

コンウェイ：その通りです。まず、責任ある研究活動規範を通じて生成AIを規制する措置を講じる上で主導的な役割を果たしてきた中国から始めましょう。ガイドラインでは、とりわけ、公衆に影響を与える研究資金プロジェクトの申請では、AI の使用を明記する必要があると規定されています。さらに、中国サイバースペース管理局（CAC）は、社会に脅威を与える可能性のある最先端のAIモデルに対するライセンス制度を導入した。重要なのは、CAC ライセンスは中小企業、新興企業、大企業を問わずイノベーションを促進することを目的としていることです。重要なブレークスルーが中小企業から生まれる可能性がある新興のAI市場で、大企業がそのような競争を阻止し独占を確立しようとするのではないかとの懸念が世界中で広がっている。

2023年11月のブレッチリー宣言では、英国、米国、中国、日本、および欧州、中東、アフリカ、アジア太平洋地域の多くの国を含む28か国が、最先端のAI機能に関連する高まるリスクを管理するために協力することに合意しました。今年か来年に施行される予定のEU AI法は、人工知能を規制する世界で最も包括的かつ厳格な試みとみなされており、一部の企業は同法がイノベーションを阻害していると非難している。 EUの規則では、重大な違反者には前年度の企業収益の7％、最高数百万ユーロの罰金が科されると規定されている。

2023年10月にバイデン米大統領が発令する大統領令は、プライバシー保護と差別処罰を目的としたAI権利法案の原則を示す上で重要なものとなるだろう。しかし、米国の30州ではAIの可能性とリスクに対処する法律が可決されている。米国では、連邦規制に関する合意が州レベルで達成されることは珍しくありません。

日本のアプローチは、欧州で見られるより厳しい規制よりも、米国のそれに近い。日本政府は2019年に「人間中心のAI社会原則」を発表し、その後「AI戦略2022」を発表しました。どちらも、人工知能の進歩の中で国民を守り、持続可能な社会を構築することを目的としています。 2023 年の人工知能、機械学習、ビッグデータに関する法律と規制は、法的責任を含むデータと知的財産の保護に重点を置いています。

量子コンピューティングは、潜在的な社会的リスクを伴うもう一つの変革的テクノロジーです。政府も量子コンピューティングに関する規制に取り組んでいるのでしょうか？

コンウェイ氏：量子コンピューティングの広範な商業化はまだ遠い未来なので、規制活動はまだ初期段階にあります。米国の金融取引業規制協会（FINRA）は、サイバーセキュリティとデータガバナンスに関連する量子規制の考慮事項を発表しており、他の多くの機関もそのリスクを検討している。しかし、現在の緊急性は主に人工知能に関連しています。例えば中国では、百度とアリババの両社が、今日の人工知能の競争にさらに重点を置くために、量子研究施設を政府に譲渡しました。量子コンピューティングのリスクに関する懸念は、近いうちにさらに深刻になるかもしれない。

規制によってイノベーションが阻害されないように、HPC コミュニティは AI のリスクを軽減するために何ができるでしょうか?

コンウェイ氏：AIに関連する大学のコースには例外なく倫理コースが含まれ、トレーニングではAIがもたらすリスクに焦点を当てるべきだと思います。ケンブリッジ大学、オーストラリア国立大学、ジョージア工科大学、スタンフォード大学、ニュージャージー工科大学、東京大学、シュトゥットガルト大学、北京大学など、世界中の多くの有名大学がすでにAI倫理コースを開設しています。この側面は非常に重要です。