人工知能（AI）について知っておくべきことすべて

人工知能の進歩は前例のない機会をもたらすと同時に、経済的、政治的、社会的混乱ももたらします。専門家は、AIがもたらす変化が良い方向に進むよう監視する必要があると述べている。

要点:

• 2022年、OpenAIが開発した生成AIチャットボット「ChatGPT」のリリースにより、人工知能（AI）は世代的な飛躍を遂げました。
• 米国では、AI 開発の大部分を民間企業が管理しています。専門家は、この技術の可能性を最大限に引き出し、深刻なリスクを回避するためには新たな規則が必要だと述べている。
• AI の国際的な導入が進むと、世界の勢力バランスが変わり、深刻な地政学的影響が生じる可能性があります。

導入

人工知能（AI）は数十年前から存在していますが、新たな進歩によりこの技術が注目を集めています。専門家らは、その台頭は過去の技術革命を反映し、世界経済に数十億ドル相当の生産性をもたらす可能性があると指摘する一方で、世界の地政学的秩序や社会そのものの本質を覆しかねない新たなリスクも数多くもたらすとしている。

こうしたリスクを管理することは非常に重要であり、米国や欧州連合（EU）などの大国がAI技術の規制に対してますます多様なアプローチを取る中、AIガバナンスに関する世界的な議論が激化している。一方、AI の開発と導入は指数関数的なペースで進み続けています。

人工知能はどのように定義されますか?

単一の定義はありませんが、「人工知能」とは一般的に、従来は人間の能力に関連付けられていたタスクを実行するコンピューターの能力を指します。この用語の起源は1950年代にまで遡ります。当時、スタンフォード大学のコンピュータ科学者であったジョン

マッカーシーは「人工知能」という用語を「知的な機械を作る科学と工学」を説明するために使用しています。マッカーシーにとって、知性の尺度は変化する環境の中で問題を解決する能力である。

2022年以降、チャットボットChatGPTなどのいわゆる生成AIツールが一般使用されるようになり、この技術の認知度が高まっています。生成 AI モデルは、大量のトレーニング データから抽出し、特定のプロンプトに基づいて統計的に可能性のある結果を生成します。このようなモデルを搭載したツールは、人間のようなテキスト、画像、音声、その他のコンテンツを生成できます。

よく使われる AI のもう 1 つの形態は、人工汎用知能 (AGI)、または「強い」 AI です。これは、人間と同じように学習して知識を適用できるシステムを指します。しかし、こうしたシステムはまだ存在しておらず、専門家の間でもそれが具体的に何を意味するのかは意見が分かれている。

人工知能はどのように発展したのでしょうか?

研究者たちは80年にわたって人工知能を研究しており、数学者のアラン・チューリングとジョン・フォン・ノイマンがこの分野の創始者の一人と考えられている。基本的なコンピューターバイナリコードを教え始めてから数十年経ち、ソフトウェア企業はAIを利用して、チェスをプレイするコンピューターやオンライン言語翻訳などのツールを開発してきました。

AIに最も多額の投資を行っている国々では、歴史的に開発は公的資金に依存してきました。多くの国では、AI研究は主に政府によって資金提供されていますが、米国は数十年にわたって国防高等研究計画局（DARPA）やその他の連邦政府機関に依存してきました。近年、米国における人工知能の開発は主に民間部門に移行しており、民間部門はこれに数千億ドルを投資している。

2022年、バイデン米大統領は、米国政府の支出を技術研究開発に再び重点を置く「CHIPS・科学法」に署名した。この法案は、人工知能に必要な膨大な処理能力とデータ保存能力をサポートできる先進的なハードウェアの一種である半導体に、連邦政府支出の2,800億ドルを充てることを定めている。 2023 年 1 月、ChatGPT は史上最も急成長した消費者向けアプリになりました。

ユーラシア・グループのイアン・ブレマー社長とインフレクションAIのムスタファ・スレイマンCEOは、フォーリン・アフェアーズ誌に寄稿し、AIの登場は「ビッグバンの瞬間であり、政治、経済、社会を一変させる世界を変える技術革命の始まりである」と述べた。

人工知能は世界経済にどのような影響を与えるでしょうか?

世界中の企業や組織はすでに自社製品に AI ツールを導入しています。テスラなどの自動運転車メーカーは何年も前から人工知能を利用しており、取引業務の一部にアルゴリズムモデルを利用する投資銀行や、ターゲット広告の配信にアルゴリズムを使用するテクノロジー企業も同様だ。しかし、ChatGPT の登場以降、テクノロジーにあまり重点を置いていない企業でも、顧客サービスなどのシステムを自動化するために生成 AI ツールを導入するようになりました。 2023年4月のマッキンゼーの調査では、世界中の企業の3分の1が何らかの形でAIを使用していると主張しました。

人工知能の広範な応用は、総合的な技術革新を加速させることができます。半導体業界はすでに活況を呈しており、AIチップの大半を製造しているエヌビディアは、半導体の世界的な需要が急増する中、2023年に株価が3倍以上に上昇し、総評価額は1兆ドルを超えた。

多くの専門家は、AI産業の発展に伴い世界経済が大きな恩恵を受けると予測しており、今後10年間で世界の国内総生産（GDP）は年間7兆ドル増加すると予想されています。

人工知能は人間の仕事に取って代わるでしょうか？

歴史上における他の多くの大規模な技術的変化と同様に、AI は生産性の向上と雇用の喪失のトレードオフをもたらす可能性が高い。しかし、低スキルの仕事を大幅に排除したこれまでのブレークスルーとは異なり、生成型AIはホワイトカラーの仕事に危険をもたらし、多くの業界でこれまでにない速さで仕事を置き換える可能性がある。経済協力開発機構（OECD）は、世界の雇用の4分の1が人工知能による自動化に置き換えられるリスクが高いと述べている。ピュー研究所の調査によると、これらの仕事は、情報収集やデータ分析など、生成AIが人間の労働者と同等の品質で完了できるタスクに依存していることが多いことがわかりました。 AIに置き換えられる可能性が「非常に高い」労働者には、会計士、Web開発者、マーケティング専門家、テクニカルライターなどが含まれる。

OECDは、最も熟練を要する仕事はAI技術に伴う混乱から最も安全であるように思われるため、生成AIの台頭によって不平等に関する懸念も生じていると述べた。しかし、他の分析では、低スキル労働者はAIツールを使って生産性を高めることで恩恵を受ける可能性があることが示唆されている。MITとスタンフォード大学の研究者による2023年の研究では、経験の浅いコールセンターのオペレーターは、両グループがAIを使い始めてから生産性が2倍になったことが判明した。

人工知能は気候変動にどのような影響を与えるのでしょうか?

AIと環境の関係は、危険と希望の両方を予兆します。生成AIが気候変動対策に画期的な進歩をもたらす可能性があると考える専門家がいる一方で、この技術がもたらす膨大な二酸化炭素排出量について警告する専門家もいる。その膨大な処理能力には、エネルギーを大量に消費するデータセンターが必要です。これらのシステムはすでに航空業界と同等の温室効果ガスを排出しており、AI のエネルギー消費は今後の進歩とともに増加する一方です。

AI支持者は、開発者は再生可能エネルギーを利用してこれらの排出量の一部を削減できると主張している。 Apple、Google、Metaなどのテクノロジー企業は、データセンターの運営に自社の再生可能エネルギーを使用しているほか、いわゆるカーボンクレジットを購入して排出量を相殺し、化石燃料に依存するエネルギーの使用を回避している。

また、再生可能エネルギーの研究を増やし、高度なデータ分析を使用してエネルギー効率を最適化することで、AIが他の分野の排出量削減にも役立つことが期待されています。さらに、AI は気候適応策を改善することもできます。例えば、モザンビークの科学者たちはこの技術を利用して洪水のパターンをより正確に予測し、差し迫った災害に対する早期警報システムを強化している。

人工知能は国家安全保障とどのような関係があるのでしょうか?

多くの専門家は、人工知能の発展は米国と中国の間の技術的優位をめぐる争いであると見ている。この競争の勝者は経済的、地政学的優位性を獲得すると彼らは信じている。これまでのところ、米国の政策立案者はこの枠組み内で活動しているようだ。 2022年、バイデン氏は国家安全保障を理由に中国への最強の半導体の輸出を禁止し、米国の同盟国にも同様の措置を取るよう促した。 1年後、バイデン氏は中国の人工知能分野への米国の投資の多くを全面的に禁止することを提案し、商務省は中国の「AIの躍進」を抑制することを目的とした一連の新たな制限を発表した。ほとんどの専門家は、これまでのところ米国がAI開発で中国を上回っていると考えているが、中国はすぐにその差を縮めるだろう。

AIは米国の国家安全保障にもより直接的な影響を及ぼす可能性がある。国防総省は、AI技術が自律型兵器を強化し、戦略分析を改善することで「戦争の性質」を変えると期待している。一部の専門家は自律型致死兵器の禁止を主張している。ウクライナとロシアの戦争において、キエフは人工知能を搭載した自律飛行ドローンを配備しているが、このような技術が大規模な紛争で使用されるのは初めてだ。交戦国側も近い将来、戦場での意思決定を迅速化したり、敵のインフラへの攻撃を自動化したりするために AI システムを利用するようになるかもしれません。一部の専門家は、こうした能力によって核兵器が使用される可能性が高まるのではないかと懸念している。

さらに、AI は偽情報とプロパガンダという二重の脅威を悪化させる可能性があります。この問題は、これまで以上に多くの人々が投票する年が近づくにつれて特に重要になります。2024 年には、世界人口の半分を占める 70 か国以上で国政選挙が行われます。生成AIツールによってディープフェイクの作成が容易になり、この技術はすでに世界中のキャンペーンに導入されています。専門家はまた、悪意のある人物がAIを利用して、ターゲットの利益に合わせた高度なフィッシング攻撃を仕掛け、選挙システムにアクセスする可能性もあると指摘している。歴史的に、フィッシングは選挙ハッカーがこれらのシステムに侵入する手段となってきました。米司法省によれば、ロシアはこの方法を使って2016年の米国選挙に干渉したという。

汎用人工知能（AGI）は存在するのでしょうか？

一部の専門家は、人工知能は人間レベルの推論能力を備えていないため、「知的」と呼ぶのは正確ではないと述べている。専門家は、これは新しい知識を生み出すものではなく、既存の情報を集約し、わかりやすい形で提示するものだと信じている。

しかし、それは変わる可能性があります。 ChatGPTの背後にある非営利団体OpenAIは、AGIが「全人類」に利益をもたらすことを確実にすることに尽力しており、その共同創設者サム・アルトマン氏は、AGIの開発を止めることは「不可能、あるいは望ましくない」と述べた。2023年には、Google DeepMindのCEOデミス・ハサビス氏が、AGIは5年以内に実現する可能性があると述べた。 CFR シニアフェローのセバスチャン・マラビー氏を含む一部の専門家は、特定のタスクでは人工知能が人間の知能を上回っていると考えています。 2020年、DeepMindは人工知能を使用して、当時最も複雑で未解決の謎の1つであると広く考えられていたタンパク質折り畳み問題を解決しました。

人工知能は人類の絶滅につながるのでしょうか？

多くのAI専門家もそう考えているようだ。 2023年5月、Anthropic、Google DeepMind、OpenAIのCEOを含む数百人のAIリーダーが、「パンデミックや核戦争などの他の社会規模のリスクとともに、AIがもたらす絶滅のリスクを軽減することは世界的な優先事項であるべきだ」と述べた短い書簡に署名した。

絶滅がどのように起こるかについての一般的な理論の 1 つは、特定のタスクの指示を最適化することで、超知能 AI が人類の生存に必要なリソースを転用して目標を達成できる可能性があるというものです。たとえば、海洋の有害な藻類の個体数を減らす任務を負った AI は、大気から酸素を吸い取り、人類を窒息させる可能性があります。多くのAI研究者は、この理論を大げさなものだとして否定しているが、強力なAIシステムがその指示の過程で重大な意図しない危害を引き起こすリスクをこの例は正確に示していると主張する研究者もいる。

この議論に懐疑的な人々は、このような遠い存在的リスクに焦点を当てると、権威主義的な監視や偏ったデータセットなどのより差し迫った脅威が見えにくくなると主張している。顔認識技術は世界中の政府や企業によって拡大しており、一部のアナリストは北京が人工知能を使って弾圧を強化しているのではないかと懸念している。 AI トレーニング データに含まれる要素が多すぎるか少なすぎる場合にも、別のリスクが発生します。このようなデータでトレーニングされたツールは偏った結果を生成する可能性があります。これにより、偏ったデータに基づいてトレーニングされた AI 駆動型の入居者審査アルゴリズムが、有色人種への住宅提供を不当に拒否するなど、社会的に疎外されたグループに対する差別が悪化する可能性があります。生成 AI ツールは、誤った情報を真実として提示する「幻覚」チャットボットや、疑わしい AI 生成結果で検索エンジンを汚染するなど、公共の議論を混乱させる一因にもなり得ます。

政府はAIに関して何をしているのでしょうか?

ほぼすべての政策立案者、市民社会のリーダー、学者、独立した専門家、業界のリーダーは、AI を管理すべきであることに同意していますが、どのように管理するかについては意見が分かれています。国際的には、政府は異なるアプローチを取っています。

米国は2023年に人工知能の管理を強化した。バイデン政権は、2022年のAI権利章典に続き、15の主要テクノロジー企業がAIの安全性に関する共通基準を自主的に採用し、最先端モデルを政府による審査に利用できるようにすることを約束した[PDF]。バイデン大統領は2023年10月、行政機関全体でAIを安全に使用するための統一された枠組みを確立することを目的とした広範囲にわたる大統領令を発令した。 1ヵ月後、超党派の上院議員グループがこの技術を規制する法案を提出した。

EUの議員らは透明性要件を導入し、監視目的での人工知能の使用を制限する法案を進めている。しかし、一部のEU首脳は、この法律が欧州のイノベーションを阻害する可能性があると懸念を表明し、どのように施行されるのか疑問を呈している。

一部の政府は、国際レベルで AI を規制するための協力を求めています。 2023年5月のG7サミットでは、AIガバナンスの共通基準を策定するためのいわゆる「広島プロセス」を立ち上げた。 2023年10月、国連は世界的なAIガバナンスを調整するために、米国と中国の代表者を含む人工知能諮問委員会を設立しました。翌月、28の政府が英国で初めて開催されたAI安全サミットに出席した。米国と中国の特使を含む代表者は、AIが「壊滅的な」危害を引き起こす可能性があると警告し、「人間中心で、信頼でき、責任あるAIを確保する」ために協力することを決意する共同声明に署名した。中国はまた、一帯一路沿いの国々におけるAIに関する独自のグローバルガバナンスの取り組みも発表した。

AIガバナンスはどのようにあるべきでしょうか?

CFRの上級研究員であるキャット・ダフィー氏は、AIの複雑さゆえに、この技術を単一の原則で統制できる可能性は低いと述べた。提案は、完全な自主規制からさまざまな種類の公共政策のガードレールまで、潜在的な監視レベルに関するさまざまな政策オプションを網羅しています。

一部のアナリストは、AIが不安定な結果をもたらすリスクを認めているものの、技術開発は継続されるべきだと主張している。報告書は、過去10年間でコンピューターの処理能力が50億倍に増加し、人間の指示に応答するモデルがより多くのトレーニングデータを組み込めるようになったため、規制当局は計算能力、もしくは使用できる計算能力の量に制限を設けるべきだと述べた。他の人々は、ガバナンスはAIに対する国民の認識を高め、差別、誤報、監視からの保護を含む倫理的なAIシステムを構築するといった差し迫った問題に焦点を当てるべきだと述べた。

一部の専門家は、悪意のある人物を含むテクノロジーへのアクセスを増大させる可能性があるオープンソースモデルへの規制を求めている。多くの国家安全保障の専門家や大手 AI 企業がこのような規制を支持しています。しかし、一部の観察者は、広範な規制により最大手のAI企業がコストのかかる業界に定着し、競争と革新が減退する可能性があると警告している。一方、AIの軍事利用を統制するための世界的な枠組みを構築するという提案もあり、そのアプローチの一つは、核技術を規制する国際原子力機関をモデルにしたものとなるだろう。

人工知能の次なる展開は？

米中関係がAIガバナンスに与える影響は大きい。北京が2030年までに「AI理論、技術、応用」で世界をリードする国にすることを目指す国家戦略を推し進める中、ワシントンの政策立案者たちは、アメリカの技術的優位性を損なうことなくAI開発にガードレールを設置すべく奮闘している。

同時に、人工知能技術も急速に発展しています。 2012 年以降、コンピューティング能力は 3 ～ 4 か月ごとに倍増しており、AI 科学者は 2025 年までにモデルの計算負荷が 100 倍に増加すると予想しています。

強力な世界統治が欠如する中、AI の開発を管理する企業は、通常は国家にのみ認められる権力を行使し、技術極地の世界秩序をもたらしています。これらの企業は「自らの権利で地政学的な主体」となっており、したがってあらゆる世界ルールの設計に関与する必要がある。

AI の変革の可能性は、大きなリスクを伴うことを意味します。適切な安全対策を講じれば、AI システムは科学的発見を前進させ、致命的な病気を治療し、気候変動の最悪の影響を防ぎ、世界的な経済的繁栄の時代をもたらすことができるでしょう。