AI規制論争が再燃、しかしウォール街は依然として熱狂的

米国政府は最近、新たな AI 規制を発表し、AI のセキュリティ上の懸念に再び世界の注目が集まっています。

大型モデルを開発する企業に対しては、規制により政府にさらに多くの情報を提供することが義務付けられ、新製品やアップデートのリリースが遅れる可能性がある。規制の規定の多くは、まだ市場に出ていない大規模な基盤モデルや AI システムの将来的な開発に関するものであり、ChatGPT のような消費者向けツールが大きな影響を受ける可能性は低いことを意味します。

この規制の発表を受けて、いくつかの AI 企業や業界リーダーも AI 規制に関する見解を表明しました。このうち15社のAI企業が対応する約束をしたが、AI分野最大手のOpenAIは異例なほど沈黙しているようだ。 Adobe、Amazon、Google、Microsoftなどの他の大企業もこの規制への支持を表明している。

OpenAIや他の大手AI企業がロビー活動を通じてAI業界に「規制の捕捉」を課そうとしているという非難が出ている。 70人以上のAIリーダーも、AI規制に対するより透明性の高いアプローチを求める共同声明を発表しました。こうして、AI規制をめぐる舌戦が始まった。

「消費者が利用できる生成AIツールにすぐに変化が見られるとは思えない」と、元NSAハッカーでIANSリサーチの教員でもあるジェイク・ウィリアムズ氏は語った。

Metaの主任AI科学者であるヤン・ルカン氏は、OpenAI、Anthropic、およびGoogleの子会社であるDeepMindが、Xで有利な結果を確実にするために恐怖のプロパガンダを利用しているとして非難した。

サム・アルトマン氏は、この規制には良い部分もあるが、政府は中小企業や研究チームのイノベーションを遅らせるような形で規制を実施すべきではないと述べた。同氏は、「フロンティアシステム」や大規模で基本的なモデルの規制には賛成だが、「規制の捕獲」には反対だと述べた。

実際、AI が引き起こす可能性のある問題は、国際社会から長い間広く注目されてきました。国連は今年10月、AI技術がもたらすリスクと機会について具体的に議論し、国際社会のガバナンス強化を支援するため、高レベルの人工知能諮問機関を設立した。中国科学院自動化研究所の研究員曽毅氏と中国政法大学データ法治研究所の教授張玲漢氏が同機関における我が国の代表となった。

今月初め、英国政府が主催したAI安全サミットで、米国、中国、欧州連合など28カ国の代表者と企業が「AI安全に関するブレッチリー宣言」に署名した。この宣言は、「人間中心で、信頼でき、責任ある」AI開発モデルを再確認し、国際社会の協力を呼び掛けるとともに、AIの実装が人権の保護と国連の持続可能な開発目標の達成を目的としていることを強調した。

曽毅氏はサミットでの演説で、先進的なAIは健康、教育、環境、科学などの分野で現在未解決の課題を解決する可能性を秘めているが、こうした利点を生み出すAIシステムそのものの特性が大きなリスク源にもなっていると述べた。より大規模で不確実なモデルがすべての人に公開されると、誤用や乱用の問題は AI 科学者だけでなく世界全体にとっての課題となるでしょう。彼はまた、予測できない進歩や失敗に対応するために、世界規模の AI 安全ネットワークを構築する必要があると示唆しました。

国際社会、テクノロジー大手、AI企業はいずれもAI技術に対して慎重な姿勢を示しているが、一方でウォール街での人工知能の軍拡競争は依然として激化している。バンガードはすでに、退職後の投資ポートフォリオを生成するために人工知能を利用している。モルガン・スタンレーは、生成型AIが「顧客とのやり取りに革命を起こす」と述べ、ChatGPTを搭載したファイナンシャルアドバイザーアシスタントを立ち上げた。JPモルガン・チェースは、トレーダーが投資の方向性を決定するのを支援する「IndexGPT」という製品の特許を申請している...ウォール街はAIへの愛を隠し切れていないようだ。

JPモルガン・チェースのCEOジェイミー・ダイモン氏は、4月の株主宛ての書簡で「AIとそれを動かす原材料であるデータは、わが社の将来の成功にとって極めて重要になる」と述べ、この技術が将来非常に重要になるという確信を表明した。同社の2月の調査によると、ダイモン氏の同僚たちも同じ考えで、機関投資家の半数が、今後3年間でAIがウォール街で最も影響力のある技術になると考えていることがわかった。

ゴールドマン・サックスの最高情報技術責任者、マルコ・アルジェンティ氏は、人工知能は「私がこれまで目にした中で最も大きな革命の一つかもしれない。人工知能は我々の業界だけでなく、すべてのデジタル、すべての情報技術、知識産業に大きな混乱をもたらす可能性があると信じている」と語った。

ロンドンのエビデントでエコノミストを務めるアレクサンドラ・ムサビザデ氏は、AIは法務、取引、融資、請求、さらには電子メール管理など、銀行の「隅々まで」浸透していると述べた。ウォール街、特に米国の大手銀行はAIに対して「非常に熱心」で「ためらいはない」と述べ、AI技術の経験を持つ人材の採用に躍起になっている。 「今日、銀行業務のあらゆる仕事はAIの影響を受けています」と彼女は主張した。

ジュゼッペ・セッテ氏は元ヘッジファンドマネージャーで、現在は金融問題に対処するための大規模言語モデルのトレーニングに取り組むグループ、Toggle AIの社長を務めています。同氏は、指揮権がAIシステムに引き渡されるのは時間の問題だと述べた。「利便性と効率性の法則により、これらのシステムに権限を与える時が来るだろう。」

しかし、金融規制当局はそれほど楽観的ではない。ウォール街のAIに対する熱意はSECのゲイリー・ゲンスラー委員長の注目を集めており、同委員長はフィナンシャル・タイムズ紙のインタビューで金融サービス業界への人工知能の統合について懸念を表明した。ゲンスラー氏は、この大いに宣伝されている技術が今後10年以内に金融危機を引き起こす可能性は「ほぼ避けられない」と考えている。

ゲンスラー氏は、多数の金融機関が「同じ基礎モデルや基礎データアグリゲータ」を中心に戦略を再設計し始めることを懸念しており、それがウォール街の群集心理につながり、危険な結果をもたらすのではないかと懸念している。ゲンスラー氏は、基礎となるモデルが金融機関ではなく「大手テクノロジー企業」に基づいている可能性があり、業界全体に「水平的な問題」を引き起こす可能性があるため、これは規制当局にとって「難しい金融安定性の問題」になるだろうと述べた。

しかし、一部の研究者や金融AI分野の研究者は、ゲンスラー氏の懸念はもっともだが、誇張されている可能性があると指摘している。ハーバード・ビジネス・スクールのロビン・グリーンウッド教授は、研究により金融危機の「根本原因」は「通常」技術革新ではなく信用バブルであることが示されたと述べた。しかし彼は、AIが将来的に「潜在的な引き金」となる可能性もあることにも同意した。

欧州大学研究所の金融安定教授で、フィレンツェ銀行金融研究所の上級研究員でもあるトルステン・ベック氏も同意見で、「信用バブルが金融危機の主因かもしれないが、他の要因も危機の引き金になっている可能性がある。この観点からすると、ゲーリー・ゲンスラー氏の懸念は不合理ではない」と述べた。

AI規制をめぐるテクノロジー大手、金融機関、規制当局間の論争が続く中、一部の企業は行動を起こす計画を立てている。おそらく新しい規制の影響を回避するために、「デル・コンプレックス」と呼ばれる会社は別の手段を講じた。AIの訓練に使うハードウェア機器を公海のはしけ船に積み込んだのだ。

AIに特化した企業を自称するデル・コンプレックスは、月曜日のXで「BlueSea Frontier Compute Cluster」（BSFCC）の立ち上げを発表した。 BSFCC は、AI トレーニング用に設計され、1 基あたり 3 万ドルの費用がかかる 10,000 個の Nvidia H100 GPU を積んだ太陽光発電式の船であると言われています。デル・コンプレックスは、新たなAI規制とEUのAI法は「安全保障を装って管理を集中化することを目的としている」と考えており、AIの訓練に使用するハードウェアを国際水域に配置することを決定した。

Del Complex はリリースに、はしけ船の図面とともに、BSFCC の非常にリアルな写真を掲載しました。その後のツイートでは、BSFCC の仮想的な特徴が詳しく説明されました。このコンテンツは瞬く間に広まり、200万回以上の視聴回数を獲得した。回答を見ると、計画に対する批判や疑問も含め、多くの人がニュースを完全に信じていることがわかった。

しかし、明らかな問題が 1 つありました。Del Complex は本物の AI 企業ではなく、その船も同様に偽物だったのです。

Del Complex は自らを「代替現実企業」と称しています。ウェブサイト上の一部の画像は、文字化けや奇妙な顔の特徴など、AIによって生成されたものと思われる。ある写真には、防護服を着た女性2人が巨大なスプーンを使ってスープとサラダを混ぜたものを食べている様子が写っていた。

しかし、BSFCCについて尋ねられたとき、デル・コンプレックスの研究者を自称する開発者スターリング・クリスピン氏は非常に明確に話した。クリスピン氏は、BSFCC は彼らの全体的な使命に適合しており、LinkedIn に求人広告を掲載したところ 30 件の応募があったと主張している。

「最近の規制の主な問題の一つは、アプリケーション層よりもトレーニング層とハードウェアに重点を置きすぎていることです」とクリスピン氏は言う。「今日のスーパーコンピューターは明日の懐中時計であり、政策は時代を先取りするどころか、遅れをとる傾向にあります。」

クリスピン氏の意見とウェブサイト上のAI生成の明らかな兆候を合わせると、デル・コンプレックスとその皮肉なBSFCCは、まるでこのようにAIのリスクに注意するよう人々に警告するかのようなパフォーマンスアートのようだ。

AIの潜在的なリスクに関するこうした懸念にもかかわらず、技術開発と規制のバランスという問題に対する明確な答えは出ていない。金融の世界では、ChatGPT がリリースされる前の 2017 年に、AI による大混乱がすでに発生していました。 2017年にCoalitionが発表した調査データによると、ウォール街は2012年以降合計1万2700人の雇用を削減しており、5年連続の人員削減となった。当時は「10年以内にAIが株式市場でAIと戦うようになる」「ウォール街のエリートはAIに仕事を奪われることをもっと心配するべきだ」といった発言もあった。

数年が経った今日、金融規制当局の AI リスクに関する懸念は、金融危機を引き起こす可能性に重点が置かれています。こうした懸念にもかかわらず、AI と機械学習こそが未来であり、新しいテクノロジーとデータがある限り、この競争は終わりのないものであると考える研究者もいます。