DeepMindの創設者：生成AIは単なる過渡期であり、将来AIは無料になり、インタラクティブAIは人類を変えるだろう

DeepMindの共同創設者であり、Inflection AIの創設者でもあるムスタファ・スレイマン氏は、MITテクノロジーレビューのオンラインインタビューに応じた。インタビューの中で、彼は自身の見解を述べた。

現段階では、生成 AI は単なる技術段階であり、これからはインタラクティブ AI の時代に入ります。つまり、AI は各ユーザーのさまざまなタスク要件に応じて他のソフトウェアや人を呼び出して作業を完了できるロボットになります。

彼が設立した会社、Inflection AI の目標は、単なるチャットアシスタントではなく、AI を使用して世界中の大多数の人々がリソースや情報に平等にアクセスできるようにすることです。

最後に、彼は政府にAIを積極的に規制するよう求め、既存の制度下でAIを規制することは難しくないだろうと信じていると述べた。

おそらくスレイマン氏と同じような考えを持つ人はたくさんいるだろうが、ほとんどの人と違って、彼は数十億ドル規模の企業であるInflection AIのリーダーだ。

同社は、DeepMind、Meta、OpenAI から優秀な人材を擁しており、NVIDIA との提携を通じて、世界最大のプロフェッショナル AI ハードウェア コンピューティング能力を保有しています。

私たちはAI技術の3つの波のうちの2番目の波にいる

スライマン氏の見解では、AI の第一波は分類に関するものでした。ディープラーニングにより、人間はコンピューターをトレーニングして、画像、ビデオ、音声、言語などさまざまな種類の入力データを分類できることが示されました。

私たちは現在、データを入力して新しいデータを生成する第 2 の波、生成 AI の時代にいます。

第三の波はインタラクティブ AI です。彼は会話こそが未来のインタラクティブなインターフェースであると常に信じてきました。ボタンをクリックしてテキストを入力するだけでなく、ユーザーは AI と直接会話することになります。

これらの AI は自律的に行​​動できるようになります。一般的な最終目標を与えるだけで、AI はそれを達成するために必要なすべてのツールを使用します。

彼らはお互いに、そして他の AI と会話します。これこそが彼が Pi を使って実現しようとしていることです。

これは技術力の大きな向上です。これはテクノロジーの歴史において非常に重大な瞬間であり、多くの人がテクノロジーの可能性を過小評価してきたと彼は考えています。

AI技術はまだ静的です。基本的には、指示されたとおりに動作します。

しかし、テクノロジーは生き生きとしたものになるでしょう。ユーザーが AI に十分な自由を与えれば、AI はその自由を利用して行動を起こすことができます。

これはまさに人類史上の飛躍的進歩であり、私たちはこのようなインテリジェントエージェント機能を備えたツールを作成しています。

人間は常にコントロールするでしょう。人間は、AI が越えることのできない限界を決定し、実際のコードから他の AI や人間とのやり取り、テクノロジーを開発する企業の動機やインセンティブに至るまで、その境界が証明可能な安全性を提供していることを確認する必要があります。

幼少期の経験が私の価値観と起業家精神に与えた影響

自身のユニークなキャリア経験とそれがシリコンバレーでの起業家精神に与えた影響について尋ねられると、スレイマ氏はこう答えた。

彼は常に権力や政治などに興味を持っていました。彼は、人間の基本的な原則は妥協の産物であると感じていた。それは、異なる対立する勢力間の絶え間ない交渉を通じてのみ達成できる動的なバランスに依存しています。

人間は常に問題を解決していますが、依然として自分自身の偏見や認知上の盲点によって制限されています。

非政府組織、地方自治体、中央政府、国際機関などは、それぞれに限界があり、効率的かつエラーなく運営することができません。

人間が間違いを犯さなかったら何が起こるか想像してみてください。

彼は、人間が自分自身の利益を真に反映し、最終的には全員のために一貫性と公平性をもってより良いトレードオフを行う AI を構築することは可能だと信じています。

スレイマンは1984年、シリア人の父とイギリス人の母のもと、北ロンドンで生まれた。貧困の中で育ち、16歳のとき両親は離婚して移住し、スレイマンと弟は自活することになった。

スレイマンはバーネットにある男子校、クイーン・エリザベス・スクールに通った。その頃、彼は親友を通じてディープマインドの共同創業者デミス・ハサビスと出会った。スレイマン氏は、自分とデミス・ハサビス氏は、自分たちが世界にどのような影響を与えるかについてよく話し合っていたと語った。

彼は後にオックスフォード大学に入学し、哲学と神学を学ぶことになったが、1年後に中退した。

その後、彼は大学時代の友人モハメド・マムダニとともに電話カウンセリングサービス「ムスリム・ユース・ヘルプライン」を設立した。それ以来、この組織は英国最大のイスラム教徒向けメンタルヘルス支援サービスとなった。

その後、スレイマン氏はロンドン市長ケン・リビングストンの下で人権政策担当官として働き、その後、紛争解決アプローチを用いて社会問題を解決する「システム変革」コンサルティング会社、レオス・パートナーズを設立した。

交渉者および調停者として、スレイマン氏は国連、オランダ政府、WWFを含む幅広い顧客のために働いてきた。 ）

スレイマ氏は、ディープマインドを退職した後、経済的に自立したと語った。自活するためにお金を稼ぐために、ビジネスを始めたり本を書いたりする必要はありません。

お金が仕事の動機になったことは一度もありません。お金は仕事の副産物です。

彼にとって、仕事の目標はこれまで一度も変わっていません。それは、世界をいかにしてより良い場所にするか、そしていかにして健全かつ満足のいく方法で世界を前進させるかということです。

2009 年にテクノロジー業界への参入を検討し始めたときから、彼は AI テクノロジーが世界にサービスを提供する公平かつ正確な方法であると認識していました。

スレイマン氏はハサビス氏とともに人工知能企業ディープマインド・テクノロジーズを共同設立し、最高製品責任者を務めた。ディープマインドは2014年にグーグルに買収され、スレイマン氏はディープマインドの応用人工知能部門の責任者となった。

2022年1月、スレイマン氏はGoogleを退社し、ベンチャーパートナーとしてGreylock Partnersに入社しました。

2022年3月、スレイマン氏はGreylockのリード・ホフマン氏と共同でAIラボInflection AIを設立した。

同社は「人工知能を使って人間とコンピューターの会話を支援する」という目標を掲げて設立され、グーグルやメタなどの企業から元従業員を採用し、最初の資金調達で2億2500万ドルを調達した。

そして今年7月には、マイクロソフト、NVIDIA、ビル・ゲイツ、LinkedIn創業者のリード・ホフマンから15億ドルの投資を受けた。

Inflection AI は資金調達後、直ちに 13 億ドル相当の NVIDIA H100 GPU を購入し、世界最大級の GPU クラスターを構築しました。

今年初め、彼はPiと呼ばれるChatGPTの競合製品をリリースしました。彼はまた、作家で研究者のマイケル・バスカーと共著で、AI の将来に関する「The Coming Wave: Technology, Power, and the Greatest Dilemma of the 21st Century」という本を執筆しました。 ）

テクノロジーの悪影響をどう見るか

誰が楽観主義者で誰が悲観主義者かについてあまり心配するのはあまり意味がないと彼は考えています。これは物事を偏った見方です。彼はただ、メリットと課題を冷静に分析したいだけなのです。

彼の観点からすると、大規模な言語モデルが大きくなるにつれて、管理しやすくなることは明らかです。

それで2年前、当時の見方は ― 当時彼はそれが間違っていると思っていた ― 「ああ、彼らはただ有害で、繰り返しの、偏見に満ちた、人種差別的なコンテンツを生み出しているだけだ」というものだった。

しかし、こうした状況は一時的なものにすぎません。人々は技術の継続的な進歩を無視し、技術開発の軌跡を真に理解していません。

現在、Pi のようなモデルは非常に制御可能です。 Inflection AI は、Pi が人種差別、同性愛嫌悪、性差別など、あらゆる形態の有害なコンテンツを作成することを防止します。

生物兵器や化学兵器の作り方を教えたり、隣人の窓を割ることを奨励したりすることを防ぐことができます。

どのようにそれを実現するかについては、スレイマ氏は技術的な詳細をあまり明かしたくないが、気軽に実験してほしいと言っている。 Pi は現在オンラインになっており、ユーザーはあらゆる方法で攻撃を試すことができます。

Pi では、脱獄、プロンプト ハック、その他の方法は機能しません。これは客観的な事実です。

Inflection AI は世界最強のチームを擁しており、過去 3 ～ 4 年で最大規模の言語モデルをすべて作成してきました。

これは、多くのコンピューティング リソースを備えた非常に効率的な環境で作業する優れたチームです。

彼らは最初から安全性を最優先にしていたため、Pi は他の会社のモデルほど「人気」がありません。

Character.ai をご覧ください。 (Character は、ユーザーがさまざまな「キャラクター」をデザインし、オンラインで他のユーザーと共有できるチャットボットです。リンク) その機能は主に想像力豊かなキャラクターを作成するために使用されますが、Inflection AI は最初からこれは良い方向ではないと感じており、そのような機能は行わないつもりでした。

パイはあなたをとても尊敬します。あなたが自分のコミュニティの移民があなたの仕事を奪っていると文句を言い始めても、Pi はあなたを責めたり、何をすべきかを指示したりしません。

Pi は心配しながら質問をし、言語的および心理的なサポートを提供します。あなたの感情がどこから来ているのかを理解しようとし、他の人に共感するように優しく促します。これらは私が20年間考えてきた価値観です。

しかし、世界をより良い場所にするのであれば、なぜこれらのテクノロジーをオープンソース化しないのかと問われれば、

スレイマン氏は、結局のところ自分は会社を経営しており、全員を支えるためにお金を稼がなければならないと強調した。同氏は以前、Nvidia から 13 億個の GPU を購入しており、投資家のリターン要件を満たすためにお金を稼がなければならなかった。

現在、オープンソース エコシステムは繁栄し、非常に好調に推移しており、オープンソース コミュニティも同様のアプローチを発見しました。スレイマンは、彼らのリードは最大で6か月しかないとしか考えていない。

AIを効果的に規制する方法

彼にとって、AI の再帰的な自己改善技術の開発は規制される必要がある。小さな AI が監視なしで独自のコードを更新するのは危険だ。おそらく、これはライセンスが必要な活動であるべきだろう。

おそらく、炭疽菌や核物質の場合と同様に、この行動を規制するための専用のメカニズムが必要になるでしょう。

彼はまた、AIに対する恐怖はまったく不必要だと信じています。 AI 規制は、現在の規制枠組み内で完全に実施できます。 AI はガバナンス システムの単なるもう 1 つのコンポーネントです。

人間は超複雑な物事をうまく制御します。たとえば、連邦航空局は次のように述べています。「私たちはみな、このアルミニウム製のチューブに乗って 40,000 フィートの高度を飛行することに慣れており、これはこれまでに作られた輸送手段の中で最も安全なものの 1 つです。」これは規制が成功した例です。

あるいは自動車の場合、すべてのコンポーネントは限界までストレステストされており、運転するには運転免許証が必要です。

航空会社のような一部の業界は、そもそも自己規制が非常に得意です。なぜなら、安全対策をしっかり行わなければ、誰もが不安になり、ビジネスを失うことになることを知っているからです。