パラメータは最大2兆個、GPT-4をはるかに超える！アマゾンの新型オリンパス大型モデルが公開、近日発表予定

大きなモデルの波から遠ざかっていたように見えるAmazonが、ついに最新の進捗状況を発表することになる。

海外メディアの報道によると、アマゾンはコード名「オリンパス」と呼ばれる2番目の大規模言語モデルをトレーニングしている。

このモデルの規模は2兆（2000B）パラメータに達し、GPT-4をはるかに上回る（リークによるとGPT-4のパラメータは約1兆）と言われており、今年12月に発売される可能性が高いとのこと。

アマゾンは、「オリンパス」を自社のオンライン小売店や、Echoなどのデバイス上のAlexa音声アシスタントに接続し、AWSプラットフォームに新機能を提供する計画だ。

先月、アマゾンのデバイスおよびサービス担当上級副社長デイブ・リンプ氏は、アマゾンのAlexa AIアシスタントが他の生成型AIアシスタントと同様に、ユーザーが自然言語を使用して電子メールを作成したり、生活上のさまざまなタスクを完了したりするのを支援すると公に述べた。

同氏は、クラウドで実行されるモデルには「相当な推論コスト」がかかることから、その頃にはAlexa音声アシスタントもAmazonプライムとは別に課金されるようになるだろうと考えている。

そしてAlexaは、Amazon Primeと同様に「ユーザーにとって計り知れない価値を生み出す」だろう。

これらすべてを実現するには、Amazon が一流の AI モデルを持っている必要があります。

海外のネットユーザーも、アマゾンが新しいモデルをトレーニングしたら、私が何を買いたいか気づく前にアマゾンが何を買いたいかを知るようになるだろうと冗談を言っていました🐶。

アマゾンが今年初めに開始したAIサービス「Titan Embeddings」は市場の反応が平凡で、AWSを通じてエンタープライズレベルの顧客にのみサービスが提供されている。

海外メディアによると、シリコンバレーの主要企業が生成型AIを中心とした新サービスを構築する中、アマゾンのCEOアンディ・ジャシー氏も新しいAIの構築を現在の仕事の主な焦点に据えている。

「オリンパス」を開発するチームは、Alexa音声アシスタントの元責任者であるロヒット・プラサド氏が率いており、CEOのアンディ・ジャシー氏に直接報告している。

アントロピックへの40億ドルの投資

アマゾンが構築した生成AIの世界では、現在、水中で秘密裏に訓練中の「オリンパス」に加え、10月に完成したばかりの大型模型の巨大ユニコーン「アントロピック」への40億ドルの投資が最も重要だ。

この投資により、Anthropic のモデルは AWS サービスの一部となり、ユーザーは Amazon Bedrock を通じて Claude にアクセスできるようになり、AWS は顧客に最先端の大規模言語モデル サービスを提供できるようになります。

Lonely Planet や LexisNexis Legal & Professional などの世界的に有名な企業は、AWS を通じて、自社製品向けに特別に調整された Claud 2 モデルにすでにアクセスしています。

同時に、Anthropic はモデルの推論とトレーニングに Amazon の 2 つの AI チップ (Trainium と Inferentia) も使用し、将来的には Amazon と共同で AI チップを開発する予定です。

この40億ドルの投資により、Amazonと、現在シリコンバレーで2番目に注目を集めている大型スタートアップ企業であるAnthropicは、「Microsoft & OpenAI」のような従来の巨大企業＋巨大ユニコーン企業に似た提携関係を築くことができました。

世界中に何億人もの一般ユーザーを抱えるショッピング プラットフォームにとって、来たる AI 時代に自らの運命をコントロールできるよう、独自の大規模モデルをトレーニングするのは当然のことだと思われます。

ちょうど 10 年以上前にオンライン ショッピング プラットフォームとして始まり、クラウド コンピューティング サービス業界に参入し、今日のようなクラウド コンピューティングの巨人となった Amazon と同じです。

アマゾンには、AI分野で再びこのような大逆転を起こす能力と必要性がある。

人工知能の波に乗った巨大船

CEOの交代がうまくいかなかったというニュースが相次ぐ中、Amazon（AWS）は創業者から後継者への移行をかなりスムーズに行った。

アマゾンの現CEOジャシー氏は、ベゾス氏が同社を設立した3年後の1997年に同社に入社した。創業者と深い関係を築き、創業者から技術顧問に抜擢された。

ジャシーは、1997 年に他のハーバード MBA の同僚数名とともにマーケティング マネージャーとして Amazon に入社しました。 2003年、彼とジェフ・ベゾスはクラウドコンピューティングプラットフォームを構築するというアイデアを思いつき、それが後にAmazon Web Servicesとして知られるようになり、2006年に立ち上げられました。

AWS は、インターネット経由でリモート配信されるシンプルなコンピューティングおよびストレージ サービスから始まり、エンタープライズ コンピューティングの新しい時代を定義し続け、AWS 上または AWS を中心に構築される新しいビジネス モデルへの道を切り開きます。

2021年7月にCEOに就任した後、ジャシー氏はAWSを800億ドル規模の企業に育て上げた。これは、大企業が第2の大企業を誕生させた稀有な例であり、多くの競合他社が羨む存在だ。

今日、大規模な言語モデルがテクノロジーの世界のバランスを崩しています。大規模言語モデルの開発で期待を集めるOpenAIと戦略的提携を結んだことで、マイクロソフトの地位は再び上昇した。

実際、Amazon は他の大手テクノロジー企業と同様に、人工知能の波に追いつきつつあります。

6年前、アマゾンは、Intuitやゼネラル・エレクトリックなどの企業が独自の機械学習モデルを構築するために使用するソフトウェアツールであるSageMakerを含む、一連の新しい人工知能技術を導入した。

AWS は OpenAI の当初の資金調達にも参加しました。

ジャシー氏もアマゾン氏も、OpenAIとその大胆な若きCEO、サム・アルトマン氏をよく知っている。 Amazon は、OpenAI プロジェクトがまだ非営利だったころからの初期投資家であり、OpenAI も AWS を利用しています。

ジャシー氏は、アマゾンが顧客によるさまざまな機械学習モデルの実行を支援してきた歴史が、人工知能分野へのさらなる進出に向けた良い基盤となると確信している。

さらに、AWSの幹部は、クラウドコンピューティングの人工知能サービス市場はまだ始まったばかりであり、AWSには十分な時間があると指摘した。

オープンAIの人工知能サービスからの収益は今後12か月間で10億ドルを超えると、The Informationが火曜日に報じたが、これはAWSが昨年報告した総収益800億ドルに比べればほんのわずかな額に過ぎない。

人工知能分野の発展、特に大規模言語モデルによって実証された能力は、今日の時代と経済状況において稀な波を生み出しました。

最大のクラウドサービスプロバイダーである Amazon は、長年にわたるインフラ構築と技術の蓄積により、大きな競争上の優位性を持っています。

オリンパスは、アマゾンが人工知能の分野で自らの運命をコントロールしたいと考えていることを明確に示している。重要なテクノロジーについては他者に頼らず、独自の LLM を開発するのが賢明な選択です。

ネットユーザーの間で熱い議論

ネットユーザーらもアマゾンの新モデル「オリンパス」への期待を表明した。

「Amazon の素晴らしい動きです。オリンパスのためにまったく新しいチームをトレーニングすることは、ML と AI の分野でのさらなる進歩に対する同社の取り組みを示しています。これがもたらすであろうブレークスルーを見るのはワクワクします。誰にも分かりません。オリンパスが私たちを新たな高みへと導いてくれるかもしれません。」

「Amazon は、GPT-4 をはるかにしのぐ AI の巨人 Olympus をリリースしました。彼らはただゲームをしているのではなく、AI への投資にさらに 40 億ドルを追加しています。そして Alexa は? 彼女は天才的なアップグレードを受けようとしています。」