Oracle は、MySQL、Java、OCI、およびすべてのテクノロジー スタックをフルパワーで活用して AI と戦う「AI バーサーカー」に変身します。

執筆者 | Yun Zhao

制作：51CTO テクノロジースタック（WeChat ID：blog）

とても素晴らしいです！ Oracle は、まるで魔法の鍵を見つけたかのように、もう我慢できず、2024 年に大躍進する準備をしています。

最近、Oracle は、同社のクラウド サービス OCI (Oracle Cloud Infrastructure) テクノロジー スタック全体に生成 AI 機能を統合すると発表しました。

ハードウェアから基本プラットフォーム、モデル、アプリケーションまで、すべてが生成 AI と深く統合され、もちろんデータベースや Java も含まれます。

1. OracleはGenAIをエコシステム全体に統合する

過去 1 年間、Oracle は複数の製品にわたって 3 層の生成 AI 戦略を展開してきました。同社は9月にOCI Generative AI Serviceのベータプレビューをリリースした。

現在、Oracleは突如として、これまでの保守的な姿勢を一変させたとも言える一連のアクションを発表しており、主に新モデル（CohereとMetaの新モデルLlama 2）の参入、新AIエージェント、オープンソースLLMを管理するための新ローコードフレームワークの発表、そしてサービスの一般提供開始などが発表されている。

インタビューの中で、Oracle Cloud Infrastructure の副社長兼 Generative AI Services のゼネラルマネージャーである Vinod Mamtani 氏は、Generative AI サービスの一般提供、Generative AI エージェントのリリース、データサイエンス AI の迅速なアクションの導入などを含む Oracle の計画を明らかにしました。

IDCのグループ副社長、リトゥ・ジョティ氏は次のように述べています。「オラクルのエコシステム全体に生成AIの共通アーキテクチャを統合することで、同社はクラウド・データ・センターとオンプレミス環境の両方で、エクサバイト単位の顧客データがすでに存在する場所に生成AIを導入します。」

注目すべきは、エンタープライズ向けのクラウド サービス プロバイダーが昨年、HCM、SCM、CX、ERP、NetSuite、その他のさまざまな業界分野を含む Oracle Applications スイートの複数のアプリケーションに生成 AI サービスを追加したことです。

2. トレジャーモデルラマ2がOracleに登場

新しいモデルには、チャットのユースケースに最適化されたテキスト生成モデルである Meta の Llama2-70B や、Command、Summary、Embed などの最新バージョンの Cohere モデルが含まれます。オラクルは声明の中で、これらのモデルはAPI呼び出しを介して使用できるマネージドサービスで利用可能になると述べ、更新されたサービスを通じてモデルを微調整することもできると付け加えた。

さらに、OCI は Llama 2 のホスティングに加えて、Cohere の 520 億の組み込みモデルもホストすることになります。 「リーダーボードを見ると、Cohere の埋め込みモデルは非常に高いランクにあります。英語と多言語の埋め込みの両方をサポートしています」とママタニ氏は述べ、生成された埋め込みは言語に関係なく同じスペースにあると説明した。

以前、Cohere は Oracle の AI ビッグモデルの寵児と見られており、その後「Oracle の SaaS スイートと業界アプリケーションに組み込まれた GenAI 機能の基盤を形成する」と見られていました。

Llama 2 の人気は最近急上昇しており、Oracle がこの貴重なモデルを手放すつもりは絶対にありません。興味深いことに、OCI が Cohere 以外のモデルをホストするのは今回が初めてです。 OCI が Llama 2 に移行したきっかけについて尋ねられた Mamtani 氏は、次のように答えました。「Llama に関しては、開発者の間で関心が高く人気があることに気付きました。そのため、お客様にとって非常に役立つと考えました。」

OCI Generative AI サービスは、Cohere の Command 52/6B モデルに対して、バニラと TPU の両方の微調整で利用できる柔軟な微調整も提供します。さらに、顧客が AI アプリケーションをより簡単に構築できるように、Oracle は人気の LangChain も統合しました。

全体的に見て、OCI が Llama 2 をホストするという決定は賢明な動きであり、競争の激しいクラウド サービス市場で優位を維持し、より多くの顧客を引き付けるのに役立つでしょう。

結局のところ、複数の異なるタイプのモデルをホストすることで、クラウド サービス プロバイダーの柔軟性と多様性も向上します。これらのモデルをホストすることで、クラウド サービス プロバイダーはより多くの開発者や研究者を自社のサービスに引き付けることができ、クラウド ビジネスの成長を促進できます。

3. AIエージェントへの賭け: RAG、データベース、Java、どれも欠かせません

Oracle がベータ版で導入した最初の AI エージェントは RAG エージェントです。マムタニ氏は、このエージェントはLangChainと同様に動作し、LLMのパワーとOCI OpenSearch上に構築されたエンタープライズ検索を組み合わせて、エンタープライズデータで強化されたコンテキスト化された結果を提供すると述べました。

企業ユーザーがビジネス アプリケーションを通じて RAG エージェントに自然言語クエリを入力すると、そのクエリはベクトル検索またはセマンティック検索の一種である OCI OpenSearch に渡されます。 OCI OpenSearch は、企業のデータ リポジトリから関連情報を読み取って収集します。検索結果は ReRanker LLM によってランク付けされ、そのランク付けがテキスト生成 LLM に渡され、テキスト生成 LLM が自然言語でクエリに回答します。

LLM は公開データセットでトレーニングされるため、膨大な量の企業のプライベートデータは含まれません。この問題を解決するために、OCI は OpenSearch に検索拡張生成エージェントを導入しました。ユーザーは自分の文書を添付するだけで、自然言語でチャットを開始できます。

Oracle OpenSearch のユースケース

「これにより、知識に基づいた応答が提供され、ファントムが削減されます」とマムタニ氏は説明します。「OpenSearch のサポートを組み込んでいます。ユーザーは、専門的なスキルを必要とせず、フォーマットやデータの保存場所を知らなくても、自然言語を通じて幅広いエンタープライズ データセットに透過的にアクセスできるようになりました。」

RAG エージェントに加えて、Oracle は新しいエージェントも導入する予定です。今後のリリースでは、より幅広いデータ検索および集約ツールがサポートされ、AI Vector Search を使用した Oracle Database 23c や Vector Store を使用した MySQL Heatwave へのアクセスが提供されます。

写真

オラクルは、AIエージェントはプリンストン大学とグーグルの研究者が発表したReActの論文を参考にして作成されたと述べた。エージェントは、ReAct フレームワークを使用して、一連の思考、アクション、観察に基づいて推論、行動、計画を立てます。

マムタニ氏は、これらの機能により、エージェントは情報検索タスクを超えて、ユーザーに代わって API を呼び出し、他のタスクを自動化できるようになると述べました。 Oracle はまた、過去のやり取りの記憶を保持してモデルのコンテキストとその応答をさらに充実させることができるマルチターン エージェントをサービスに追加する予定です。

使用方法については、同社によれば、これらのエージェントとそのアクションのほとんどは、Oracle Fusion Cloud アプリケーション スイート、Oracle NetSuite、Oracle Cerner などの業界アプリケーションを含む SaaS アプリケーション スイートに追加できるとのことです。

Oracle は、Oracle Fusion Cloud アプリケーション スイート、Oracle NetSuite、Oracle Health などの業界アプリケーションを含む SaaS アプリケーション スイート全体で、事前に構築されたエージェント アクションも提供します。 「当社の SaaS アプリケーション スイートには複雑なワークフローがあります」と Mamtani 氏は言います。「そのため、自動化と簡素化を実現したいと考えています。これらのアプリケーション専用のエージェントの構築を検討しています。」

さらに、マムタニ氏は、オラクルはJavaアプリケーション用のCode Gen Agentも導入する予定だと述べた。 「Oracle が Sun Microsystems を買収したため、Java 言語のエージェントを導入するのに最適な立場にある」と同氏は付け加えた。

4. AIクイックアクションローコードデプロイメントオープンソースライブラリ

さらに、企業がオープンソース ライブラリを使用して LLM を使用および管理できるようにするために、Oracle は OCI データ サイエンス製品に AI Quick Actions と呼ばれる新しい機能を追加しています。来月からテストが利用可能になるこの機能により、さまざまなオープンソース LLM にコードなしでアクセスできるようになります。

AI クイック アクションは基本的に、展開と微調整のためのノーコード、ローコード ソリューションを提供します。 Oracle は、Hugging Face の Transformers や PyTorch などのオープンソース ライブラリを使用して顧客が LLM を構築、トレーニング、展開、管理できるようにするために、OCI Data Science の機能も拡張しました。

写真

「私たちは、データ サイエンティストや機械学習の実践者全員のニーズに応えたいと考えています」とマムタニ氏は結論付けました。「彼らの中には、他のオープン ソース モデルを試して使用したい開発者がかなり多くいます。」

5. 後発企業の勝利のチャンス：コスト最適化

AWS、Google、IBMと比較すると、昨年のOracleの行動はやや遅いように思われたが、まさにこのため、現在見られる急進的な対策を見ると、OracleがGenAIレースに勝つための鍵を見出しているのではないかと人々は思う。

一部のアナリストは、オラクルがコンピューティングリソースを最適化し、コストを削減するために、生成AIの基本要素を基本製品、特にデータベースに統合しようとしていると指摘した。 「MongoDB などの多くのデータベース ベンダーがデータベース内機械学習機能を採用し、最近では同じデータベース内でベクトル埋め込み (ベクトル化されたデータが存在する場所) を構築、保存、取得していることは驚くことではありません。複雑さを最小限に抑え、支出を最大化することがすべてです。」

しかし、企業が同じデータベースのみを使用することを保証するのは困難です。ベクター用とソース データ用に少なくとも 2 つのデータベースが必要です。 2 つのデータベース間のデータ統合と遅延の管理に費用がかかるため、コストが高くなります。

そして、これはオラクルにとってのチャンスかもしれない。同社は、データベース処理からチップネットワーク、データ取得まで、プロセス全体にわたってクラウドインフラの最適化を目指してきた。複雑さを軽減し、パフォーマンスを向上させることで、顧客とユーザーに差別化された価値を提供することができます。

参考リンク:

https://analyticsindiamag.com/oracles-generative-ai-madness-begins/