生成 AI を構築するか、購入するか?

テキスト、画像、ビデオ、またはおそらく複数のモデルとサービスの組み合わせであっても、生成 AI を活用することは、組織にとって「いつ」の問題であり、「するかどうか」の問題ではありません。

昨年 11 月に ChatGPT がリリースされて以来、生成 AI への関心が高まっています。これは、ビジネス ユーザーと開発者向けに Productiv が集計したトップ 20 のシャドー IT SaaS アプリケーションに登場しました。しかし、多くの組織は、合成 AI モデルにアクセスして使用するためのポリシーを策定しながら、公開ツールの使用を制限しています。 CIO はこれを活用したいと考えていますが、独自の条件と独自のデータで活用したいと考えています。

新しいテクノロジーではよくあることですが、問題はそれを自分で構築するか、それともアウトソーシングするかということです。生成 AI の場合、購入できるサービスを改良およびカスタマイズするためのオプションが多数あり、購入または構築するシステムを企業のワークフローの有用で信頼性が高く、責任ある部分にするために行うべき作業が多数あるため、これは複雑です。組織は競合他社に遅れをとりたくありませんが、引用した判例が不正確な回答を生成しやすい大規模言語モデル (LLM) によって捏造されたものであることが判明するなど、恥ずかしい思いをすることも避けたいと考えています。

「現状維持」から「新たな自動化」へ

マッキンゼー・デジタル・ノースアメリカのシニアパートナー、エリック・ラマール氏は、このような複雑な技術の構築と購入を厳密に区別するのではなく、合成 AI モデルの取得、形成、そして稀なケースでは作成という観点から考える方が良いと提案しています。

「『受信者』として、ChatGPT のような API や、コードを書きながらソフトウェアを高速化する GitHub Copilot のような別のアプリケーションを通じて、生成 AI を利用することができます」と彼は言います。生成 AI を組み込んだ既製のアプリケーションは、競争上の差別化をあまり提供しない可能性があり、また、生成される回答が常に完璧であるとは限りません。しかし、これらは従業員がすでに使い方を知っているアプリケーションの新機能であることが多いため、競争上の不利を避けるためにも導入する必要があります。同氏はさらにこう付け加えた。「どの企業もこれを行っています。シェイパー モデルでは、既存のベース モデルを使用しますが、それを独自のデータで再トレーニングします。」

これにより、「ファントム」問題が軽減され、より正確で関連性の高い結果が得られます。

「コンタクト センターの使用法は、企業が製造する製品の種類、提供するサービスの種類、発生する問題の種類によって大きく異なります」と彼は言います。一般的な LLM はこの点を考慮して調整されていませんが、データに基づいて再調整することができます。このプロセスは微調整と呼ばれます。微調整は、ホストされたクラウド LLM と、自分で実行するオープンソース LLM モデルの両方に適用されるため、このレベルの「再発明」によって 1 つのアプローチに限定されることはありません。

マッキンゼーは、LLM に評価面接の記録を提供することで、評価の作成を迅速化しようとしました。しかしラマール氏は、それが微調整されず、組織のデータに組み入れられなければ、完全な失敗になると述べた。 「法学修士課程では、さまざまな役割や、どのような仕事をするのか、どのように人を評価するのかといった文脈がまったくありません」と彼は言う。

ChatGPT や GPT4 などのプラグイン モデルを備えた生成 AI モデルを使用すると、他のシステムからリアルタイムの情報やビジネス データを取得したり、他の種類の計算を追加したり、請求や予約などのアクションを実行したりできる API に接続して、LLM を強化できます。これには、法的データベースなどの厳選されたデータが含まれます。これは、独自の気象モデルをゼロから構築するのではなく、従来の機械学習 (ML) モデルに商用の気象予報サービスを追加してルートを生成したり、配送時間を予測したりするのと同じです。

Lamarre 氏は、変革には LLM を独自のアプリケーションやプロセスに組み込むだけでは不十分であり、組織にはより高度な機能が必要になると警告しています。 「優れた出力を得るには、モデルが使用できるデータ環境を構築する必要があります」と彼は言います。「データ エンジニアリングのスキルと、それらのモデルを再調整する能力が必要なので、おそらくスタッフに機械学習の能力が必要であり、ジャストインタイム エンジニアリングに長けている必要があります。では、最良の出力を得るために適切な質問をするようにスタッフを導くにはどうすればよいでしょうか?」

彼は、特にまだ機械学習の専門知識を蓄積していない CIO に対して、人工知能に伴う「光る物体症候群」に注意するよう警告しています。

「今後6～12か月以内に、生成型AIは『従来の』AIと同じくらい難しくなるというのが現実になるだろう」と彼は語った。

しかし、これらのスキルがあれば、既存のモデルとサービスを使用して作成された合成 AI システムは、競争上の差別化の最大の可能性をアプリケーションに提供できます。しかし、ラマール氏は、建設はより困難になり、おそらく稀になるだろうと予測している。

買うか売るか

コンチネンタルは、60 人の従業員のうち 10 人がテクノロジーとデータ分野で働いているにもかかわらず、弱い立場にある子供、家族、若い専門家を支援する非営利団体です。 CIO のピーター・キム氏が言うように、The Continent のような小規模組織にとって、独自の合成 AI を構築するのは困難に思えるかもしれません。

児童福祉機関は、サポートの需要が能力を上回るという危機に直面しており、彼は生成 AI がどのようにオーディエンスの分析、ボランティア活動の連続性に関するメッセージの評価、応募者とインターンシップのマッチング、さらには新しいスタッフの採用にかかる時間の短縮に役立つかに興味を持っています。

これは、Microsoft が Nonprofit Cloud を含む多くの製品に導入した Copilot 機能を使用することから始まります。 「これが標準になるからといって無視するのは愚かなことだ」と彼は言った。「これを使わないと、取り残されてしまうだろう。」

しかしキム氏は、合成 AI サービスの一部をカスタムベースで利用できるようにすることも計画している。彼は、AI が特に非営利団体にとって、政府機関や民間機関が使用しているさまざまな、往々にして時代遅れのシステムへの多数のコネクタの構築や、データのクエリの作成に役立つことを期待しています。さらに、地理データや人口統計データのニュアンスを理解し、履歴データから洞察を抽出し、それをリアルタイムデータと比較して、パターンや迅速な対応の機会を特定したいと考えています。

既存の生成 AI 機能を複製するためにリソースを投資するのではなく、既存の手動プロセスを自動化し、新しい可能性を模索することに時間とエネルギーを向けることができます。 「私たちは、これまでずっとそうしてきたように、AI を使って同じことをやろうとは考えていません」と同氏は言う。「この新しい超大国で、ビジネス プロセスをどのように開発、再構築すればよいのでしょうか?」

建てるよりも買う方が、人々が新しい機能を利用しやすくなると彼は示唆した。 「より容易に利用できるようになっているツールを活用することで組織が達成できる成功の 1 つは、適応力とレビュー力になると思います。」

大規模な組織では、開発ツールや統合機能を備えた商用 LLM を使用することで、複数の部門がさまざまなアプローチを試し、生成 AI が役立つ場所を発見し、それを効果的に使用する方法を経験することができます。 Airbnb や Deutsche Telekom のように高度な技術的専門知識を持つ企業でさえ、独自の LLM を構築するのではなく、ChatGPT のような LLM を微調整することを選択しています。

Adriana Karaboutis は National Grid Group の CIDO です。 「大規模な言語モデルを導入して、特定の会社や業界に必要なドメインを構築することができます」と彼は言います。「すでに存在しているものを本当に活用する必要があります。そうしないと、競合他社が既存のものに基づいて計画を立てている間に、5年間苦労しなければならないかもしれません。」

パナソニックの B2B Connect 部門は、Azure OpenAI サービスを使用して、法務および経理チーム、人事および IT 部門による社内使用向けの ConnectAI アシスタントを構築しましたが、その理由は同様であると、IT およびデジタル戦略担当シニアマネージャーの向野 宏樹氏は述べています。 「生成AIに多額の投資を行っていない当社のような一般企業が、独自にそのようなサービスを構築するのは技術的に困難で費用もかかると考えています」と氏は語った。

従業員の生産性向上は最優先事項であり、Mukaino 氏は LLM の作成に時間を費やすのではなく、ビジネス ワークフロー専用に設計されたツールとして構築を開始したいと考えていました。 「Azure OpenAI サービスを使用することで、社内で構築するよりも早く AI アシスタントを作成でき、その時間を使いやすさの向上に費やすことができました。」

また、プラグインを使用してネイティブ AI オプションをさらに形作ることができるのは、パナソニックのニーズに合わせてカスタマイズするのに最適な方法であると彼は考えており、プラグインは ChatGPT の現在の機能のギャップを埋める重要な機能であると述べています。

データからのベクトル埋め込みを使用して Cloud LLM を微調整する機能が、Azure Cognitive Search の Azure OpenAI サービスでプライベート プレビューになりました。

出典: www.cio.com