ビジネスリーダーがLLMを活用して新たな機会を創出できる5つの方法

一般的に、AIGC とは、人間が作成したコンテンツに非常によく似た画像、音楽、テキストなどのコンテンツを作成できる ML テクノロジーのクラスを指します。一方、LLM は、大量のテキスト データでトレーニングされた数十億のパラメータを持つニューラル ネットワークであり、人間のような言語を理解、処理、生成することができます。

全体として、これらのテクノロジーは、さまざまな業界を再構築し、人間と機械の相互作用の有効性を向上させる可能性を秘めたさまざまなアプリケーションを提供します。これらのアプリケーションを検討することで、ビジネス リーダーや意思決定者は貴重な洞察を得て、ビジネスの成長を加速させ、迅速なプロトタイピングを通じてビジネス成果を大幅に向上させることができます。 AIGC のもう 1 つの利点は、これらのアプリケーションのほとんどで最小限の専門知識しか必要とせず、追加のモデル トレーニングは不要であることです。

免責事項：第 2 世代 AI は ChatGPT と関連付けられることが多いですが、Google の T5、Meta の Llama、TII の Falcon、Anthropic の Claude など、他のベンダーの製品も多数あります。この記事で説明したアプリケーションのほとんどは OpenAI の ChatGPT を使用していますが、基盤となる LLM を簡単に調整して切り替えることで、特定の予算、レイテンシ (モデル生成を完了するために必要な時間。モデルが小さいほど読み込みが速くなり、推論のレイテンシが短縮されます)、および下流のタスクに合わせて調整できます。

1. LLMを外部データに接続する

初期のカスタマイズを必要とせずに、LLM の翻訳や集約など、多くのすぐに使用できるタスクで優れた機能を発揮します。これらの一般的なタスクに優れている理由は、基礎となるベースモデルが大規模だが一般的なデータセットでトレーニングされているためです。ただし、この機能は、企業の年次報告書に関する回答を提供するなど、ドメイン固有のタスクにシームレスに拡張できない可能性があります。ここで、検索拡張生成 (RAG) が登場します。

RAG は、外部データ ソースを使用する LLM ベースのシステムを構築するためのフレームワークです。 RAG により、LLM は事前トレーニング中には確認できなかったが、関連性のある正確な応答を適切に提供するために必要なデータにアクセスできるようになります。 RAG により、言語モデル (ChatGPT など) は NLP 機能と外部知識を組み合わせることでドメイン固有の質問に対してより適切な回答を提供できるようになり、不正確な情報や「幻覚」の生成を減らすことができます。これは次のように実現されます。

• 大規模な文献コレクション、データベース、インターネットなどの外部の知識ソースから関連情報を取得します。関連性は、ユーザーの質問との意味的な類似性に基づいています (例: コサイン類似度を使用して測定)。
• 取得された情報はプロンプト内の元の質問に追加され（質問に答えるための有用なコンテキストを提供）、LLM に渡され、より情報に基づいた、コンテキストに関連し、正確な応答が生成されます。

このアプローチにより、LLM は、質問への回答、コンテンツの作成、リアルタイム データにアクセスする対話型の会話など、さまざまなドメインやアプリケーションでより汎用的かつ有用になります。ポッドキャストアプリのPoduramaも同様の技術を活用して、AI搭載の推奨チャットボットを構築しました。これらのボットは、ユーザーのクエリに基づいて関連番組を専門的に推奨し、ポッドキャストのトランスクリプトから洞察を得て推奨事項を絞り込みます。

このアプローチは危機管理においても価値があります。 SaaS インシデント対応プラットフォーム PagerDuty は、タイトル、重大度、その他の要素などの基本データを使用して LLM でインシデントの概要を生成し、内部 Slack データでそれを強化します。対応者は LLM で詳細を話し合い、トラブルシューティングの最新情報を共有して、概要の品質を向上させることができます。

RAG は複雑に思えるかもしれませんが、LangChain ライブラリは、RAG を実装し、複雑な質問応答システムを構築するために必要なツールを開発者に提供します。 (多くの場合、開始するには 1 行のコードだけが必要です)。 LangChain は、外部データ ソースへのアクセスを提供したり、他のアプリケーションの既存の API に接続したりすることで、実行時に LLM のパフォーマンスを強化および改善できる強力なライブラリです。

Llama 2 や Bloom などのオープンソース LLM と組み合わせると、RAG は機密文書を処理するための非常に強力なアーキテクチャになります。特に興味深いのは、LangChain には 120 を超える統合 (執筆時点で) があり、SQL、PDF、コード スニペット、さらには YouTube ビデオとのシームレスな統合が可能になっていることです。

2. LLMを外部アプリケーションに接続する

外部データ ソースを活用するのと同じように、LLM は特定のタスクに合わせてカスタマイズされた外部アプリケーションとの接続を確立できます。モデルは古い情報のために不正確になる場合があるため、これは特に重要です。たとえば、現在の英国首相について質問すると、ChatGPT は、2022 年末に退任したにもかかわらず、ボリス ジョンソンについて言及し続ける可能性があります。この制限は、モデルの知識がトレーニング前の段階で固定されており、リシ・スナック氏の任命などのトレーニング後のイベントが含まれていないために発生します。

これらの課題に対処するために、エージェントを介して LLM を外部世界と統合することで LLM を強化することができます。これらのプロキシは、LLM のインターネット アクセスの本質的な不足を軽減するために使用され、Weather API (リアルタイムの天気データ用) や Serp API (Web 検索用) などのツールを使用できるようにします。わかりやすい例としては、Expedia のチャットボットが挙げられます。このチャットボットは、ユーザーをホテルの検索と予約に導き、宿泊施設に関する質問に答え、パーソナライズされた旅行の推奨事項を提供します。

もう 1 つの魅力的なアプリケーションは、感情、不快感、言語などの特定の属性をツイートにリアルタイムで自動的にタグ付けすることです。マーケティングと広告の観点から見ると、eコマース ツールに接続されたエージェントは、LLM がユーザーの興味やコンテンツに基づいて製品やパッケージを推奨するのに役立ちます。

3. LLMの連携

ほとんどのアプリケーションでは、LLM は通常単独で使用されます。しかし、最近では複雑なアプリケーションにおいて LLM リンクが注目を集めています。より複雑なタスクを実行するには、複数の LLM を順番に連結する必要があります。各 LLM は特定の分野における専門知識を持ち、相互に協力して包括的かつ洗練された成果を生み出します。

このアプローチは言語翻訳に適用されており、LLM はテキストをある言語から別の言語に変換するために連続的に使用されます。 Microsoft などの企業は、リソースの少ない言語の場合に翻訳サービスに LLM チェーンを提供することを提案しており、これにより、まれな単語のより正確で文脈を考慮した翻訳が可能になります。

このアプローチは、他の分野でもいくつかの貴重な使用例を提供できる可能性があります。消費者向け企業の場合、LLM のリンクにより、顧客とのやり取り、サービス品質、運用効率を向上させる動的な顧客サポート エクスペリエンスを実現できます。

たとえば、最初の LLM は顧客からの問い合わせを分類して分類し、より正確な回答を得るために専門の LLM に渡すことができます。製造業では、需要予測、在庫管理、サプライヤーの選択、リスク評価に特化した物流チェーンをリンクすることで、エンドツーエンドのサプライチェーン プロセスを最適化できます。

4. LLMを使用したエンティティの抽出

LLM が登場する前は、エンティティ抽出は、データ収集、ラベル付け、複雑なモデルトレーニングを含む労働集約的な ML 手法に依存していました。このプロセスは面倒で、多くのリソースを消費します。しかし、LLM の登場により、このパラダイムは変化しました。現在、エンティティの抽出はプロンプトのみに削減され、ユーザーはモデルにクエリを実行してテキストからエンティティを簡単に抽出できます。さらに興味深いのは、PDF などの非構造化テキストからエンティティを抽出するときに、プロンプトで興味のあるスキーマとプロパティを定義することもできることです。

潜在的な例としては、金融機関が LLM を使用してニュース記事から会社名、株式銘柄、財務数値などの主要な金融エンティティを抽出し、タイムリーで正確な市場分析を可能にすることが挙げられます。同様に、広告/マーケティング代理店は、LLM 駆動型のエンティティ抽出を使用して広告スクリプト、俳優、場所、日付を分類することでデジタル資産を管理し、効率的なコンテンツのインデックス作成と資産の再利用を促進することができます。

5. 回答プロンプトを通じてLLMの透明性を向上させる

LLM から直接回答を得ることは間違いなく価値がありますが、ブラック ボックス アプローチの不透明性により、ユーザーは躊躇することがよくあります。さらに、複雑なクエリに対する不正確な応答に直面した場合、失敗したステップを正確に特定することが困難になります。これを体系的に分解すると、デバッグ プロセスが大幅に改善されます。ここで、原因と行動（反応）のフレームワークが役立ち、これらの課題に対する解決策が提供されます。

Reaction は段階的な推論を重視し、LLM が人間のようにソリューションを生成できるようにします。目標は、モデルが人間のようにタスクについて考え、言語を使用してその理由を説明できるようにすることです。このアプローチは、反応プロンプトの生成が、人間の注釈者が自然言語で自分の考えを表現し、それに応じてアクションを実行するという単純なタスクであるため、人間が簡単に操作できます。ほんの数例のこのような例で、モデルは新しいタスクにうまく一般化することを学習します。

このフレームワークに触発されて、多くの教育テクノロジー企業が、学習者にパーソナライズされたコースワークや宿題のサポート、教師向けに AI を活用した授業プランを提供するツールを試験的に導入しています。そのために、カーン アカデミーは、数学の問題やプログラミング演習を通じて生徒を指導するように設計されたチャットボット、KhanMico を開発しました。 Khanmio は、要求に応じて単に答えを提供するのではなく、推論プロセスを通じて生徒を導くことで、思慮深い問題解決を奨励します。このアプローチは盗作を防ぐだけでなく、学生が独自に概念を習得できるようにもします。

結論は

AI が人間に取って代わる可能性や、最終的には技術的特異点 (AI のゴッドファーザーであるジェフリー・ヒントンが予測したように) を達成する可能性についての議論はまだ続いているかもしれませんが、1 つ確かなことがあります。それは、LLM がさまざまな分野にわたるさまざまなタスクの完了を加速させる上で重要な役割を果たすことは間違いないということです。複雑なタスクを簡素化しながら、効率を高め、創造性を育み、意思決定プロセスを改善する力があります。

データ サイエンティスト、ソフトウェア開発者、製品オーナーなど、さまざまな技術的役割を担う専門家にとって、LLM はワークフローを合理化し、洞察を収集し、新たな可能性を切り開くための貴重なツールを提供できます。