生成 AI への世界的な投資は 23 年間で 360 億ドルを超えました。開発者は、LLMアプリケーションが2024年に爆発的に増加すると予測している

2023 年 11 月 30 日、ChatGPT は誕生日を迎え、Similarweb はそれを記念して以下の美しいインフォグラフィックを公開しました。

ChatGPT が誕生してから 2023 年 5 月まで、そのトラフィックは急速に増加し、月間訪問数が 18 億回に達しました。

その後、6月には交通量は減少したが、9月以降は回復している。これはおそらく、高校生や大学生が夏休み明けに学校に戻ったためだと思われる。

昨年の今頃、ChatGPT が Google に取って代わるのではないかと多くの人が推測していましたが、明らかにそれはまだ起こっていません。

2週間前、GoogleはChatGPTの競合製品であるGeminiをリリースしました。

2022年末にChatGPTがリリースされたとき、人々は人工知能、特に2023年の生成型人工知能に期待を膨らませていました。

ChatGPT にジョニー・キャッシュ風の自動運転車に関する曲を書いてもらうこともできます。

ソロで乗ってるけど、決して一人じゃない。

私の AI はショットガンに乗っていて、石のように安定しています。

果てしない道の上で、広大な空の下、

幽霊ドライバーがハンドルを握り、過去の足跡を残します。

私は一人で乗るが、決して孤独ではない。

私の AI は岩のように頑丈です。

果てしない道の上で、広大な空の下、

幽霊ドライバーがハンドルを握り、過去の足跡を残していく。

ジュゼッペ・ヴェルディのスタイルに切り替えると、ChatGPT はテノール歌手の歌声を表示します。

ああ、馬に乗ってるよ！ （ほら、馬なしの馬車だ！）

Scivola nella notte, silenziosa come il fato. (それは運命のように静かに夜を滑り抜ける)

人類の創意工夫、進歩の誇り。

この鋼鉄のダンスの中で、私たちは自分自身の運命を織り成すのです。

上記のグラフは、ChatGPT のリリース以降、Google トレンドが AI と ChatGPT に注目していることを示しています。

昔、「AI の冬」という言葉を聞いたことがあるかもしれませんが、今年はベンチャーキャピタル企業が生成 AI に 360 億ドル以上を投資しました。

2023年は人工知能の夏であることに疑いの余地はありません。

1 月に、人々は ChatGPT の機能の調査を始めました。すぐに、質問の仕方（「ヒント」）が異なれば答えも異なることに全員が気づきました。

こうして、「プロンプトプロジェクト」はひっそりと誕生した。

大物たちでさえ、最もホットな新しいプログラミング言語は英語だということを嘆いていました。

しかし、一般の人々が ChatGPT の機能に驚嘆し、さまざまなプロンプト技術を模索している間も、研究者たちは休むつもりはありません。

2023年第1四半期には、多くの人がAI開発のペースについていけないと感じています。

2月末に、Meta は LLaMA をリリースしました。

その後、AI21 Labs は Jurassic-2 をリリースしました。

OpenAIはGPT-4をリリースした。

アントロピックはクロードを出版した。

テクノロジーイノベーション研究所はファルコン40Bをリリースした。

Googleはバードをリリースした。

ブルームバーグも独自の BloombergGPT をリリースしました。

開発者が ChatGPT に慣れてくると、LLM で何ができるかを想像し始め、カバーレター ジェネレーター、YouTube サマリー、カスタマイズされたチャットボットなどのアプリケーションが登場しました。

従来の機械学習モデルと比較して、Big Language Model を使用すると、開発者は単純な API 呼び出しを通じてその機能にアクセスできます。これにより、開発者が AI アプリケーションを構築する方法が変わります。

AI アプリケーションを迅速に構築するこの新しい方法とともに、新しい開発ツールも登場しています。

開発者が LLM を使用してアプリケーションを迅速かつモジュール形式で構築できるようにする LangChain や LlamaIndex などのフレームワークには、多くの関心が寄せられています。

さらに、セマンティック検索を可能にするベクター データベースは、開発者が LLM アプリケーションに外部データを提供するためにも使用できることを発見したため、再び注目を集めています。

今年 4 月には、実践者たちが LLM アプリケーションを本番環境に導入し始め、コスト、レイテンシ、錯覚、前方互換性と後方互換性などの課題について議論しました。

「LLM でクールなものを作るのは簡単ですが、本番環境で使えるものを作るのは難しいです。」

2023 年に LLM システムを構築するためのキーワードは、微調整、検索拡張生成 (RAG)、評価などになるかもしれません。

データ サイエンティストの観点から見ると、微調整はニューラル ネットワークに新しい知識を伝えるための好ましい手法であり、したがって、汎用 LLM にドメイン固有のデータへのアクセスを提供する最初の一般的なアプローチです。

特に、オープンソースの LLM (LLaMa-2 など) と効率的な LLM 微調整技術 (QLora など) のリリースにより、実務者にとって LLM の微調整がよりアクセスしやすくなりました。

上図はGoogleトレンドの「RAG LLM」に対する興味の推移曲線です。2023年7月頃からRAGが話題になったことがわかります。

RAG は LLM の推論機能から知識を分離し、外部データベースに保存します。これにより、微調整機能を使用する場合よりも更新が容易になります。

しかし、2023 年に振り返ってみると、LLM を活用したアプリケーションの少なさに驚くかもしれません。

結局のところ、生成 AI はそのパフォーマンスを発揮する一方で、多くの問題にも直面しています。

たとえば、Google の Bard は、ジェイムズ・ウェッブ望遠鏡に関する情報を「発明」しました。マイクロソフトのBingは、歌手ビリー・アイリッシュが2023年のスーパーボウルのハーフタイムショーでパフォーマンスすると主張している。

また、ある弁護士は、連邦裁判所への提出書類にはChatGPTが提供した虚偽の引用文や捏造された司法意見が満載だったと述べた。

チャットボットが間違いを犯す可能性があることを知っているにもかかわらず、高校生や大学生は依然としてチャットボットの最も熱心なユーザーであり、エッセイを書いたり、問題集を解いたり、コードを書いたりするのにチャットボットを使用しています。

学校の管理者もこれについて葛藤しています。チャットボットが欺瞞ツールなのか学習ツールなのか判断できないのです。

1月、ニューヨーク市教育長のデイビッド・バンクス氏は、チャットボットが「批判的思考力や問題解決能力を育まない」という理由でChatGPTを禁止した。

4カ月後、デビッド・バンクス氏は「生徒と教師を支援する生成AIの可能性を無視していた」として禁止令を撤回した。

3月に、OpenAIの共同設立者グレッグ・ブロックマン氏は、将来チャットボットが映画の脚本を書いたり、観客が気に入らないシーンを書き直したりするのに役立つだろうと予測した。

2ヵ月後、全米脚本家組合はストライキを起こし、AIが制作した質の悪い映画から人々を守る契約を要求した。

9月には脚本家たちがストライキを終え、映画会社はAIの脚本を放棄した。

同時に、全米作家組合と数人の有名小説家がOpenAIに対して集団訴訟を起こした。彼らは、OpenAIが彼らの著作権で保護された著作物を彼らの同意なしにトレーニングデータに使用したと主張した。

Amazon の製品概要機能など、生成 AI アプリケーションはすでにいくつか存在しますが、多くの企業はまだソリューションの実験と評価を行っています。

そういう意味では、2023年は生成型人工知能を理解しようとする年とも言えるでしょう。

2024年の期待

11月に、OpenAIは、独自のチャットボットキットを構築するなど、一連の新製品を発表しました。

新しいツールの助けを借りて、ChatGPT を使用してチャットボットを簡単に作成できます。

一緒に服用してはいけない薬を特定したり、特定の場所にある特定の基準を満たすレストランをすべてリストしたりできます。

これらのチャットボットを作成する方法は直感的でシンプルですが、チャットボットを駆動するアルゴリズム、トレーニング データの取得元、チャットボットが生成する情報が正確かどうかなどについては何もわかっていません。

また、私たちがどれだけの計算能力を使用し、環境にどれだけの影響を与えているかもわかっていません。

今後も、生成 AI の商業開発は衰えることなく続くと思われます。人工知能は、放射線学、医薬品開発、心理療法、採用、大学入学など、ますます多くの複雑な活動に影響を与えるでしょう。テクノロジー企業は次世代のハードウェアにも AI を組み込むでしょう。

おそらく 2024 年には、生成 AI ソリューションが実際に生産されるようになるでしょう。

——私たちの生活の中で、LLM 主導の機能に遭遇することがますます増えていくでしょう。

多くのフレームワーク、メトリック、パラダイムが進化し続け、LLM 駆動型アプリケーションを評価および監視する方法がより一般的な議論のトピックになるでしょう。

RAG、質問応答システム、チャットボットのパフォーマンスを適切に測定する方法を学び、パフォーマンスを向上させる新しい手法を発見できる可能性があります。

これらの生成 AI システムのパフォーマンスが成熟するにつれて、生産効率の向上とユーザー エクスペリエンスの向上に役立つ生成 AI アプリケーションがますます増えていくでしょう。

さらに、データ漏洩の削減と機密データの保護というテーマは、これまで以上に重要になります。

確かなのは、2024年には多くのことが変化するだろうということです。そして今は経験を積むのに良い時期です。