2023 年の人工知能エンジニアリングの 5 つの新しい方向性

LLMの大幅な増加に加え、AI開発ツールも拡大しています。今年の AI 開発における 5 つの主要なトレンドを見てみましょう。

2023 年の AI エンジニアリング トレンドのトップ 5 から翻訳された著者の Richard MacManus は、The New Stack のシニア エディターであり、Web およびアプリケーション開発のトレンドに関するレポートに重点を置いています。彼は以前、2003 年に ReadWriteWeb を設立し、これを世界で最も影響力のあるテクノロジー ニュース サイトの 1 つに成長させました。初期の頃から...

アプリケーション開発に大規模言語モデル (LLM) を使用することは、今年のテクノロジーの最大のトレンドの 1 つです。これは、OpenAI の API を独自のモデルを通じて使用する企業から始まりますが、2023 年末までには、開発者が API に依存せずに直接アクセスできるオープンソース LLM を含む、さまざまな LLM から選択できるようになります。

LLM の普及に伴い、LLM をアプリケーションに統合するための開発ツールも普及しています。今年の AI エンジニアリングにおける 5 つの主要なトレンドの考察の一環として、これについてなどについて議論します。

1. AIエンジニアの出現

まず第一に、開発者には AI エンジニアという新しいキャリアの選択肢が生まれました。

リードエバンジェリストの Shawn " @swyx " Wang 氏によると、AI エンジニアは「キュー エンジニア」の次のステップです。今年初め、彼は AI エンジニアが AI と開発のエコシステムの広い範囲にどのように適合するかを示すわかりやすい図を作成しました。

写真

swyxより。

AIエンジニアの役割はまだ非常に新しいものです。 2023 年末までに、開発者は LLM と、LangChain フレームワークやベクター データベースなどの関連ツールを使用するようになります。

10月にサンフランシスコで私が共同主催したAIエンジニアサミットでショーン・ワン氏に行ったインタビューで、彼はAIエンジニアの役割をモバイルエキスパートの役割に例えました。

「つまり、AI をモバイル エンジニアリングのようなプラットフォームとして考えてください。モバイル スタックにのみ焦点を当てるようなものです。モバイルは複雑なので、触れたくありません。モバイル カンファレンスにはすべて出席し、モバイル テクノロジーをすべて把握し、議論も知っています。しかし、モバイルの問題に取り組む必要があるときは、あなたのところに相談します。あなたはその解決方法を知っています。」

彼は、10～15年前にモバイルエンジニアリングが普及したときに少なくともその範囲を理解していたのと同じように、すべての開発者は少なくともAIエンジニアリングが何であるかを理解する必要がある、と付け加えた。

2. LLMスタックの進化

今年の AI エンジニアリングに関連するトレンドは、この新しい役割のためのテクノロジー スタックの出現です。スタックの構成についてはさまざまな意見がありますが、私は VC 企業 Andreessen Horowitz (a16z) の次の図が気に入っています。

写真

オーケストレーション層は、アプリケーションが LLM に接続する場所であるため、AI エンジニアにとっておそらく最も重要な層です。ここで「ヒント エンジニアリング」が登場します。これは基本的に、LLM にクエリを実行して、それらのシステムがアプリケーションに有用な情報を提供するようにする方法です。 2023 年には、LangChain や LlamaIndex などのツールが登場し、ヒント エンジニアリングやその他の LLM 統合で開発者を支援します。

LangChain の名前に「Chain」という言葉が含まれていることは注目に値します。これは、さまざまな LLM だけでなく、他の開発フレームワークなど、他のツールとも相互運用できることを示唆しています。たとえば、今年 5 月に Cloudflare は Workers フレームワークの LangChain サポートを発表しました。

3. オープンソースLLM

今年の AI エンジニアリングにおいて最も影響力のある進展は、おそらくオープンソース LLM の台頭でしょう。 11月に取締役会のクーデターによりOpenAIがほぼ崩壊した後、代替の非独占的LLMの選択肢を持つことは特に重要になった。

私が話したほとんどの AI エンジニアは、OpenAI の LLM が他の LLM よりも優れていると考えています。しかし、オープンソース モデルは急速に追いつきつつあります。 Meta が 7 月に発表した LLama 2 は現在、スタンフォード大学の HELM (言語モデルの総合的評価) ベンチマークのリーダーボードでトップに立っています。

写真

LLama 2 仕様; Meta より

Meta は 2 月に初めて LLama を発表した際、非商用ライセンスの下でモデルの重みを研究コミュニティにリリースしました。 GPT などの他の強力な LLM は、通常、制限された API を通じてのみアクセスできます。

「OpenAIを経由してAPIにアクセスする必要があるが、実際にはモデルをダウンロードしたり、コンピューターで実行したりはできない」とライトニングAIのセバスチャン・ラシュカ氏は5月に私に説明した。 「基本的にカスタマイズはできません。」

言い換えれば、LLama は開発者にとってより柔軟性が高いということです。 2024 年に向けて、これは OpenAI や Google など、LLM の現在のリーダーにとって潜在的に混乱を招く可能性があります。

4. ベクターデータベース

今年、LLM によって開発されたデータに最も大きな影響を与えたのは、間違いなくベクター データベースの使用です。

Microsoft では、ベクター データベースを「特徴や属性の数学的表現である高次元ベクターとしてデータを保存するデータベースの一種」と定義しています。データは、「埋め込み」と呼ばれる手法を使用してベクターとして保存されます。

今年初めの The New Stack への寄稿で、Mark Hinkle 氏は倉庫の例えを使ってベクトル データベースの使用例を説明しました。 「ベクターデータベースを巨大な倉庫、AIを熟練した倉庫管理人として考えてみましょう」とヒンクル氏は書いている。 「この倉庫では、各アイテム（データ）がビン（ベクトル）に保存され、多次元空間の棚にきちんと整理されています。」AIは、類似性に基づいてアイテムを検索したり比較したりすることができます。 Hinkle 氏によると、ベクター データベースは「推奨システム、異常検出、自然言語処理などのアプリケーションに最適です」。

Pinecone のような新しいデータベース ソリューションや Chroma のようなオープン ソース プロジェクトにより、今年はベクター データベースの分野で収益性の高い市場が開拓されました。しかし、現在市場には多くのベクター データベース オプションがあり、既存のデータベース会社の中にはこの機能を自社製品に追加しているところもあります。たとえば、Redis は Redis Enterprise 製品でベクトル データベース機能を提供しています。

5. AIエージェント

おそらく、AI エンジニアリングで最も物議を醸しているトレンドの 1 つは、3 月下旬にリリースされた AutoGPT などの AI エージェント ソフトウェアです。 AI エージェントは、LLM を使用してさまざまなタスクを実行する自動化されたソフトウェアです。

10月に開催されたAIエンジニアサミットでは、一部の講演者がこれらの自動エージェントの能力を過信しているように感じました。おそらく、これは少し傲慢なことかもしれない。なぜなら、行為主体という一般的な概念は、人間を方程式から除外しているように思われるからだ。しかし、銀行や電話会社などの機関で自動チャットボットを扱ったことがあるなら、会話の相手に人間がいればいいのにと思ったことがあるはずです。

Voxel51 の機械学習エンジニアである Jacob Marks 氏は、LinkedIn の投稿で次のように述べています。「AI エージェントは、その潜在能力をフルに発揮するにはほど遠い状態です。これは、これらのエージェントの堅牢な評価を作成することが難しいことが一因です。AutoGPT は大きな変動を経験しています。」

おそらく 2024 年は、Auto-GPT やその他の AI エージェントが前面に出てくる年になるでしょう。しかし、OpenAIの共同設立者であるAndrej Karpathy氏が4月に警告したように、現時点ではAIエージェントが「制御不能になる」リスクがある。

結論は

AIエンジニアリングの分野において、今年はイノベーションの忙しい年でした。技術的（AI エージェントを参照）および商業的（OpenAI の取締役会を参照）の両方の明らかな問題にもかかわらず、来年は生成 AI がさらに大きく進歩すると期待できます。 OpenAI は Meta や Google などの企業から積極的に挑戦されており、基盤となるテクノロジーは今後も急速に進歩し続けることがあらゆる兆候からわかります。今週、Google は Gemini をリリースしました。同社によると、Gemini はほとんどのテストで ChatGPT に勝っているそうです。 LLMの覇権をめぐる戦いは2024年まで続くだろう。

さらに、LLM アプリケーション エコシステムは成熟する可能性があり、LangChain や Pinecone などの新興企業が拡大を続けています。来年には政府が規制に介入する可能性もあるため、すべてが順調に進むとは限らない。

2024 年に何が起こるにせよ、2020 年は AI エンジニアリングの分野にとって激動の年であり、インターネットの歴史における極めて重要な瞬間として記憶されるかもしれません。