OpenAI が深夜に 5 つのモデルアップデートを割引価格でリリースします。

編集者 | ヤン・ジェン

現地時間1月25日、OpenAIは新モデルをリリースし、GPT-3.5 Turboの価格を下げ、開発者がAPIキーを管理し、APIの使用状況を把握するための新しい方法を導入しました。

新しいモデルには、2 つの新しい埋め込みモデル、更新された GPT-4 Turbo プレビューモデル、アップグレードされた GPT-3.5 Turbo モデル、および新しいテキストレビューモデルが含まれます。

モデルデフォルトでは、OpenAI API に送信されたデータは、OpenAI モデルのトレーニングや改善には使用されません。

1. 2つの新しい埋め込みモデル、価格引き下げ

OpenAI は、より小型で効率的な text-embedding-3-small モデルと、より大型で強力な text-embedding-3-large モデルという 2 つの新しい埋め込みモデルを導入します。

埋め込みにより、機械学習モデルやその他のアルゴリズムがコンテンツ間の関係を理解し、クラスタリングや検索などのタスクを実行しやすくなります。これらは、ChatGPT や Assistant API での知識検索などのアプリケーションや、多くの検索拡張生成 (RAG) 開発ツールを強化します。

写真

text-embedding-3-small は、2022 年 12 月にリリースされた前世代の text-embedding-ada-002 モデルと比較して大幅なアップグレードが行われ、パフォーマンスが向上した新世代の効率的な埋め込みモデルです。比較すると、多言語検索共通ベンチマーク（MRACL）の平均スコアは31.4%から44.0%に増加し、英語タスク共通ベンチマーク（MTEB）の平均スコアは61.0%から62.3%に増加しました。

価格引き下げの点では、text-embedting-3small は text-embedding-ada-002 と比較して 5 倍の価格引き下げとなり、1,000 トークンあたり 0.0001 ドルから 0.00002 ドルになりました。

text-embedding-3-large は、最大 3072 次元の埋め込みを作成し、より強力なパフォーマンスを備えた、新しい次世代の大規模埋め込みモデルです。

text-embedding-ada-002 と text-embeeding-3-large を比較すると、MIRACL では平均スコアが 31.4% から 54.9% に増加し、MTEB では平均スコアが 61.0% から 64.6% に増加します。

価格に関しては、text-embedding-3-large は 0.00013/1k トークンです。

写真

両方の新しい埋め込みモデルが短縮された埋め込みをネイティブにサポートしていることは注目に値します。

取得用にベクトルストレージに保存するなど、より大きな埋め込みを使用すると、通常、コンピューティング、メモリ、ストレージの消費量が増えるなど、コストが高くなります。

両方の新しい埋め込みモデルは、開発者が埋め込みの使用時のパフォーマンスとコストを評価できる手法を使用してトレーニングされます。具体的には、開発者は、埋め込みの概念的表現プロパティを失うことなく、dimension API パラメータを渡すことによって、埋め込みを短縮する（つまり、シーケンスの末尾からいくつかの数字を削除する）ことができます。たとえば、MTEB ベンチマークでは、text-embedding-3 の大きな埋め込みをサイズ 256 に短縮しても、サイズ 1536 の縮小されていない text-embedding-ada-002 よりも優れたパフォーマンスが得られます。

これにより、使用方法が非常に柔軟になります。たとえば、長さが 1024 次元以下の埋め込みのみをサポートするベクターデータストアを使用する場合、開発者は引き続き最適な埋め込みモデルである text-embedding-3-large を使用し、dimension API パラメータに 1024 の値を指定できます。これにより、埋め込みが 3072 次元から短縮され、精度が多少犠牲になりますが、ベクターは短く小さくなります。

2. 新しいGPT-3.5 Turboモデルと低価格

来週、OpenAIは新しいGPT-3.5 Turboモデル、GPT-3.5-Turbo-0125をリリースし、GPT-3.5 Turboの価格を3度目に引き下げます。新しいモデルの入力価格は 50% 引き下げられて 1K トークンあたり 0.0005 ドルとなり、出力価格は 25% 引き下げられて 1K トークンあたり 0.0015 ドルとなります。

このモデルには、要求された形式での応答の精度の向上や、英語以外の関数呼び出しでテキストエンコードの問題を引き起こすバグの修正など、さまざまな改善も加えられます。

固定の gpt-3.5-turbo モデルエイリアスを使用しているお客様は、そのモデルがリリースされてから 2 週間後に、gpt-3.5-turbo-0613 から gpt-3.5-durbo-0125 に自動的にアップグレードされます。

3. GPT-4 Turboプレビューを更新する

GPT-4 API のリリース以来、開発者が更新された知識カットオフ、より大きな 128k コンテキストウィンドウ、および低価格を活用したことにより、GPT-4 顧客リクエストの 70% 以上が GPT-4 Turbo に移行しました。 OpenAI は、更新された GPT-4 Turbo プレビューモデル GPT-4-0125-preview をリリースしました。

このモデルは、コード生成などのタスクを以前のプレビューモデルよりも徹底的に完了し、モデルがタスクを完了できない「怠惰な」ケースを減らすことを目的としています。

新しいモデルには、英語以外の UTF-8 生成に影響するバグの修正も含まれています。新しい GPT-4 Turbo プレビューバージョンに自動的にアップグレードしたい人のために、常に最新の GPT4-Turbo プレビューモデルを指す新しい GPT-1-Turbo-preview モデルもリリースされました。

OpenAIはまた、今後数か月以内にGPT-4 Turboをリリースし、一般提供を開始する予定であると主張している。