ChatGPTは早朝にメジャーアップデートを実施しました！ GPT-3.5/4 デュアルアップグレード: コンテキストが 4 倍に増加し、API を使用して独自のプラグインを作成できるようになりました

ChatGPTが突然アップデートされました！

今朝早く、OpenAI は公式ウェブサイトで以下の点を含むアップデートの詳細をすべて公開しました。

• チャット補完APIに新しい関数呼び出し機能を追加しました
• GPT-4とGPT-3.5-Turboのバージョンが更新され、より制御しやすくなりました。
• GPT-3.5-Turbo のコンテキスト長を 16k に増加 (以前は 4k)
• 埋め込みモデルのコストを75%削減
• GPT-3.5-Turboの入力トークンコストが25%削減されました
• GPT-3.5-Turbo-0301およびGPT-4-0314モデルの廃止スケジュールを発表

その中でも、新しい関数呼び出し機能、GPT-4 と GPT-3.5-Turbo の 2 つのモデルのアップグレード、およびさまざまなコスト削減が最も注目されるはずです。

これに対してTwitterユーザーの「Baoyu」さんは、今回OpenAIがアップデートした関数呼び出し機能は、本質的にAPIがエージェントやプラグインを直接サポートできるようにするものだと述べました。

関数呼び出し

開発者は、GPT-4-0613 および GPT-3.5-turbo-0613 に関数を記述し、それらの関数を呼び出すための引数を含む JSON オブジェクトを出力するようにモデルをインテリジェントに選択できるようになりました。

これは、GPT の機能を外部ツールや API とより確実に接続するための新しい方法です。

これらのモデルは、関数を呼び出す必要があるタイミング（ユーザー入力に応じて）を検出し、関数のシグネチャに準拠した JSON で応答するように微調整されています。

関数呼び出しにより、開発者はモデルから構造化データをより確実に取得できるようになります。

たとえば、開発者は外部ツール (ChatGPT プラグインなど) を呼び出して質問に答えるチャットボットを作成できます。

具体的には、「次の金曜日にコーヒーを飲みたいかどうかを確認するために Anya にメールを送信する」などのクエリは、send_email(to: string, body: string) のような関数呼び出しに変換できます。

または、「ボストンの天気はどうですか？」を get_current_weather(location: string, unit: 'celsius' | 'fahrenheit') に変換します。

さらに、開発者は自然言語を API 呼び出しやデータベース クエリに変換できます。

たとえば、「今月の上位 10 人の顧客は誰ですか?」を内部 API 呼び出しに変換すると、get_customers_by_revenue(start_date: string, end_date: string, limit: int) になります。

または、「Acme 社の先月の注文数はいくつですか?」を SQL クエリに変換するには、sql_query(query: string) を使用します。

さらに、開発者はテキストから構造化データを抽出できるようになります。

extract_people_data(people: [{name: string, birthday: string, location: string}] という関数を定義するだけで、Wikipedia の記事に記載されているすべての人物を抽出できます。

以前は、エージェントをサポートするために、ユーザーはプロンプトに大量の説明を追加する必要がありましたが、今でははるかに簡単になりました。API リクエストを行うときに、関数パラメータを渡すだけです。

functions パラメータは、実際にはユーザーが指定するエージェントに似ています。

ここでは複数の関数が存在する可能性があることに注意してください。関数はオブジェクトであり、名前、説明、パラメータなどを持つこともできます。

返される結果には、次の構造化されたコンテンツが含まれます。

function_call: 呼び出される関数の名前。ユーザーが渡した関数名と同じ。

引数: 関数を呼び出すためにユーザーが必要とするパラメータ名と値を含む、JSON 形式のパラメータ値。

例えば：

"function_call": { "name": "get_current_weather", "arguments": "{ \"location\": \"ボストン、マサチューセッツ州\"}" }

海外のネットユーザーによると、この機能の最大の価値は、GPTによって返されるデータの構造化の問題を解決し、ユーザーが複雑なプロンプトを入力する必要がなくなったことだという。

ステップ1: OpenAI API

ステップ2: サードパーティAPI

ステップ3: OpenAI API

モデルのアップグレード

GPT-4

GPT-4-0613 の主なアップデートは、前述の新しい関数呼び出し機能です。

GPT-4-32k-0613 の更新には、GPT-4-0613 のすべての更新が含まれていることに加えて、より長いテキストをよりよく理解できるように、より長いコンテキスト長も追加されています。

OpenAIは、現在待機リストに載っているより多くの人が今後数週間でGPT-4の使用を開始できるようになると述べている。

GPT-3.5 ターボ

GPT-3.5-turbo-0613 アップデートには GPT-4 と同じ関数呼び出し機能があり、システム情報を通じてより優れた制御性が提供されます。

これら 2 つの機能により、開発者は GPT モデルによって生成された応答をより効果的にガイドできるようになります。

GPT-3.5-turbo-16k は GPT-3.5-turbo の 4 倍のコンテキスト長を持ちますが、コストは前者の 2 倍になります。

手数料は、入力トークン 1,000 個あたり 0.003 ドル、出力トークン 1,000 個あたり 0.004 ドルです。

コンテキストの長さが 16k ということは、モデルが 1 回の会話で約 20 ページのテキストをサポートできるようになったことを意味します。

同時に、OpenAIは、新しいモデルは6月27日に正式にリリースされ、古いモデルは今年9月13日以降はアクセスできなくなると述べた。

低価格

最後に、OpenAIが発表した新たな値下げのニュースも多くのユーザーを感動させました。

text-embedding-ada-002 は、OpenAI の最も人気のある埋め込みモデルです。本日、コストを 75% 削減し、1,000 トークンあたり 0.0001 ドルになりました。

最も人気のあるチャットモデルであるGPT-3.5-turboでは、入力トークン料金が25％削減されました。

開発者は、入力トークン 1,000 個あたり 0.0015 ドル、出力トークン 1,000 個あたり 0.002 ドルでこのモデルを使用できるようになりました。これは、1 ドルあたり約 700 ページの使用に相当します。

GPT-3.5-turbo-16k の価格は、入力トークン 1,000 個あたり 0.003 ドル、出力トークン 1,000 個あたり 0.004 ドルです。

参考文献: https://openai.com/blog/function-calling-and-other-api-updates