GPT-4の新バージョンが突然オンラインになり、能力が全面的に向上し、ZeroEval基準テストで一気に首位に躍り出ました。
入力と出力がそれぞれ50%と33%節約され、実質的にはAPIの値下げに相当します。トークン出力が16kに拡張され、以前は4kをサポートしていました。
OpenAIはAPIに構造化出力を導入し、JSONスキーマを通じてモデル出力が開発者の定義した構造に適合することを確保し、モデルをより信頼性が高く安全なものにしました。最新バージョンのモデル「GPT-4o-2024-08-06」はJSONスキーマ評価で100%のスコアを獲得し、昨年6月版の40%と比較して大幅に向上しています。
コード編集に関しては、最新バージョンのベンチマークスコアは以前のバージョンと同じですが、コストは半分になっています。さらに、新バージョンは画像入力においてOpenAIの最も安価なモデルとなっています。
API構造化出力は主に2つの形式をサポートしています：
- 関数呼び出し：関数定義でstrict:trueを設定することで構造化出力を呼び出します。
- response_formatパラメータの新オプション：開発者はjson_schemaを通じてJSONスキーマを提供できます。
OpenAIはPythonとNode SDKを更新し、ローカルでの構造化出力機能をサポートしています。構造化出力は、動的なユーザーインターフェースの生成、最終回答と推論プロセスの分離、非構造化データからの構造化データの抽出など、多様なユースケースに使用できます。
価格に関しては、入力価格が100万トークンあたり2.5ドル、出力価格が100万トークンあたり10ドルです。新モデルは入力と出力の両方で節約的であるため、実質的には値下げに相当します。ユーザーの中には、新モデルの出力が前バージョンほど冗長ではなく、コストがより制御しやすいことに気づいた人もいます。