GPT-4新版本驚喜上線:性能提升價格更優

API 現已支援結構化資料輸出功能。

GPT-4o新版本突然上線,能力全方位提升,在ZeroEval基準測試中直接躍居第一。

輸入和輸出分別節省50%和33%,實際上相當於API降價。token輸出擴展到16k,此前支持4k。

OpenAI在API中引入了結構化輸出,通過JSON模式確保模型輸出符合開發者定義的結構,使模型更可靠安全。最新版模型"GPT-4o-2024-08-06"在JSON模式評估中得分100%,相比去年6月版本的40%有顯著提升。

在代碼編輯方面,最新版本的基準得分與此前版本相同,但成本只有原來的一半。此外,新版本在圖像輸入方面是OpenAI最便宜的型號。

API支持結構化輸出主要有兩種形式:

  1. 函數調用:通過在函數定義中設置strict:true來調用結構化輸出。
  2. response_format參數新選項:開發者可以通過json_schema提供JSON模式。

OpenAI更新了Python和Node SDK,支持本地的結構化輸出功能。結構化輸出還可用於動態生成用戶界面、分離最終答案與推理過程、從非結構化數據中提取結構化數據等多種用例。

價格方面,輸入價格為2.5美元/100萬token,輸出價格為10美元/100萬token。由於新模型在輸入和輸出上更節省,實際上相當於降價。有用戶發現,新模型的輸出沒有上一版本那麼冗長,成本更可控。

參考鏈接