GPT-4o新版本突然上线,能力全面提升,在ZeroEval基准测试中直接跃居第一。
输入和输出分别节省50%和33%,实际上相当于API降价。token输出扩展到16k,此前支持4k。
OpenAI在API中引入了结构化输出,通过JSON模式确保模型输出符合开发者定义的结构,使模型更可靠安全。最新版模型"GPT-4o-2024-08-06"在JSON模式评估中得分100%,相比去年6月版本的40%有显著提升。
在代码编辑方面,最新版本的基准得分与此前版本相同,但成本只有原来的一半。此外,新版本在图像输入方面是OpenAI最便宜的型号。
API支持结构化输出主要有两种形式:
- 函数调用:通过在函数定义中设置strict:true来调用结构化输出。
- response_format参数新选项:开发者可以通过json_schema提供JSON模式。
OpenAI更新了Python和Node SDK,支持本地的结构化输出功能。结构化输出还可用于动态生成用户界面、分离最终答案与推理过程、从非结构化数据中提取结构化数据等多种用例。
价格方面,输入价格为2.5美元/100万token,输出价格为10美元/100万token。由于新模型在输入和输出上更节省,实际上相当于降价。有用户发现,新模型的输出没有上一版本那么冗长,成本更可控。