GPT-4o, nova versão lançada repentinamente, com capacidades aprimoradas em todas as áreas, saltando diretamente para o primeiro lugar no benchmark ZeroEval.
Economia de 50% na entrada e 33% na saída, efetivamente equivalente a uma redução de preço da API. A saída de tokens foi expandida para 16k, anteriormente suportava 4k.
A OpenAI introduziu saída estruturada na API, garantindo que a saída do modelo esteja em conformidade com a estrutura definida pelos desenvolvedores através de esquemas JSON, tornando o modelo mais confiável e seguro. A versão mais recente do modelo "GPT-4o-2024-08-06" obteve uma pontuação de 100% na avaliação do esquema JSON, uma melhoria significativa em comparação com os 40% da versão de junho do ano passado.
Em termos de edição de código, a versão mais recente obteve a mesma pontuação de referência que a versão anterior, mas com metade do custo. Além disso, a nova versão é o modelo mais barato da OpenAI para entrada de imagens.
A API suporta saída estruturada principalmente de duas formas:
- Chamadas de função: ativando a saída estruturada definindo strict:true na definição da função.
- Nova opção de parâmetro response_format: os desenvolvedores podem fornecer um esquema JSON através de json_schema.
A OpenAI atualizou os SDKs Python e Node para suportar funcionalidades de saída estruturada localmente. A saída estruturada também pode ser usada para gerar interfaces de usuário dinamicamente, separar respostas finais de processos de raciocínio, extrair dados estruturados de dados não estruturados, entre outros casos de uso.
Em termos de preços, o custo de entrada é de $2,5 por milhão de tokens, e o custo de saída é de $10 por milhão de tokens. Como o novo modelo é mais econômico em entrada e saída, efetivamente equivale a uma redução de preço. Alguns usuários notaram que a saída do novo modelo não é tão verbosa quanto a versão anterior, tornando os custos mais controláveis.