GPT-4o, la nouvelle version, est soudainement mise en ligne avec des capacités améliorées dans tous les domaines, se classant directement en première position dans le test de référence ZeroEval.
Les entrées et les sorties sont respectivement réduites de 50% et 33%, ce qui équivaut en réalité à une baisse de prix de l'API. La sortie de tokens est étendue à 16k, contre 4k auparavant.
OpenAI a introduit des sorties structurées dans l'API, utilisant des schémas JSON pour garantir que les sorties du modèle correspondent à la structure définie par les développeurs, rendant le modèle plus fiable et sûr. La dernière version du modèle "GPT-4o-2024-08-06" a obtenu un score de 100% dans l'évaluation du schéma JSON, une amélioration significative par rapport aux 40% de la version de juin dernier.
En termes d'édition de code, la dernière version obtient le même score de référence que la précédente, mais à moitié prix. De plus, la nouvelle version est le modèle le moins cher d'OpenAI pour les entrées d'images.
L'API prend en charge les sorties structurées principalement sous deux formes :
- Appels de fonction : en définissant strict:true dans la définition de la fonction pour appeler une sortie structurée.
- Nouvelle option du paramètre response_format : les développeurs peuvent fournir un schéma JSON via json_schema.
OpenAI a mis à jour les SDK Python et Node pour prendre en charge les fonctionnalités de sortie structurée localement. Les sorties structurées peuvent également être utilisées pour générer dynamiquement des interfaces utilisateur, séparer les réponses finales des processus de raisonnement, extraire des données structurées à partir de données non structurées, et bien d'autres cas d'utilisation.
En termes de prix, le coût d'entrée est de 2,5 $ par million de tokens, et le coût de sortie est de 10 $ par million de tokens. Comme le nouveau modèle est plus économe en entrée et en sortie, cela équivaut en réalité à une baisse de prix. Certains utilisateurs ont constaté que les sorties du nouveau modèle sont moins verbeuses que la version précédente, rendant les coûts plus contrôlables.