GPT-4o neue Version wurde plötzlich online gestellt, mit umfassenden Verbesserungen der Fähigkeiten und einem direkten Sprung auf den ersten Platz im ZeroEval-Benchmark-Test.
Eingabe und Ausgabe sparen jeweils 50% und 33%, was praktisch einer API-Preissenkung entspricht. Die Token-Ausgabe wurde auf 16k erweitert, zuvor waren 4k unterstützt.
OpenAI hat strukturierte Ausgaben in die API eingeführt, die durch JSON-Schemata sicherstellen, dass die Modellausgabe der von Entwicklern definierten Struktur entspricht, was das Modell zuverlässiger und sicherer macht. Die neueste Version des Modells "GPT-4o-2024-08-06" erzielte 100% in der JSON-Schema-Bewertung, eine deutliche Verbesserung gegenüber 40% der Version vom Juni letzten Jahres.
In Bezug auf Code-Bearbeitung erzielt die neueste Version die gleiche Benchmark-Punktzahl wie die vorherige Version, aber zu halben Kosten. Außerdem ist die neue Version das günstigste Modell von OpenAI für Bildeingaben.
Die API unterstützt strukturierte Ausgaben hauptsächlich in zwei Formen:
- Funktionsaufrufe: Strukturierte Ausgaben werden durch Setzen von strict:true in der Funktionsdefinition aufgerufen.
- Neue Option für den response_format Parameter: Entwickler können JSON-Schemata über json_schema bereitstellen.
OpenAI hat die Python- und Node-SDKs aktualisiert, um lokale strukturierte Ausgabefunktionen zu unterstützen. Strukturierte Ausgaben können auch für verschiedene Anwendungsfälle verwendet werden, wie die dynamische Generierung von Benutzeroberflächen, die Trennung von Endergebnissen und Denkprozessen sowie die Extraktion strukturierter Daten aus unstrukturierten Daten.
Preislich liegt die Eingabe bei 2,5 USD pro Million Token und die Ausgabe bei 10 USD pro Million Token. Da das neue Modell bei Ein- und Ausgabe sparsamer ist, entspricht dies praktisch einer Preissenkung. Benutzer haben festgestellt, dass die Ausgabe des neuen Modells weniger ausführlich ist als die der vorherigen Version, was die Kosten besser kontrollierbar macht.