Meta a publié son modèle open source le plus puissant à ce jour, Llama 3.1 405B, qui prend en charge une longueur de contexte de 128K tokens et a été entraîné sur 15 billions de tokens. Les modèles Llama ont été téléchargés plus de 300 millions de fois, avec des performances comparables aux meilleurs modèles comme GPT-4.
Cette initiative de Meta est considérée comme un tournant dans la bataille entre l'open source et le closed source. Zuckerberg souligne l'importance de l'IA open source, estimant qu'elle deviendra la norme de l'industrie. Contrairement à OpenAI qui garde secrets les détails techniques, Meta a publié des articles techniques détaillés.
En réponse, OpenAI a lancé une version mini de GPT-4o à bas prix. Cela marque une escalade de la guerre des prix de l'IA dans la Silicon Valley, avec de nombreuses grandes entreprises lançant des modèles moins chers que GPT-4.
Les petits modèles deviennent un outil pour les entreprises d'IA pour réduire les coûts et augmenter l'efficacité. Ils sont plus rapides pour les tâches simples, nécessitent moins de stockage et d'énergie, et sont moins chers. Pour les utilisateurs ordinaires, les petits modèles sont une alternative abordable aux grands modèles, offrant un bon rapport qualité-prix.
Les bas prix résultent de la réduction des coûts. En réduisant considérablement le coût d'utilisation de l'IA, des entreprises comme OpenAI espèrent élargir l'utilisation de l'IA. Les petits modèles pourraient devenir une nouvelle tendance dans le domaine de l'IA.