A empresa francesa de IA Mistral lançou seu novo modelo flagship Large 2 em 24 de julho, logo após o lançamento do Llama 3.1 pela Meta.
A Mistral AI foi fundada em junho de 2023 e é uma das empresas de IA mais bem financiadas e competitivas da Europa. Seus membros principais vêm de instituições de IA de ponta como o Google DeepMind, e o co-fundador Mensch é autor de artigos sobre grandes modelos como o Chinchilla, propondo tecnologias fundamentais incluindo as Leis de Escala.
A empresa recebeu um financiamento de 105 milhões de euros apenas 4 semanas após sua fundação, focando no desenvolvimento de grandes modelos de código aberto. Em dezembro de 2023, a Mistral lançou o modelo de código aberto Mistral 8x7B, com 56 bilhões de parâmetros, comparável em eficiência e desempenho ao LLaMA-65B. A empresa também lançou um assistente de conversação multilíngue chamado Le Chat.
O modelo Large 2 usa 123 bilhões de parâmetros, cerca de um terço dos 405 bilhões do Llama 3.1, mas supera este último em geração de código, matemática e capacidade de raciocínio. O Large 2 é mais conciso na geração de respostas, evitando descrições prolixas, oferecendo vantagens de custo e velocidade de execução local mais rápida.
Embora o Large 2 não tenha capacidades multimodais, é comparável ao Llama em precisão e confiabilidade nas respostas de diálogo. O processo de treinamento do modelo focou em resolver problemas de alucinação e melhorou em aspectos como seguir instruções e diálogos de múltiplas rodadas.
O Large 2 tem um comprimento de contexto de 128k e suporta vários idiomas e 80 linguagens de programação. O modelo está disponível nas plataformas Google, Amazon, Azure e IBM, e os usuários podem experimentá-lo na La Plateforme da Mistral ou testá-lo gratuitamente no Le Chat.
A Mistral concluiu uma rodada de financiamento Série B em junho deste ano, arrecadando 640 milhões de dólares com uma avaliação de 6 bilhões de dólares. A empresa tem atualmente cerca de 60 funcionários, a maioria dos quais trabalha em desenvolvimento de produtos e pesquisa.