Mistral abre os pesos do Large 4, modelo de 1 trilhão de parâmetros que você pode hospedar

A Mistral liberou os pesos (os números que o modelo aprendeu no treino, que permitem rodá-lo nos seus próprios servidores) do Mistral Large 4, apelidado de Le Chonk. É um modelo multimodal de 1 trilhão de parâmetros, que a empresa descreve como o melhor modelo aberto para código e treinado na Europa. O anúncio está no site da Mistral.

Segundo a newsletter The Neuron, a Mistral diz que o modelo empata com o GLM-5.3 num índice de agentes de código gastando 47% menos tokens por tarefa, aceita texto e imagem, tem três níveis de raciocínio e janela de 1 milhão de tokens. Esses números são da própria Mistral e ainda não foram replicados por terceiros. A licença é uma MIT modificada: uso interno em servidor próprio é permitido, mas vender o modelo como serviço exige licença comercial. E baixar é barato, rodar não: a configuração recomendada divide o modelo em oito GPUs. Leia o resumo da The Neuron.

Por que importa: Para bancos, órgãos públicos e times que não podem enviar código ou dados sensíveis a uma API de terceiros, passa a existir uma opção de porte grande para hospedar por conta própria. Na prática, vale pedir ao time de infraestrutura uma estimativa de custo das oito GPUs antes de se empolgar, e testar o modelo na API da Mistral com as suas tarefas reais antes de decidir.