Anthropic desenvolve o FlashProve para provar qual modelo gerou uma resposta

A Anthropic divulgou uma pesquisa sobre o FlashProve, sistema de código aberto em desenvolvimento que permitiria verificar, com uma prova criptográfica, se uma resposta veio de um modelo específico, segundo o TechCrunch. Uma prova criptográfica é uma garantia matemática. A ideia é evitar, por exemplo, que um laboratório troque em segredo um modelo por outro mais barato para cortar custos, ou use um mais caro para inflar resultados de testes.

Para funcionar, os laboratórios precisariam publicar uma impressão digital de cada modelo, que depois seria conferida contra as respostas. Essa impressão não revela os pesos (os números internos que definem o comportamento do modelo), então dá para usar com modelos comerciais. A Anthropic liberou a especificação técnica e código no GitHub, mas diz que é um resultado intermediário e que não há planos de implantá-lo em nenhum laboratório.

Por que importa: Não há nada para instalar hoje. O recado para quem compra IA é que, por enquanto, você confia no fornecedor quando ele diz qual modelo atende o seu pedido. Em contratos, vale pedir cláusula que especifique o modelo e a versão, e guardar testes próprios de qualidade para notar se algo piorou.