PrismML lança Bonsai: modelo 1-bit que comprime 8B parâmetros em 1,15 GB

A startup PrismML, nascida do Caltech, saiu do stealth com o primeiro modelo de linguagem 1-bit comercialmente viável. O Bonsai 8B representa cada peso apenas pelo seu sinal ({−1, +1}), reduzindo o modelo para 1,15 GB — 14 vezes menor que equivalentes em FP16 — enquanto mantém performance competitiva. No iPhone 17 Pro Max, roda a 44 tokens por segundo. Os modelos são open source sob Apache 2.0.