Un modèle d’IA de 8 milliards de paramètres qui tient dans 1,15 Go de mémoire. C’est la promesse de 1-Bit Bonsai, le premier LLM 1-bit commercialement viable, lancé par la startup PrismML. Une avancée qui pourrait démocratiser l’IA locale sur smartphone.
Qu’est-ce qu’un LLM 1-bit ?
Les modèles d’IA classiques utilisent 16 bits pour stocker chaque paramètre. Bonsai 8B utilise 1 seul bit. Résultat : le même modèle de 8 milliards de paramètres passe de 16 Go à 1,15 Go. C’est 14 fois plus petit.
Et contrairement aux techniques de compression classiques qui dégradent la qualité, Bonsai n’est pas un modèle compressé après coup. C’est un modèle nativement conçu en 1-bit, de bout en bout : embeddings, couches d’attention, MLP, tout est en 1-bit.
Des performances qui défient la logique
PrismML introduit le concept de « densité d’intelligence » : la quantité d’intelligence utile par Go de mémoire. Sur cette métrique, Bonsai 8B atteint 1,06/Go, contre 0,10/Go pour Qwen3 8B. C’est 10 fois plus d’intelligence par Go.
Sur les benchmarks standards, Bonsai reste compétitif avec les meilleurs modèles 8B, mais dans un format 14 fois plus petit. La startup est issue de recherches menées à Caltech et a levé 16,25 millions de dollars.
Ce que ça change pour vous
IA sur smartphone : Un modèle de 1,15 Go tourne sur n’importe quel téléphone récent. Plus besoin de connexion internet ni de serveurs cloud pour avoir une IA performante.
Vie privée : Si l’IA tourne localement, vos données ne quittent jamais votre appareil. C’est un argument massif pour les entreprises soucieuses de confidentialité.
Coûts : Pas de GPU cloud à payer. L’inférence locale coûte essentiellement zéro. Pour les startups et développeurs, c’est un game-changer.
Notre avis
C’est potentiellement l’avancée la plus importante de 2026 pour l’IA accessible. Pendant que tout le monde se bat pour des GPU toujours plus gros, PrismML prend le problème à l’envers : rendre l’IA si petite qu’elle n’a plus besoin de GPU du tout. Si la qualité tient ses promesses en production, c’est révolutionnaire.