PrismML compresse un modèle IA de 27 milliards de paramètres à 5,9 Go sans perdre en performance

La start-up PrismML a lancé le 17 septembre 2026 Bonsai 2 27B, un modèle d'intelligence artificielle basé sur Qwen3.8 27B et compressé par quantification ternaire, réduisant son empreinte mémoire à 5,9 Go tout en conservant l'essentiel de ses capacités.

Une quantification ternaire qui divise la taille du modèle par neuf

La technique de compression employée réduit chaque paramètre du modèle à seulement trois valeurs possibles (-1, 0, +1), ce qui permet de diviser par neuf l'empreinte mémoire par rapport à la version en pleine précision.

98,2 % des performances conservées sur 20 bancs d'essai

Sur un ensemble de 20 bancs d'essai couvrant le raisonnement, les mathématiques, la programmation, le suivi d'instructions, la vision et l'usage d'outils, Bonsai 2 27B obtient un score agrégé de 83,9 contre 85,4 pour le modèle original — un écart de moins de deux points malgré une taille neuf fois plus petite.

Jusqu'à 143 tokens par seconde sur une carte graphique grand public

PrismML revendique une vitesse de génération allant jusqu'à 143 tokens par seconde sur une carte graphique Nvidia GeForce RTX 5090, tout en restant utilisable sur des processeurs grand public et des GPU embarqués moins puissants.

Gratuit sous licence Apache 2.0 dès le 17 septembre

Le modèle est disponible en téléchargement gratuit sous licence open source Apache 2.0 depuis son annonce, ce qui autorise un usage commercial sans redevance, contrairement à de nombreux modèles compressés concurrents publiés sous des licences plus restrictives.

Notre avis

Le directeur général de PrismML, Babak Hassibi, résume bien l'enjeu en affirmant que « les modèles puissants n'ont pas besoin de dépendre de l'infrastructure cloud » — une promesse déjà tenue une première fois avec le Bonsai 27B original, et confirmée ici par un gain de capacités sans sacrifier la portabilité.

Sources

• Communiqué PR Newswire