# Benchmark du modèle Edge0-120B : vitesse et qualité > Edge0 a fait tenir Qwen3.8-Flash-Next sur un GPU. Sur un GB10, il écrit deux fois plus vite que l'original, et code à peu près aussi bien. - Publié : 2026-11-13 - Auteur : Flavien Berwick - Catégorie : Recherche - Page web : https://carouter.ai/fr/blog/edge0-120b-model-benchmark-speed-and-quality - En anglais : https://carouter.ai/blog/edge0-120b-model-benchmark-speed-and-quality.md - Traduit de l'anglais par une IA. ![Recherche : Edge0-120B, vitesse et qualité, face à Qwen3.8-Flash-Next, le modèle dont il est issu, sur un GB10. Une requête : 40 tokens par seconde contre 21. Huit requêtes : 77 contre 88. Problèmes de code résolus : 28 sur 50 contre 29. Poids face aux 121.6 Gio de mémoire du GB10 : Qwen3.8-Flash-Next 125.9 Gio, plus que la machine ; Edge0-120B 39.3 Gio sur le GPU plus 47.7 lus sur le SSD.](https://carouter.ai/blog/edge0-120b-model-benchmark-speed-and-quality/illustration.png) Edge0 a publié Edge0-120B le 11 novembre. C'est Qwen3.8-Flash-Next, le modèle de Qwen qui ne tenait pas sur notre serveur GB10 en août, avec ses experts reconstruits à la moitié de leur largeur et stockés à 4 bits, pour que le modèle tienne sur un seul GPU. Edge0-120B ne tourne que sur le moteur d'inférence d'Edge0. Nous avons compilé ce moteur sur un GB10 loué, la puce du DGX Spark et de notre propre serveur, et mesuré la vitesse du modèle sur cette puce et sur une RTX PRO 6000 Blackwell, une carte de station de travail de 96 Go. Nous avons ensuite lancé nos cinq tests de qualité. [Le modèle dont il est issu : Qwen3.8-Flash-Next sur le DGX Spark de CArouter, de meilleures réponses pour 10 fois plus d'attente.](https://carouter.ai/fr/blog/qwen3-8-flash-next-ten-times-the-wait) ## En bref - **Mémoire.** Il tient. Le GPU garde 39 Gio de poids, et une table de correspondance de 48 Gio reste sur le SSD. Qwen3.8-Flash-Next occupait la machine entière. - **Une requête.** 40 tokens par seconde sur un GB10, contre 21 pour Qwen3.8-Flash-Next sur la même puce, et 119 sur une RTX PRO 6000. - **Plusieurs requêtes.** Le moteur d'Edge0 répond à une requête à la fois, sauf si on lui donne des emplacements. Avec 8 emplacements, il écrit 77 tokens par seconde au total sur un GB10, là où Qwen3.8-Flash-Next en écrivait 88. - **Qualité.** Il code aussi bien que Qwen3.8-Flash-Next, 28 problèmes sur 50 contre 29. Sur nos quatre autres tests, il fait au mieux jeu égal avec Qwen3.8-27B, un modèle plus petit qui tient sur la même puce, et il écrit 28 % de tokens de plus. - **Licence.** La recherche et les benchmarks sont permis. L'exploiter comme service commercial demande une licence écrite distincte d'Edge0. ## Des experts à mi-largeur Qwen3.8-Flash-Next est un mélange d'experts : chacune de ses 48 couches contient 512 petits réseaux, et chaque token passe par 10 d'entre eux plus un expert partagé. Les experts représentent 121 milliards de ses paramètres, et une table de correspondance de suites de mots 51 milliards de plus. Edge0 a gardé le routage, l'attention et la table de correspondance, et reconstruit chaque expert pour travailler sur une largeur de 1 280 au lieu de 2 560. Une projection partagée par un groupe d'experts rétrécit chaque token avant eux et l'élargit après. Les experts tombent à 60 milliards de paramètres, 31.6 Gio à 4 bits. Edge0 stocke aussi les couches autour des experts à 8 bits, là où chaque version de l'original les gardait à 16. Écrire un token lit désormais environ 7 Go en mémoire au lieu de 9.8, et c'est de là que vient l'essentiel du gain de vitesse. Edge0 indique que le modèle a été entraîné à 4 bits dès le départ. Il ne publie aucune recette d'entraînement. ## Vitesse sur un GB10 ![Tokens écrits par seconde sur un GB10, toutes requêtes confondues, à 1, 2, 4, 8 et 16 requêtes. Edge0-120B avec 8 emplacements : 40, 41, 62, 77 et 79. Qwen3.8-Flash-Next : 21, 39, 54, 88 et 130.](https://carouter.ai/blog/edge0-120b-model-benchmark-speed-and-quality/01-speed-on-a-gb10.png) Une requête seule écrit 40 tokens par seconde, la moyenne de trois mesures, et 39 avec 4 000 tokens de contexte. Qwen3.8-Flash-Next en écrivait 21.3 sur la même puce en août, avec une version modifiée de vLLM qui lisait sa table de correspondance sur le SSD. Edge0 annonce 45 tokens par seconde en conversation et 69 en travail d'agent sur une RTX Spark N1X. Notre sonde demande un long morceau de code, raisonnement activé, et compte chaque token écrit pendant 40 secondes. Par défaut, le moteur sert une requête à la fois : quand deux arrivent ensemble, la seconde attend que la première soit finie. Le moteur peut aussi décoder plusieurs requêtes ensemble dans des emplacements, une option qu'Edge0 laisse désactivée. Avec 8 emplacements, le total atteint 62 tokens par seconde pour 4 requêtes et 77 pour 8, et une neuvième requête attend qu'un emplacement se libère. Avec beaucoup de requêtes, l'ordre s'inverse. Qwen3.8-Flash-Next, sur vLLM, écrivait 88 tokens par seconde au total pour 8 requêtes et 130 pour 16, là où Edge0-120B plafonne à 77 et 79. Edge0-120B est conçu pour un utilisateur à son bureau. Le moteur lit un prompt à environ 1 400 tokens par seconde : un prompt de 12 000 tokens attend donc 8 secondes son premier token. Qwen3.8-Flash-Next en lisait de 1 400 à 1 800 par seconde sur la même puce. La mémoire laisse de la place. Avec une requête, le moteur occupe environ 43 Gio des 121.6 Gio du GB10, et environ 58 Gio avec 8 emplacements, pendant que la table de correspondance est lue sur le SSD au besoin. Qwen3.8-Flash-Next occupait la machine entière. Sur une RTX PRO 6000, qui garde tous les experts dans ses 96 Go, une requête écrit 119 tokens par seconde et 8 emplacements 229 au total, et un prompt se lit à environ 4 400 tokens par seconde. Edge0 annonce 125 en conversation sur une RTX 5090 D. ## Qualité ![Part de chaque test réussie, Edge0-120B puis Qwen3.8-27B : code 56 % et 58 %, respect des consignes 89 % et 94 %, appels d'outils 76 % et 80 %, questions de science 79 % et 81 %, retrouver un fait dans un long texte 100 % et 100 %.](https://carouter.ai/blog/edge0-120b-model-benchmark-speed-and-quality/02-five-tests.png) Nous avons lancé nos cinq tests avec les mêmes prompts que pour chaque modèle mesuré, et chaque réponse pouvait utiliser jusqu'à 32 768 tokens, 8 192 pour le test de texte long. Qwen3.8-Flash-Next n'avait passé que le test de code, en août : sur les cinq, nous comparons donc Edge0-120B à Qwen3.8-27B, un modèle dense auquel Edge0 se compare aussi. Les questions de science sont serrées. Sur GPQA Diamond, Edge0-120B a bien répondu à 156 questions sur 198 et Qwen3.8-27B à 160, un écart qui reste dans le hasard. Edge0-120B raisonne longuement, 13 900 tokens par question de science en moyenne. Le moteur a clos son raisonnement à 24 576 tokens sur 71 questions, et 37 de ces réponses étaient justes, contre 119 des 127 qu'il a terminées de lui-même. Edge0 annonce 87.4 sur ce test, avec des réglages que sa fiche ne précise pas, et c'est avec une limite de tokens plus large que cet écart a le plus de chances de se combler. Les consignes montrent l'écart le plus net. Sur les 541 prompts d'IFEval, Edge0-120B a suivi toutes les consignes de 483 et Qwen3.8-27B de 508, un écart trop large pour le hasard. Les appels d'outils sont aussi en retrait. Sur 500 requêtes BFCL, Edge0-120B a fait le bon appel 382 fois et Qwen3.8-27B 402, un écart au-delà du hasard. La moitié vient de requêtes où aucun outil ne convient : Edge0-120B en a appelé un quand même. Le code est au niveau de l'original. Sur 50 problèmes BigCodeBench, Edge0-120B en a résolu 28, Qwen3.8-Flash-Next 29 sur notre GB10 en août, et Qwen3.8-27B 29. Qwen3.8-Flash-Next avait manqué de tokens sur 10 d'entre eux, Edge0-120B sur aucun. Les trois modèles ont trouvé une phrase cachée dans des documents de 16 000 à 100 000 tokens, 12 fois sur 12. ## Ce qu'une réponse coûte en temps Sur un GB10, le temps jusqu'à la réponse complète, c'est le nombre de tokens écrits divisé par la vitesse. Une réponse de code d'Edge0-120B fait en moyenne 15 350 tokens et prend 6 minutes 21 secondes, là où Qwen3.8-Flash-Next en écrivait 16 751 deux fois moins vite et prenait 13 minutes. Une réponse de science prend 5 minutes 45 secondes sur le GB10, et moins de 2 minutes sur une RTX PRO 6000. Sur les cinq tests, Edge0-120B a écrit 5.55 millions de tokens, raisonnement compris, contre 4.33 millions pour Qwen3.8-27B. ## Notre méthode Edge0-120B est publié sous forme de fichiers que seul le moteur d'Edge0 sait lire : edge0-strata, une variante du moteur Strata. Notre fonction de benchmark sert les modèles avec vLLM ; nous avons donc compilé le moteur nous-mêmes depuis le dépôt d'Edge0, à sa version du 12 novembre, et lancé les tests à la main sur des machines louées. Nous avons démarré le moteur avec les réglages du lanceur d'Edge0, y compris son décodage spéculatif : la couche de brouillon du modèle propose 4 tokens à la fois. L'échantillonnage est celui du moteur pour ce modèle, température 1.0, top-p 0.95 et top-k 20, les valeurs que nous avions utilisées pour Qwen3.8-27B. Le raisonnement tournait à l'effort par défaut, le plus élevé. Le moteur clôt le raisonnement aux trois quarts de la limite de tokens, pour qu'une réponse ait toujours de la place. Avec notre limite de 32 768 tokens, Edge0-120B raisonne au plus 24 576 tokens. Qwen3.8-27B et Qwen3.8-Flash-Next tournaient sur des moteurs sans cette règle, où une réponse encore en train de raisonner à la limite vaut zéro. Sur la RTX PRO 6000, qui garde tous les experts à la fois, le moteur se figeait dès le premier token. Les notes d'Edge0 décrivent le même blocage sur une autre puce et le réglage qui désactive ce chemin ; avec lui, tout a tourné. La vitesse vient d'un GB10 et d'une RTX PRO 6000, le modèle seul sur chacun. Les tests de qualité ont tourné avec 8 emplacements sur le GB10 (appels d'outils, documents longs) et sur trois cartes RTX PRO 6000 (le reste), et un score ne dépend pas de la carte. La sonde de vitesse maintient de 1 à 16 requêtes pendant 40 secondes après 20 secondes de mise en route, et compte chaque token écrit dans cette fenêtre. Les chiffres figurent aussi sur notre page Benchmarks, à côté de tous les autres modèles que nous avons mesurés. [Voir les benchmarks.](https://carouter.ai/benchmarks) ## Ce qui reste à mesurer - Une limite de tokens plus large. Sur les questions de science, Edge0-120B a raisonné au-delà de notre budget plus d'une fois sur trois, et Edge0 annonce 87.4 sur GPQA Diamond avec ses propres réglages. - Le travail d'agent. Edge0 annonce 75.3 sur Terminal-Bench 2.1, que nous n'avons pas lancé. - Edge0-145B. Edge0 publie un modèle frère plus grand, lui aussi conçu pour un seul GPU. - Une licence commerciale. Servir Edge0-120B sur CArouter demanderait l'autorisation écrite d'Edge0. --- Autres articles : [Blog CArouter](https://carouter.ai/fr/blog.md). Ce qu'est CArouter et comment l'appeler : [llms.txt](https://carouter.ai/llms.txt).