# Qwen3.6 35B-A3B est maintenant 1,5 fois plus rapide sur CARouter Cloud

> Notre modèle de programmation est livré avec un assistant intégré qui rédige les prochains tokens pour que le modèle principal les vérifie. Nous l'avons activé avec une ligne de configuration : 115 tokens par seconde pour un utilisateur au lieu de 75, et 479 au lieu de 342 avec seize requêtes à la fois, sur le même DGX Spark.

- Publié : 2026-10-02
- Auteur : Flavien Berwick
- Catégorie : Produit
- Page web : https://carouter.ai/fr/blog/qwen3-6-mtp-head-one-and-a-half-times-faster
- En anglais : https://carouter.ai/blog/qwen3-6-mtp-head-one-and-a-half-times-faster.md
- Traduit de l'anglais par une IA.

![Plus rapide maintenant : Qwen3.6 35B-A3B est maintenant 1,5 fois plus rapide sur CARouter Cloud. Une requête : 115 tokens par seconde, 75 avant. Seize à la fois : 479, 342 avant. Une longue réponse de code : 41 secondes, 63 avant. Coût : 2,3 Gio de mémoire.](https://carouter.ai/blog/qwen3-6-mtp-head-one-and-a-half-times-faster/illustration.png)

Il y a cinq semaines, nous avons mis un modèle plus rapide derrière le point d'accès de code de CARouter Cloud. Il contenait une fonction d'accélération que nous n'avions pas activée. C'est fait : le même modèle, sur la même machine, au même prix, écrit environ une fois et demie plus vite. Il a suffi d'une ligne de configuration.

[L'article précédent : pourquoi nous servons désormais Qwen3.6 35B-A3B plutôt que Qwen3.8 27B.](https://carouter.ai/fr/blog/qwen3-6-35b-a3b-instead-of-qwen3-8-27b)

## En bref

- **Ce que voit un client.** 115 tokens par seconde au lieu de 75. Une longue réponse de code arrive en 41 secondes au lieu de 63.
- **Ce que nous avons changé.** Une ligne. Elle active un petit assistant déjà présent dans le fichier du modèle, qui rédige les trois prochains tokens pour que le modèle principal les vérifie.
- **Quand la machine est occupée.** Avec seize requêtes à la fois, 479 tokens par seconde au total au lieu de 342.
- **Ce que ça coûte.** 2,3 Gio de mémoire sur 121. Aucun nouveau matériel, aucun nouveau téléchargement.
- **Comment nous l'avons testé.** Sur une machine identique louée, pour 1,03 dollar américain. La production a redémarré une seule fois, pendant six minutes.

## Un assistant qui rédige, un modèle qui vérifie

Un modèle de langage écrit un token à la fois, un token étant un mot ou un morceau de mot. Chaque token coûte un passage complet du modèle.

Avec le décodage spéculatif, un petit assistant rédige les quelques tokens suivants et le grand modèle les vérifie tous en un seul passage. Il garde ceux avec lesquels il est d'accord et réécrit le premier qui ne lui convient pas. Le grand modèle a le dernier mot sur chaque token : l'assistant fait gagner du temps sans faire baisser la qualité.

Qwen3.6 35B-A3B est livré avec un tel assistant dans son propre fichier, appelé tête de prédiction multi-tokens. Il nous avait échappé quand nous avons évalué le modèle en août.

## Ce que nous avons mesuré

Même machine, même fichier de modèle, même budget de mémoire. Nous avons mesuré, redémarré le point d'accès une fois avec l'assistant activé, puis mesuré de nouveau le même soir.

![Tokens écrits par seconde sur un DGX Spark, avec et sans l'assistant : 115 contre 75 pour une requête, 479 contre 342 pour seize.](https://carouter.ai/blog/qwen3-6-mtp-head-one-and-a-half-times-faster/01-decode-by-streams.png)

L'assistant rédige trois tokens à la fois, et environ sept sur dix sont acceptés. Chaque passage produit environ trois tokens au lieu d'un et coûte environ deux fois plus cher : cela donne une fois et demie plus vite.

Le gain est de 1,53 fois pour un utilisateur et de 1,40 fois pour seize. Dans tout ce que nous avons mesuré, il reste entre 1,35 et 1,58 fois.

## Ce que cela change pour la personne qui attend

![Secondes avant que la réponse soit complète, sans l'assistant et avec lui : 63 et 41 pour une longue réponse de code.](https://carouter.ai/blog/qwen3-6-mtp-head-one-and-a-half-times-faster/02-seconds-to-answer.png)

Une réponse courte arrive deux secondes plus tôt, une longue réponse de code vingt-deux secondes plus tôt. Quand huit personnes utilisent le point d'accès, chacune reçoit cette longue réponse en 99 secondes au lieu de 145.

Un agent de programmation appelle le modèle des centaines de fois pour une seule tâche. Un tiers d'attente en moins à chaque appel, cela finit par compter.

## Ce que ça coûte

Le point d'accès occupe 2,3 Gio de mémoire de plus, que la machine avait en réserve. La lecture du prompt est 1 % plus lente.

Il retient aussi un peu moins de conversation à la fois : 4,8 conversations de longueur maximale au lieu de 5,5. Notre trafic est bien en dessous, et nous n'avons changé aucune limite.

## Comment nous l'avons testé sans rien éteindre

Chaque redémarrage du point d'accès de code représente six minutes pendant lesquelles il ne répond à personne. Essayer chaque réglage en production en aurait demandé quatre.

Nous avons donc loué à l'heure une machine dotée de la même puce, et nous y avons fait tourner notre propre logiciel sans rien changer. Nous avons essayé l'assistant avec un, deux et trois tokens. Trois l'a emporté, et la soirée a coûté 1,03 dollar américain.

![Gain de vitesse du point d'accès avec l'assistant, sur la machine louée et sur la nôtre : entre 1,40 et 1,62 fois sur les deux.](https://carouter.ai/blog/qwen3-6-mtp-head-one-and-a-half-times-faster/03-rehearsal-predicted-production.png)

Nous avons ensuite changé une ligne en production et redémarré une seule fois. La machine louée avait prédit le résultat à quelques pour cent près.

## Ce que nous ne pouvons pas vous dire

Nous n'avons pas refait le banc d'essai de programmation. Le grand modèle décide toujours de chaque token, et nous avons vérifié que la conversation, le raisonnement, les appels d'outils et les images fonctionnent encore.

Nous ne pouvons pas montrer deux réponses identiques. Même en supprimant tout hasard, ce logiciel ne se répète pas toujours, avec l'assistant ou sans lui. Nous n'avons trouvé aucune différence causée par l'assistant, et nous ne pouvons pas prouver qu'il n'y en a aucune.

Il reste une option plus rapide : une routine de calcul écrite pour cette puce. Elle a des défauts ouverts dans le logiciel dont nous dépendons, et nous ne l'utilisons donc pas.

## Ce qui tourne maintenant

Qwen3.6 35B-A3B avec son assistant de prédiction, sur le même GB10, sous le même nom, qwen3.6-35b-a3b, au même prix. Le contexte, les images, les outils et le raisonnement sont inchangés.

---

Autres articles : [Blog CARouter](https://carouter.ai/fr/blog.md). Ce qu'est CARouter et comment l'appeler : [llms.txt](https://carouter.ai/llms.txt).
