Blog

CARouter rejoint Denvr AI Ascend : des crédits infonuagiques pour mesurer les performances sur du matériel canadien

CARouter rejoint Denvr AI Ascend, le programme de démarrage d'un fournisseur infonuagique canadien qui exploite ses propres GPU à Calgary. Les crédits serviront à mesurer les modèles sur du matériel de centre de données, et ces mesures nourriront le routeur. Denvr loue des GPU à l'heure et n'offre pas de point d'accès d'inférence : rien ne change donc sur la plateforme.

PartenariatsPar Flavien BerwickTraduit de l'anglais par une IA.
CARouter.ai admis dans le programme de démarrage de Denvr. Denvr Dataworks est un fournisseur infonuagique souverain de l'Alberta. Les crédits soutiendront le développement du produit.

CARouter a été admis dans Denvr AI Ascend, le programme de démarrage de Denvr Dataworks.

Denvr est un fournisseur infonuagique souverain de l'Alberta : une entreprise canadienne qui exploite ses propres grappes de GPU à Calgary. C'est exactement ce que nous exigeons de chaque fournisseur présent sur notre plateforme. Le choix allait de soi.

Ce qu'est Denvr

Denvr répond aux deux questions que nous posons à tout fournisseur : qui possède l'entreprise, et où se trouvent les machines.

Denvr nous a dit en août ce qu'il vend : des GPU à l'heure, sans API d'inférence. Les points d'accès hébergés ne sont pas à leur feuille de route cette année, et Denvr ne figure donc pas parmi les fournisseurs listés sur notre page de documentation.

Cette annonce n'y change rien. Aucune requête passant par notre plateforme ne tourne chez Denvr. Un programme de démarrage n'est pas une entente de partenariat. Ce sont des crédits, et des crédits achètent du temps de machine.

À quoi servira ce temps de machine

Jusqu'ici, tout ce que nous avons publié sur ce blog a été mesuré sur une seule machine de bureau, celle de classe DGX Spark qui fait tourner CARouter Cloud. Elle nous apprend beaucoup sur les petits modèles en mémoire unifiée, et rien sur les serveurs de classe H100 qu'exploitent réellement les fournisseurs canadiens.

Les crédits iront donc à la mesure. Trois chantiers :

  • Des modèles à poids ouverts sur du matériel canadien. Les mêmes tests de débit, la même évaluation comparative de code et les mêmes essais de contexte long que sur le Spark, cette fois sur des GPU de centre de données à Calgary.
  • Des chiffres utiles au routeur. Aujourd'hui, les candidats sont classés par résidence, puis par priorité, puis par prix. Le routeur ne sait rien du comportement d'une offre sous charge. Mesurer la latence et le débit de chaque modèle, c'est ce qui transforme cette règle en décision éclairée.
  • Publié ici, erreurs comprises. Chaque campagne de mesures deviendra un article : le protocole, les graphiques tirés des mêmes chiffres, les réserves. Une mesure que personne ne peut reproduire n'est qu'un argument marketing.

Ce que nous ne promettons pas

Il existe une seule façon pour du matériel Denvr de servir un jour le trafic de nos clients : que CARouter Cloud fasse tourner sa propre pile de service sur des GPU loués à Calgary. Du matériel canadien, dans un centre de données canadien, exploité par nous. Chaque engagement de notre plateforme tiendrait.

Notre étude de capacité prévoit d'ailleurs un nœud Denvr réservé comme solution de repli, si le matériel que nous comptons acheter ne tient pas ses promesses. Nous le notons par souci de transparence. Ce n'est pas un projet en cours, et ce programme ne le finance pas. Denvr restera absent de la page de documentation tant que rien de concret n'aura changé.

Merci à l'équipe de Denvr pour son accueil. La documentation présente chaque fournisseur de notre plateforme et ce qu'il garantit aujourd'hui.