CArouter sélectionné pour l'OVHcloud Startup Program

CArouter a été sélectionné pour l'OVHcloud Startup Program, qui offre aux jeunes entreprises des crédits infonuagiques et un accompagnement technique.

OVHcloud exploite des centres de données au Canada et en Europe, et son service AI Endpoints compte déjà parmi les fournisseurs de notre plateforme.

OVHcloud sur notre plateforme

OVHcloud AI Endpoints sert des modèles à poids ouverts depuis Gravelines, en France, et il est désactivé par défaut. Un espace de travail qui accepte un traitement en Europe l'active dans ses paramètres.

Le routage reste le même

Les requêtes sont routées exactement comme avant. Le programme soutient CArouter en tant que jeune entreprise, à côté de nos ententes avec les fournisseurs : OVHcloud garde donc la même place dans l'ordre de routage.

OVHcloud est soumis aux mêmes règles que tous les fournisseurs. Par défaut, une offre servie au Canada par un fournisseur canadien passe avant toute offre étrangère, et une requête dont toutes les offres canadiennes échouent est refusée plutôt qu'envoyée en Europe. Une clé d'API modifie cet ordre seulement si elle accepte les fournisseurs étrangers.

À quoi serviront les crédits

Les crédits iront à la mesure. La plupart des résultats publiés sur ce blog viennent d'un GB10 ou de cartes Intel Arc Pro B60. Des instances GPU nous permettront d'évaluer les modèles à poids ouverts sur des cartes de centre de données avant de les tarifer et de les publier. Les résultats paraîtront ici, protocole compris.

Nous utiliserons aussi les GPU d'OVHcloud au Canada pour absorber les pics de demande sur CArouter Cloud. Quand le trafic dépasse ce que nos propres machines peuvent servir, nous ajoutons de la capacité dans les centres de données canadiens d'OVHcloud, et ces requêtes restent servies au Canada.

Merci à l'équipe de l'OVHcloud Startup Program pour son accueil. La documentation présente chaque fournisseur de notre plateforme, OVHcloud AI Endpoints compris, et ce qu'il garantit aujourd'hui.