VPS, Vast.ai, RunPod : où faire tourner ses modèles ?

Vous voulez la puissance d'un GPU sans l'acheter ? C'est aujourd'hui possible, et même recommandé pour beaucoup d'usages. Entre le VPS à quelques euros par mois et le H100 loué à l'heure, il existe tout un spectre d'infrastructures. Chacune a son propre compromis prix/fiabilité/complexité. Ce guide passe en revue les cinq grandes familles, avec des prix indicatifs (qui évoluent vite) et des recommandations concrètes.

1. Le VPS classique (Hetzner, OVH, DigitalOcean, Scaleway…)

Un serveur virtuel loué à mois, sans GPU dédié. C'est l'option la plus simple et la moins chère pour héberger une API, un site, une base de données, ou faire tourner de petits modèles en CPU (un 7B quantifié, par exemple). Sans GPU, l'inférence est lente — comptez 1 à 5 tokens/s — mais c'est suffisant pour des tâches légères, du traitement par lots non urgent, ou du prototypage.

• Prix : ~5 €/mois (2 vCPU, 4 Go) à ~50 €/mois (16 vCPU, 64 Go). Hetzner et Scaleway sont parmi les moins chers du marché.
• Bon pour : hébergement d'API, petits modèles CPU, proxy/reverse-proxy, tâches planifiées, bots.
• Limite : pas (ou très peu) de GPU, latence CPU élevée, inadapté aux modèles au-delà de 13B.
• Setup : trivial — une image Linux, SSH, et vous installez llama.cpp ou Ollama.

Astuce : un VPS ARM Hetzner CAX (~10 €/mois) fait tourner un Llama-3-8B quantifié à ~3-5 tokens/s. Suffisant pour un chatbot interne ou un résumé de documents par lots.

2. Les instances GPU cloud (AWS, GCP, Azure, Lambda, OVH GPU)

Les hyperscalers proposent des instances avec GPU dédié : T4, L4, A10G, A100, H100. C'est la voie « entreprise » : SLA, conformité, régions multiples, intégration avec le reste de votre stack cloud. Mais c'est aussi la plus chère et la plus complexe à configurer (IAM, VPC, security groups, AMI, etc.).

• Prix : de ~0,50 $/h (T4) à ~30 $/h (H100) et plus. Les instances « spot » peuvent coûter 3 à 5× moins cher mais sont préemptibles (interrompues).
• Bon pour : production entreprise, conformité, SLA, charges qui nécessitent une intégration cloud native (S3, BigQuery…).
• Limite : complexe à configurer, cher pour un particulier, quotas GPU souvent restrictifs au début.
• Setup : moyen à élevé — il faut choisir l'AMI, configurer les pilotes CUDA, le stockage attaché, le réseau.

Lambda Labs se positionne comme une alternative plus simple et moins chère aux hyperscalers, avec des instances H100 à ~2,50 $/h et une interface dépouillée. Un bon compromis si vous voulez du dédié sans la complexité d'AWS.

3. Vast.ai — le marché du GPU décentralisé

Vast.ai met en relation des particuliers (et petits data centers) qui louent leurs GPU et des utilisateurs. Résultat : des prix très bas, parfois 2 à 5× moins chers qu'un cloud classique, parce que la machine est déjà amortie par son propriétaire. C'est l'« Airbnb du GPU ». La contrepartie est la fiabilité variable : une machine peut disparaître, redémarrer, ou être lente sans préavis.

• Prix : ~0,15 $/h (RTX 3060) à ~1 $/h (A100 80 Go), parfois moins sur des offres spot.
• Bon pour : expérimentateurs, batchs, fine-tuning ponctuel, recherche, tests de modèles avant achat.
• Limite : machines parfois instables, à éviter pour la prod, pas de SLA, données potentiellement accessibles au propriétaire de la machine.
• Setup : moyen — vous choisissez une machine dans le catalogue, vous lancez une image Docker (souvent un template pré-configuré), et vous êtes root.

Conseil pratique : sur Vast.ai, privilégiez les machines avec un score de fiabilité (« reliability ») élevé et un uptime supérieur à 95 %. Sauvegardez toujours votre travail sur un stockage distant (S3, Backblaze) — une machine peut tomber à tout moment.

4. RunPod — GPU serverless et pods

RunPod propose deux produits : des pods (instances GPU à l'heure, comme Vast.ai mais avec une interface plus propre et des machines gérées) et du serverless GPU (vous déployez une fonction qui tourne sur GPU à la demande, facturée à la seconde d'inférence). Les templates pré-configurés (Ollama, vLLM, text-generation-webui, ComfyUI) se lancent en un clic.

• Prix : ~0,20 $/h (RTX 3090) à ~2 $/h (H100) pour les pods ; serverless facturé à la seconde (~0,0003 $/s sur GPU grand public).
• Bon pour : démarrage rapide, inférence serverless, prototypage de modèles, API custom.
• Limite : un peu plus cher que Vast.ai, mais nettement plus fiable et plus simple.
• Setup : faible — un template en un clic, et vous avez une API prête.

Le serverless RunPod est particulièrement élégant pour des workloads intermittents : vous ne payez que les secondes où le modèle génère. Pour un chatbot avec un trafic faible, c'est souvent moins cher qu'un pod 24/7.

5. Les agrégateurs d'API (OpenRouter, Together, Fireworks, DeepInfra)

Pas exactement de l'infrastructure, mais une catégorie à part : ces services hébergent des dizaines de modèles open source (Llama, Mistral, Qwen, DeepSeek…) et les exposent via une API compatible OpenAI. Vous ne gérez aucune machine — vous payez au token, comme chez OpenAI, mais souvent 2 à 10× moins cher pour des modèles équivalents. C'est l'option la plus simple si vous voulez juste consommer du modèle sans toucher à l'infra.

• Prix : très variable, souvent le moins cher du marché pour les modèles open source (ex : Llama-3-70B à ~0,60 $/M in sur DeepInfra).
• Bon pour : production, prototypage, quand vous voulez juste consommer sans gérer d'infra.
• Limite : vous ne contrôlez pas le moteur d'inférence ni la quantization ; dépendance au provider.

Le comparateur de prix de la page d'accueil agrège justement ces offres : c'est l'outil idéal pour choisir le provider le moins cher pour un modèle donné.

Tableau comparatif global

Comment choisir : la matrice de décision

Bonnes pratiques transversales

• Stockage distant : ne gardez jamais vos données uniquement sur la machine louée. Synchronisez vers S3, Backblaze B2 ou un bucket Cloud. Une machine spot peut disparaître en quelques secondes.
• Idempotence : un script de fine-tuning doit pouvoir reprendre après une interruption. Sauvegardez les checkpoints régulièrement.
• Surveillance des coûts : un GPU oublié en marche vous coûte 24/7. Mettez un cron d'arrêt automatique, ou utilisez les options « auto-shutdown when idle » de RunPod.
• Sécurité : changez les mots de passe par défaut, fermez les ports, et n'exposez jamais une API d'inférence sans authentification sur internet.
• Choix du GPU : pour l'inférence, la VRAM compte plus que les TFLOPS. Un RTX 3090 24 Go est souvent plus utile qu'un A10 24 Go plus récent mais plus cher.

Et Colibri ?

On entend parfois « Colibri » dans le milieu de l'IA embarquée : c'est un petit runtime d'inférence léger (souvent embarqué) optimisé pour des modèles très compacts sur du matériel modeste — microcontrôleurs, Raspberry Pi, edge devices. Là où llama.cpp vise le « gros LLM sur PC », Colibri vise le « tout petit modèle sur appareil contraint ». Utile pour de l'IoT, de l'edge, ou de l'inférence ultra-locale sur un téléphone, mais nettement moins pertinent pour faire tourner un LLM conversationnel. À garder en tête pour les usages embarqués, pas pour une station de travail.

En résumé

• VPS = pas cher, fiable, mais CPU only → petits modèles.
• Cloud GPU = puissant et fiable, mais cher et complexe → prod entreprise.
• Vast.ai = le moins cher, mais fiabilité variable → batchs et recherche.
• RunPod = bon compromis prix/fiabilité, serverless pratique → prototypage et trafic intermittent.
• Agrégateurs = le plus simple, au token → consommer sans gérer d'infra.

Une fois l'infrastructure choisie, il faut comprendre ce qu'on y fait tourner : le guide suivant sur les LLM, modèles et harnais détaille le vocabulaire essentiel. Et si vous préférez acheter plutôt que louer, le guide sur le matériel vous attend.