Model hosting

Hébergement Llama 3

Déployez les modèles Llama 3.3 de Meta sur une infrastructure européenne dédiée.

qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

La famille Llama de Meta est le cheval de bataille des LLM ouverts : sous licence permissive, bien documentée et disponible dans des tailles allant du modèle de poche au poids lourd de 70B. HostYourAI exécute les générations Llama 3.1, 3.2 et 3.3 avec vLLM sur des GPU européens : vous bénéficiez de la qualité de Llama sans envoyer un seul prompt en dehors de l'UE.

Vous pouvez appeler les modèles Llama de deux façons. L'EU Inference Router partagé donne un accès immédiat au token, avec les tailles populaires maintenues chaudes. Pour un trafic de production régulier ou des exigences d'isolation strictes, les instances GPU dédiées exécutent le Llama de votre choix avec sa propre clé API chiffrée.

Pourquoi un hébergement Llama dans l'UE

Des poids ouverts, un service souverain

Les poids de Llama sont publics : rien ne vous oblige à les exécuter sur une infrastructure américaine. Les héberger sur des GPU européens fait d'un modèle ouvert une pile véritablement souveraine : les poids, la couche de service vLLM et le matériel échappent tous au contrôle d'un fournisseur unique.

La protection des données reste simple

Les prompts envoyés à un modèle Llama ici sont traités dans des datacenters européens et ne servent jamais à l'entraînement. Avec un DPA et une liste publique des sous-traitants, votre documentation RGPD pour la fonctionnalité tient en une page, pas en un projet.

Payez des tokens, pas une capacité théorique inutilisée

Sur le Router, vous payez au token à partir d'un solde prépayé ; une instance Llama dédiée est facturée à l'heure et se met en veille lorsqu'elle n'est pas utilisée. Les deux puisent dans un même solde, expliqué sur la page des tarifs : tester un Llama plus grand est donc une décision que vous pouvez annuler le jour même.

python
from openai import OpenAI
client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...")
client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role":"user","content":"Hallo!"}])

Choisir une taille de Llama pour votre charge de travail

Les générations de Llama se répartissent clairement selon les tâches. Les petits modèles 3.2 (1B et 3B) sont conçus pour les tâches à haut volume et faible enjeu : routage, étiquetage, extraction, garde-fous. Llama 3.1 8B est le choix par défaut pour le résumé et la sortie structurée, assez économique pour être appelé à chaque requête. En haut de gamme, Llama 3.3 70B offre à peu près la qualité d'assistant que l'on attend d'un modèle de chat de pointe, avec un bon suivi des instructions et une production multilingue, néerlandais compris.

Un schéma pratique consiste à démarrer chaque fonctionnalité sur 3.3 70B via le Router, à mesurer la qualité, puis à faire descendre chaque tâche vers des tailles plus petites jusqu'à ce que la qualité baisse. Le Model Garden indique quelles variantes de Llama sont chaudes en ce moment, et chacune peut être essayée dans le Playground avant d'écrire du code.

Variante de LlamaUsage typique
Llama 3.2 1BClassification, routage, contrôles de garde-fous à très haut volume
Llama 3.2 3BRésumés courts, extraction d'entités, saisie semi-automatique
Llama 3.1 8BRésumé généraliste, sortie JSON structurée, rédaction
Llama 3.1 70BRaisonnement complexe et analyse à long contexte
Llama 3.3 70BAssistants de chat en production, dialogue multilingue, réponses RAG
One-click deployment
OpenAI-compatible API
4 EU datacenters
End-to-end encryptie
Dedicated GPU instances
Audit logging

Comment démarrer

Les modèles Llama se trouvent derrière le point d'accès standard compatible OpenAI : n'importe quel SDK OpenAI fonctionne sans modification.

from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",
)

response = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[
        {"role": "system", "content": "You are a concise Dutch-speaking assistant."},
        {"role": "user", "content": "Leg in twee zinnen uit wat vLLM doet."},
    ],
    max_tokens=200,
)
print(response.choices[0].message.content)
je vraag
doc-4f2a0.94
doc-9c1e0.91
doc-2b770.88

Questions sur l'hébergement Llama

Quelles versions de Llama sont disponibles ?

Les générations Llama 3.1, 3.2 et 3.3, du 1B jusqu'au 70B. Le Model Garden indique l'état en direct de chacune : chaude, en cours de réchauffement, servable ou sur demande.

Llama 3.3 70B est-il maintenu chaud sur le Router ?

Les modèles populaires sont maintenus chauds grâce à un pool chaud, afin que les requêtes commencent à générer immédiatement. La page du catalogue de chaque modèle affiche son état actuel avant que vous l'appeliez.

Llama peut-il répondre en néerlandais ?

Oui. Llama 3.1 et 3.3 sont multilingues et gèrent bien le néerlandais, ce qui explique en partie pourquoi les équipes néerlandaises choisissent le 70B pour le chat destiné aux clients.

De quel GPU un Llama 70B a-t-il besoin ?

D'une grande carte de la classe 80 Go ou d'une configuration multi-GPU. Vous n'avez pas à le dimensionner vous-même : le déploiement impose un plancher de VRAM, de sorte qu'une instance dédiée reçoit toujours un matériel sur lequel le modèle tient.

Puis-je combiner Llama avec mes propres documents ?

Oui. Liez une base de connaissances au Router ou à votre instance, et le contexte pertinent est injecté automatiquement dans les réponses. Le guide Construire un RAG sur des GPU européens présente la configuration de bout en bout.

Je app
OpenAI · Anthropic
EU Router
één base URL
Qwen3-8B
warm
Loes (NL)
soeverein
Llama-3.3
warm

Tout ce qu'il faut pour l'IA

De l'hébergement de modèles à une API destinée à vos clients, tout est conçu pour les développeurs et les entreprises qui veulent que leur IA tourne sur une infrastructure qu'ils contrôlent réellement, au sein de l'UE.

100%
Hébergé dans l'UE

Vos données et vos modèles restent sur des GPU européens. Conçu pour respecter le RGPD.

200+
Modèles vérifiés, prêts à servir

Llama, Qwen, DeepSeek, Mistral, FLUX et bien d'autres. Choisissez-en un et il est prêt en quelques minutes, sans DevOps de votre côté.

2 SDK
Compatible OpenAI et Anthropic

Pointez votre client existant vers le Router et gardez vos outils. Sans réécriture, sans dépendance.

De zéro à un endpoint prêt en quelques minutes

Aucune infrastructure à gérer. Choisissez un modèle, obtenez une URL compatible OpenAI et livrez.

1

Choisissez un modèle

Choisissez dans le Model Garden ou collez n'importe quel ID HuggingFace. Définissez la VRAM et choisissez un GPU européen.

2

Obtenez votre endpoint

Nous déployons vLLM, exécutons les sondes de disponibilité et vous remettons une URL prête, compatible OpenAI et Anthropic, ainsi qu'une clé d'API.

3

Routez et livrez

Pointez votre client vers le Router. Il route automatiquement vers une instance démarrée, met les GPU au repos quand personne n'est connecté et journalise chaque requête.

Privé par défaut

HostYourAI garde vos modèles, vos prompts et vos données sur des GPU européens. Conçu pour les équipes qui tiennent à la conformité, à la fiabilité et à un contrôle réel.

EU-hostedGDPR-friendlyOpenAI-compatiblevLLM-poweredNo lock-in
EU
Full data sovereignty

GPUs and data residency inside Europe. Your prompts never leave the EU.

Open
Models you can audit

Run open-weight models with no black boxes or hidden telemetry.

€0
Scale to zero

GPUs idle when nobody is online, so you only pay for what you run.

Yours
No vendor lock-in

Your infra, your keys, your models. Leave whenever you want.

Compatible avec les outils que vous utilisez déjà

Le Router parle les API OpenAI et Anthropic, il s'intègre donc directement aux clients et SDK que votre équipe utilise déjà. Il suffit de changer l'URL de base.

Essayer HostYourAI gratuitement
docker
anthropic
huggingface
langchain
python
nodedotjs
curl
ollama
jetbrains
jupyter
vercel
zapier
postman
n8n

Frequently asked questions

Can I run this in the EU?

Yes. HostYourAI runs open models on GPUs in European datacenters via vLLM. Your prompts and outputs never leave the EU and there is no US cloud provider in the chain.

Is it GDPR-compliant?

Yes. All processing happens inside the EU, a Data Processing Agreement (DPA) is available and the subprocessor list is public. Open weights also mean no training on your data.

Is the API OpenAI-compatible?

Yes. Point your existing OpenAI or Anthropic client at our Router (https://hostyourai.com/api/v1), change only the base URL and API key. No rewrite, no lock-in.

What does it cost?

Pay-as-you-go on one prepaid credit balance: the shared router per token or a dedicated GPU per hour. Free to start, no minimum, no fixed monthly fee.

Model garden

Works with 390+ open models

Text and image models on dedicated EU GPUs. Every model tested on our own hardware.

Related pages

Explore more about EU-hosted AI on HostYourAI.

Hébergez. Routez. Livrez.

Aucune carte bancaire requise. Paiement à l'usage, résiliable à tout moment.

Commencer l'hébergement gratuitement dès aujourd'hui