LLM privé UE : auto-héberger ou Claude Bedrock 2026

TL;DR

Un LLM privé dans l’UE est un choix d’hébergement, pas une marque. Les poids restent sur vos GPU, à Francfort via Custom Model Import, ou vous appelez Gemma 4 dans eu-central-1. Claude reste derrière eu.anthropic.claude-sonnet-5-5. L’API Anthropic n’a pas de valeur eu. Foundry documente Global Standard et Data Zone Standard (US) seulement.

Qu’est-ce qu’un LLM privé dans l’UE ?

Un LLM privé dans l’UE est un modèle dont l’inférence tourne sous votre contrôle dans un État membre ou dans une géographie UE documentée. Ce n’est pas un abonnement chatbot. Trois couches comptent : les poids, le lieu de calcul, le stockage des prompts. Le RGPD n’impose pas un site UE. La résidence écarte la question du transfert.

Ceci n’est pas un avis juridique. La matrice des prestataires est dans Claude RGPD, quel hébergement. Comment épingler Claude lui-même est dans résidence des données Claude dans l’UE.

Privé ne veut pas dire open source. Gemma 4 et Qwen3-32B sont Apache 2.0. Mistral Large 3 aussi. Llama 4 Scout est sous Llama 4 Community License, avec un seuil de 700 millions d’utilisateurs actifs mensuels. DeepSeek-V4.1-Flash est MIT. Les poids Claude restent fermés.

Couche	Ce que vous vérifiez	Piège fréquent
Poids	Licence, paramètres, contexte	Seuil MAU Llama, plafond d’import 200 Go texte
Lieu d’inférence	Région, profil géo, nœud GPU	inference_geo n’est que global et us
Stockage	Journaux, ZDR, aws_review	Fable 5 et 5.1, jusqu’à 30 jours dans AWS

La page Bedrock sur la protection des données indique que les fournisseurs de modèles n’ont pas accès aux comptes de déploiement, aux journaux, aux prompts ni aux complétions. Cela vaut pour Claude et pour les modèles open-weight sur Bedrock. L’auto-hébergement donne le même levier sans AWS au milieu.

Quels sont les trois chemins en 2026 ?

Un LLM privé dans l’UE passe en 2026 par trois montages. Vous auto-hébergez les poids sur du matériel que vous exploitez. Vous importez des poids adaptés à Francfort, ou vous appelez Gemma 4 et Qwen3 dans une seule région UE sur Bedrock. Claude reste le défaut qualité derrière le profil géo UE. Foundry n’épingle pas Claude dans une zone UE.

Chemin 1 : auto-héberger. La carte Gemma 4 31B-it indique Apache 2.0, 30,7 milliards de paramètres, 60 couches, 256K de contexte. Qwen3-32B est Apache 2.0, 32,8 milliards de paramètres, 32 768 tokens en natif, 131 072 avec YaRN. Mistral Large 3 est Apache 2.0, 675B au total, 41B actifs, 256k de contexte, vLLM à partir de 1.12.0 sur un nœud 8xH200. DeepSeek-V4.1-Flash est MIT, backbone 552B, 8B en prefill et 16B en decode, contexte 1M. Le dimensionnement GPU de Flash est dans DeepSeek V4.1 auto-hébergé.

Chemin 2 : open-weight géré sur Bedrock. Gemma 4 31B a l’ID google.gemma-4-31b, lancement le 31 mars 2026, EOL pas avant le 31 mars 2027, bedrock-mantle seulement, ni géo ni global. Francfort est la ligne UE documentée. Qwen3 32B a l’ID qwen.qwen3-32b-v1:0, lancement le 29 avril 2025, EOL pas avant le 29 avril 2026, contexte 32K, sortie 8K, in-region notamment Francfort, Stockholm, Milan, Irlande et Londres. Custom Model Import tourne à eu-central-1, us-east-1, us-east-2 et us-west-2. Les poids texte doivent rester sous 200 Go, les multimodaux sous 100 Go, le contexte sous 128K. Architectures prises en charge : Llama 2 à 3.3, Mistral, Mixtral, Qwen2/Qwen2.5/Qwen3, GPTBigCode. L’import GPT-OSS n’est qu’en Virginie du Nord. Le catalogue est dans Amazon Bedrock expliqué.

Chemin 3 : Claude avec épinglage UE. La carte Sonnet 5.5 indique un lancement le 28 septembre 2026, une EOL pas avant le 28 septembre 2027, 1 million de tokens de contexte, 128 000 en sortie, coupure juin 2026. Le profil UE eu.anthropic.claude-sonnet-5-5 route depuis Francfort vers Francfort, Stockholm, Milan, Espagne, Irlande et Paris. Londres est une source supplémentaire, pas une destination depuis Francfort. Google maintient Sonnet 5.5 en Europe multi-région à 1 250 QPM, 12 500 000 TPM d’entrée non cachée et 1 250 000 TPM de sortie. L’hôte UE est aiplatform.eu.rep.googleapis.com, location eu. Le Royaume-Uni et la Suisse sont exclus. Côté API first-party, inference_geo n’accepte que global et us. La géo d’espace de travail est us seulement. Foundry liste Global Standard et Data Zone Standard (US). Aucune zone de données UE pour Claude n’y est documentée.

Nous recommandons le chemin 3 comme défaut dès que la tâche demande des agents, le computer use, des Guardrails ou un million de tokens de contexte. Le chemin 2 quand le tarif dollar l’emporte et que Francfort in-region suffit. Le chemin 1 quand les poids doivent rester dans votre salle machines.

Les pages modèle par modèle restent séparées : Gemma vs Claude, Mistral vs Claude, Llama vs Claude, Qwen vs Claude.

Que coûte un LLM privé face à Claude ?

Les tarifs sont chez les fournisseurs. Claude Sonnet 5.5 liste 2 / 10 USD par million de tokens, Opus 5.5 liste 4 / 20. Les points régionaux dès Sonnet 4.5 ont 10 pour cent de surcoût, donc Sonnet UE à 2,20 / 11. Gemma 4 31B à Francfort liste 0,17 / 0,48. L’import Francfort coûte 0,07144 USD par minute.

La page de prix Anthropic indique les lectures de cache Sonnet 5.5 à 0,10 USD. Haiku 5.5 jusqu’à 100 000 tokens coûte 0,10 / 0,50. Batch divise entrée et sortie par deux. Un CCU coûte 0,01 USD, 100 CCU valent 1 USD. inference_geo US sur l’API first-party coûte 1,1x. Priority sur Bedrock est 75 pour cent au-dessus de Standard. Flex et Batch sont 50 pour cent en dessous.

Chemin	Entrée / sortie par 1 M de tokens	Résidence	Exploitation
Claude Sonnet 5.5 global	2 / 10 USD	n’importe où	pas de GPU
Claude Sonnet 5.5 géo UE (10 %)	2,20 / 11 USD	destinations UE de la carte	pas de GPU
Gemma 4 31B US	0,14 / 0,40 USD	une région US	Mantle /openai/v1
Gemma 4 31B Francfort	0,17 / 0,48 USD	eu-central-1	Mantle /openai/v1
Custom Model Import Francfort	0,07144 USD par unité et par minute, stockage 1,95 USD par unité et par mois	eu-central-1	descente à zéro après 5 minutes d’inactivité
Import Llama 3.1 8B (référence)	2 unités	Francfort ou US	comme l’import
Import Llama 3.1 70B (référence)	8 unités	Francfort ou US	comme l’import

Deux unités à Francfort coûtent 0,14288 USD par minute active. Huit unités coûtent 0,57152 USD par minute active. La facturation part par fenêtres de 5 minutes dès le premier appel réussi. Après cinq minutes sans appel, Bedrock redescend à zéro. Le plafond par défaut est de 3 copies par modèle importé, releveable via Service Quotas. Nous n’avons pas lu de tarifs de location GPU UE sur une source autorisée dans cette course, donc nous les laissons vides.

Le tableau API Bedrock, Google et Foundry est dans prix de l’API Claude en Europe.

Quelles licences et quels rôles AI Act ?

Licence et règlement sur l’IA sont deux tests distincts. Apache 2.0 et MIT autorisent l’usage commercial avec attribution. La Llama 4 Community License demande “Built with Llama” et une licence extra au-delà de 700 millions de MAU. L’AI Act suit le rôle, pas la licence. Les obligations haut risque de l’annexe III s’appliquent au 2 décembre 2027.

Le résumé EUR-Lex indique une application générale depuis le 2 août 2026, compétence IA et interdictions depuis le 2 février 2025, obligations des fournisseurs GPAI depuis le 2 août 2025. Le règlement omnibus (UE) 2026/1744 du 8 juillet 2026 décale le chapitre III sections 1 à 3 : annexe III au 2 décembre 2027, annexe I au 2 août 2028.

Appeler Gemma ou Qwen vous laisse déployeur du système. Affiner, importer ou proposer un service à des tiers peut aussi faire de vous un fournisseur. Les rôles sont dans AI Act pour les entreprises. Fable 5 et 5.1 sur Bedrock exigent aws_review : prompts et complétions restent jusqu’à 30 jours dans le périmètre AWS, le fournisseur du modèle ne les voit pas. La plupart des autres modèles autorisent none. Si vous posez data_retention_mode à none, Bedrock bloque les modèles qui exigent de la conservation.

Comment fixer le défaut dans l’UE ?

L’épinglage est un point de terminaison, pas un PDF de politique. Claude seulement via eu.anthropic.claude-sonnet-5-5 ou Google locations/eu. Gemma 4 seulement via bedrock-mantle.eu-central-1.api.aws/openai/v1. Auto-hébergez Qwen3-32B avec vLLM. Bloquez global. dans IAM. Foundry n’a toujours pas de zone UE pour Claude.

1. Écrivez la résidence dans le cahier des charges : un État membre, la géographie UE ou le global.
2. Choisissez le chemin : Claude UE, open-weight Bedrock in-region, import ou nœud interne.
3. Verrouillez l’ID du modèle et relisez la carte le jour de la mise en production.
4. Posez la conservation sur none, sauf si Fable est dans le périmètre volontairement.
5. Plafonnez la dépense sur une passerelle pour que les apps ne basculent pas vers us-east-1.
6. Consignez licence, rôle AI Act et date d’EOL.

import boto3
from openai import OpenAI

# Claude géo UE via Converse
br = boto3.client("bedrock-runtime", region_name="eu-central-1")
claude = br.converse(
    modelId="eu.anthropic.claude-sonnet-5-5",
    messages=[{"role": "user", "content": [{"text": "Donne les limites de résidence en deux phrases."}]}],
    inferenceConfig={"maxTokens": 256},
)
print(claude["output"]["message"]["content"])

# Gemma 4 31B à Francfort, Mantle /openai/v1 seulement
gemma = OpenAI(
    api_key="BEDROCK_API_KEY",
    base_url="https://bedrock-mantle.eu-central-1.api.aws/openai/v1",
)
print(gemma.chat.completions.create(
    model="google.gemma-4-31b",
    messages=[{"role": "user", "content": "Donne les limites de résidence en deux phrases."}],
).choices[0].message.content)

# Chemin 1 : Qwen3-32B sur votre réseau (vLLM selon la carte, vllm>=0.8.5)
vllm serve Qwen/Qwen3-32B --enable-reasoning --reasoning-parser deepseek_r1

Mistral Large 3 sur un nœud 8xH200 :

pip install 'vllm>=1.12.0'
vllm serve mistralai/Mistral-Large-3-675B-Instruct-2512 \
  --max-model-len 262144 --tensor-parallel-size 8 \
  --tokenizer_mode mistral --config_format mistral --load_format mistral \
  --enable-auto-tool-choice --tool-call-parser mistral

Nous recommandons Claude sur Bedrock UE comme défaut dans les entreprises européennes. Un LLM privé s’ajoute, il ne le remplace pas, quand les poids, le prix ou un flux d’import gagnent le cahier des charges. Faites tourner les deux derrière une passerelle, avec des plafonds séparés.

FAQ

Que coûte un LLM privé dans l’UE face à Claude ?

Gemma 4 31B à Francfort indique 0,17 / 0,48 USD par million de tokens. Claude Sonnet 5.5 indique 2 / 10, avec 10 pour cent de surcoût sur les points de terminaison régionaux : 2,20 / 11. Custom Model Import à Francfort indique 0,07144 USD par unité et par minute plus 1,95 USD de stockage par unité et par mois. Nous n’avons pas vérifié ici les loyers GPU.

LLM privé vs Claude : lequel prendre ?

Claude Sonnet 5.5 derrière eu.anthropic.claude-sonnet-5-5 quand les prompts personnels doivent rester dans des États membres et que vous avez besoin d’agents, de computer use ou d’1 million de tokens de contexte. Un LLM privé quand des poids Apache 2.0, le tarif Francfort ou un import vers eu-central-1 gagnent le cahier des charges. Foundry ne remplace aucun des deux chemins pour épingler Claude dans l’UE.

Gemma 4 reste-t-il dans l’UE sur Bedrock ?

À Francfort, oui, en in-region sur bedrock-mantle, sans profil géo. La carte ne prend pas en charge géo ni global. Le corps de requête, images et vidéo compris, doit rester sous 3,5 Mo. Les tokens de raisonnement reviennent via l’API Responses, pas via Chat Completions.

Une entreprise européenne peut-elle faire tourner Llama 4 Scout en privé ?

Oui, sous Llama 4 Community License, tant que le seuil de 700 millions de MAU ne s’applique pas et que l’Acceptable Use Policy est respectée. Scout a 17B actifs, 109B au total, 10M de contexte. Sur Bedrock, les cartes Llama 4 lues ici n’ont pas de géo UE. L’import de Llama 3.x à Francfort est documenté. Llama 4 n’est pas dans la liste d’architectures d’import.

L’auto-hébergement fait-il de nous un fournisseur au sens de l’AI Act ?

Appeler le modèle vous laisse déployeur. Affiner, republier ou proposer un service à des tiers peut ajouter des obligations de fournisseur. Les devoirs GPAI s’appliquent au fournisseur d’origine depuis le 2 août 2025. Les systèmes haut risque de l’annexe III à partir du 2 décembre 2027. Trancher le rôle avec votre conformité, pas avec cette page.

Anthropic ou Google voient-ils nos prompts sur Bedrock ?

AWS dit non. Les fournisseurs de modèles n’ont pas accès aux comptes de déploiement. AWS peut conserver des données pour la détection d’abus. Fable 5 et 5.1 exigent jusqu’à 30 jours d’aws_review dans le périmètre AWS. Auto-hébergez si AWS ne doit pas voir les prompts non plus.

Sources

1. Anthropic: Pricing (19 octobre 2026)
2. Anthropic: Data residency (19 octobre 2026)
3. AWS: Claude Sonnet 5.5 Model Card (19 octobre 2026)
4. AWS: Gemma 4 31B Model Card (19 octobre 2026)
5. AWS: Qwen3 32B Model Card (19 octobre 2026)
6. AWS: Custom Model Import (19 octobre 2026)
7. AWS: Data protection (19 octobre 2026)
8. AWS: Data retention (19 octobre 2026)
9. Amazon Bedrock Pricing (19 octobre 2026)
10. Hugging Face: gemma-4-31B-it (19 octobre 2026)
11. Hugging Face: Mistral-Large-3-675B-Instruct-2512 (19 octobre 2026)
12. Hugging Face: Qwen3-32B (19 octobre 2026)
13. Hugging Face: Llama-4-Scout-17B-16E-Instruct (19 octobre 2026)
14. Hugging Face: DeepSeek-V4.1-Flash (19 octobre 2026)
15. Google Cloud: Data residency (19 octobre 2026)
16. Google Cloud: Claude Sonnet 5.5 (19 octobre 2026)
17. Google Cloud: Use partner models (19 octobre 2026)
18. Microsoft Learn: Claude models in Foundry (19 octobre 2026)
19. EUR-Lex: règlement (UE) 2026/1744 (19 octobre 2026)
20. EUR-Lex: résumé du règlement sur l'IA (19 octobre 2026)