AI gateway ou passerelle LLM pour Claude : comparatif UE

TL;DR

Une passerelle LLM se place devant les API de modèles ; un AI gateway contrôle en plus les serveurs MCP et les agents. Pour Claude sous RGPD, le produit compte moins que trois choix : où tourne la passerelle, où sont stockés les logs, quel profil Bedrock ou Vertex elle appelle. Une passerelle auto-hébergée garde ces trois points sous votre contrôle.

AI gateway ou passerelle LLM : quelle différence ?

Une passerelle LLM est un proxy devant les API de modèles. Elle détient la clé du fournisseur, distribue des identifiants par utilisateur, applique des budgets et journalise les requêtes. Un AI gateway est la catégorie plus large : mêmes contrôles, étendus aux serveurs d’outils MCP et aux API d’agents. Tout AI gateway contient une passerelle LLM, l’inverse n’est pas vrai.

Microsoft trace la frontière le plus nettement. L’AI gateway d’Azure API Management gère les API de modèles de langage, les serveurs MCP distants, les API d’agents A2A et les modèles auto-hébergés. Microsoft précise qu’il ne s’agit pas d’une offre séparée mais d’une extension de la passerelle API existante. Kong et Apigee suivent la même logique : des plugins ou des politiques IA sur une passerelle API que beaucoup d’entreprises exploitent déjà.

Anthropic emploie le terme étroit. La documentation de Claude Code définit la passerelle comme un proxy que votre organisation exploite entre Claude Code et le fournisseur de modèles, avec cinq fonctions : identifiants, suivi de l’usage, maîtrise des coûts, journal d’audit et changement de fournisseur. C’est une passerelle LLM au sens strict.

Pour une entreprise européenne, trois questions pèsent plus que le vocabulaire :

Question	Pourquoi elle compte pour le RGPD
Où tourne le processus de la passerelle ?	Les prompts y passent en clair
Où sont stockés ses logs ?	Ils contiennent souvent prompts et réponses complets
Quel profil amont est appelé ?	Les profils Bedrock `global.` routent dans le monde entier

Si la réponse aux trois est “dans votre compte UE”, la passerelle convient aux données personnelles. Si l’une d’elles est “sur notre plateforme”, il vous faut un contrat de sous-traitant au sens de l’art. 28 du RGPD et un examen de la liste des sous-traitants ultérieurs.

Quelles passerelles acheminent Claude via Bedrock ou Vertex ?

Les sept produits examinés savent tous router Claude via Amazon Bedrock. Ils diffèrent par l’exploitant, le coût des budgets et la possibilité de fixer le chemin des données dans l’UE. Les passerelles auto-hébergées (Claude apps gateway, LiteLLM, Kong, Portkey open source) obtiennent l’hébergement des données en Europe par le lieu de déploiement. Les passerelles SaaS dépendent des contrôles régionaux de l’éditeur.

Produit	Qui l’exploite	Hébergement UE passerelle et logs	Amont Claude	Budgets et limites	Licence et prix
Claude apps gateway	Vous (conteneur Linux)	Votre région, votre Postgres	Bedrock, Google Cloud, Foundry, API Anthropic	Limites de dépense par utilisateur et groupe	Inclus dans le binaire `claude`, sans licence
LiteLLM Proxy	Vous	Votre région, votre Postgres	Bedrock, Vertex, Anthropic, etc.	Budgets par clé, équipe, fournisseur	MIT hors `enterprise/`
Portkey (désormais Prisma AIRS AI Gateway)	SaaS, hybride ou vous	Hybride : data plane chez vous, control plane chez Portkey	Bedrock, Anthropic, Vertex	Budgets granulaires en Enterprise	Passerelle OSS MIT ; Production 49 USD/mois
Kong AI Gateway	Vous ou Konnect	Auto-hébergé, ou géo EU de Konnect	Anthropic, Bedrock, Gemini, Vertex	AI Rate Limiting Advanced en Enterprise	Kong Gateway Apache 2.0
Cloudflare AI Gateway	Cloudflare	Regional Services non pris en charge pour AI Gateway	Anthropic, Bedrock, Vertex	Limites de requêtes, jusqu’à 20 règles de dépense	Fonctions de base gratuites
Azure API Management	Microsoft (votre tenant)	Région de votre instance APIM	Anthropic Messages (niveaux v2), Bedrock, schéma Vertex	`llm-token-limit` par clé	Tarif du niveau APIM
Apigee	Google (votre organisation)	Région de votre organisation Apigee	Tout backend LLM HTTP	`LLMTokenQuota`, HTTP 429	Politique Extensible, coût selon licence

Quelques lignes méritent un commentaire.

Claude apps gateway est la passerelle auto-hébergée d’Anthropic, livrée dans le binaire claude depuis la v2.1.195. Elle sert Claude Code et Claude Desktop, pas vos propres applications. Elle requiert PostgreSQL 14 ou plus et un fournisseur d’identité OIDC ; SAML et LDAP ne sont pas pris en charge. WebSearch et le TTL de cache d’une heure ne passent pas par elle, et il n’existe pas d’interface d’administration.

LiteLLM est l’option polyvalente pour vos applications. Installation, budgets et chaîne de modèle Bedrock UE sont détaillés dans notre guide LiteLLM passerelle UE ; nous ne les répétons pas ici.

Portkey s’appelle désormais Prisma AIRS AI Gateway et appartient à Palo Alto Networks. Le plan hébergé Developer conserve les logs 3 jours, Production 30 jours. En déploiement hybride, la passerelle tourne dans votre Kubernetes (v1.24 ou plus) mais doit joindre control.portkey.ai. Les pages consultées n’indiquent pas la région du control plane.

Cloudflare est l’entrée la moins chère : fonctions de base gratuites, Logpush avec 10 millions de requêtes incluses, puis 0,05 USD par million. Le problème pour les données européennes : la table de compatibilité de Cloudflare indique AI Gateway incompatible avec Regional Services, Customer Metadata Boundary en développement, et les restrictions de juridiction de stockage des logs non prises en charge. Nous n’y ferions pas transiter de données personnelles pour l’instant.

Kong sépare les fonctions par licence. Le plugin AI Proxy (Kong Gateway 3.6 ou plus) ne porte pas de badge de licence IA sur sa page. AI Rate Limiting Advanced, le PII Sanitizer et le plugin AWS Guardrails sont réservés à l’offre AI Gateway Enterprise. Konnect propose une géo EU, mais l’authentification, la facturation et les données d’usage sont partagées entre géos.

Où placer une passerelle UE dans l’architecture ?

La passerelle se trouve dans votre réseau, entre les clients et le fournisseur cloud, et détient seule l’identifiant du fournisseur. Développeurs et applications reçoivent des identifiants de passerelle. La décision européenne se prend deux fois : lieu d’exécution de la passerelle et de sa base, puis choix du profil d’inférence. Une erreur sur l’un des deux et les données quittent l’UE.

Le chemin d’une requête Claude Code via une passerelle auto-hébergée :

Claude Code envoie la requête à l’URL de la passerelle avec un identifiant propre au développeur.
La passerelle authentifie le développeur auprès de votre IdP et vérifie l’accès aux modèles par groupe.
Elle applique budgets et limites de débit, puis écrit une ligne d’usage dans Postgres.
Elle traduit l’identifiant de modèle Anthropic en identifiant fournisseur, par exemple eu.anthropic.claude-sonnet-5 sur Bedrock.
Elle transmet l’appel depuis une région UE avec le rôle AWS de l’organisation.
La télémétrie part vers votre collecteur OTLP, pas vers Anthropic.

Composant	Où il doit tourner	Ce qu’il stocke
Répliques de la passerelle	VPC UE, IP privée	Rien de durable (sans état)
Postgres	Même région UE	État de connexion, dépenses, audit
Amont	Profil Bedrock `eu.` ou région Vertex UE	Traitement du modèle uniquement
Logs et télémétrie	Votre pile de logs UE	Usage par personne, prompts en option

La fiche modèle de Sonnet 5 indique que le profil géographique UE garde les données dans les régions UE, tandis que global.anthropic.claude-sonnet-5 route dans le monde entier sans contrainte de résidence. Anthropic annonce pour les endpoints régionaux une majoration de 10 % par rapport au global à partir de Sonnet 4.5. Une passerelle réglée en silence sur global économise 10 % et rompt votre engagement d’hébergement. Notre guide Amazon Bedrock Europe détaille les régions disponibles.

Le côté client compte aussi. Claude Code accepte trois formats de passerelle : Anthropic Messages via ANTHROPIC_BASE_URL, Bedrock InvokeModel via ANTHROPIC_BEDROCK_BASE_URL et Vertex rawPredict via ANTHROPIC_VERTEX_BASE_URL. Le guide de compatibilité exige de transmettre anthropic-beta et anthropic-version sans modification. Une passerelle qui filtre les valeurs beta actuelles casse à la prochaine version de Claude Code.

Comment configurer une passerelle pour Claude dans l’UE ?

Fixez explicitement la région et la correspondance des modèles, car les valeurs par défaut pointent vers les États-Unis. Le catalogue intégré de Claude apps gateway utilise des profils us., et sa documentation impose un bloc models pour les régions Bedrock hors US. L’exemple Bedrock de Cloudflare appelle us-east-1. Considérez tout exemple d’éditeur comme une configuration US tant que vous ne l’avez pas modifié.

Configuration minimale de Claude apps gateway pour Francfort :

listen:
  host: 0.0.0.0
  port: 8080
  public_url: https://claude-gateway.interne.example.fr

oidc:
  issuer: https://login.example.fr
  client_id: claude-gateway
  client_secret: ${OIDC_CLIENT_SECRET}
  allowed_email_domains: [example.fr]

session:
  jwt_secret: ${GATEWAY_JWT_SECRET}
  ttl_hours: 1

store:
  postgres_url: ${GATEWAY_POSTGRES_URL}

upstreams:
  - provider: bedrock
    region: eu-central-1
    auth: {}

auto_include_builtin_models: false
models:
  - id: claude-sonnet-5
    label: Claude Sonnet 5 (UE)
    upstream_model:
      bedrock: eu.anthropic.claude-sonnet-5

Avec auto_include_builtin_models: false, la passerelle ne propose pas de profils US à côté de votre correspondance UE. Sur Google Cloud, évitez region: global : selon la documentation, Google route alors chaque requête vers n’importe quelle région disponible.

Avec un autre produit qui parle le format Bedrock, le côté Claude Code ressemble à ceci :

export CLAUDE_CODE_USE_BEDROCK=1
export ANTHROPIC_BEDROCK_BASE_URL=https://llm-gateway.interne.example.fr/bedrock
export ANTHROPIC_DEFAULT_SONNET_MODEL=eu.anthropic.claude-sonnet-5

Pour empêcher les contournements, réglez allowedProviders sur ["customEndpoint"] dans les paramètres gérés, avec l’URL de la passerelle dans le bloc env ; il faut Claude Code v2.1.285 ou plus. La gestion des clés pour les applications qui appellent la passerelle est expliquée dans notre article sur la clé API Claude.

Exploiter en interne ou externaliser ?

Exploiter soi-même une passerelle coûte peu en licences et beaucoup en attention. Le logiciel est gratuit ou fourni ; le travail porte sur la haute disponibilité, la rotation des secrets et des mises à jour au rythme des versions de Claude Code. Externaliser a du sens quand personne n’assure l’astreinte. Cela n’en a pas si vous exploitez déjà Kong, APIM ou Apigee pour d’autres API.

Ce que recouvre l’exploitation interne, d’après la documentation d’exploitation des éditeurs :

Tâche	Pourquoi elle revient
Mises à jour	Claude Code ajoute des en-têtes et des champs à chaque version ; une passerelle en retard casse des fonctions
Haute disponibilité et sauvegardes Postgres	Les limites de dépense de Claude apps gateway passent en fail open pendant une panne Postgres par défaut
Capacité	Une réplique envoie au plus 256 requêtes amont simultanées par défaut
Rotation des secrets	Secret JWT, secret client OIDC, identifiants fournisseur
Correspondance des modèles	Chaque nouveau modèle Claude demande une entrée avec profil UE
Revue des budgets	Les plafonds par équipe dérivent avec l’usage

Notre estimation, pas un chiffre d’éditeur : pour une passerelle mono-région à deux répliques avec Postgres managé, comptez quelques heures d’ingénierie plateforme par mois, plus une astreinte qui existe déjà pour d’autres services. Les rôles : un ingénieur plateforme, l’administrateur de l’IdP pour les groupes et un responsable financier qui porte les budgets.

Nous externaliserions sans équipe plateforme disponible 24 h sur 24, quand Claude devient critique pour de nombreux utilisateurs, ou quand un tiers doit fournir les preuves d’audit. Nous garderions l’exploitation en interne si une équipe passerelle API existe : ajouter des politiques IA à Kong, APIM ou Apigee est un changement de configuration, pas un nouveau système.

Ce qu’il faut exiger d’un prestataire qui exploite la passerelle pour vous :

Un SLA sur l’endpoint de la passerelle et une fenêtre de mise à jour garantie après chaque version de Claude Code.
Un contrat de sous-traitant (art. 28 RGPD) qui nomme la région UE de la passerelle, de sa base et de ses logs.
La liste des sous-traitants ultérieurs, y compris tout control plane d’éditeur hors de votre compte (Portkey hybride, Konnect).
Un modèle d’accès où le personnel du prestataire ne lit pas les logs de prompts par défaut, avec accès d’urgence journalisé.
Des conditions de sortie : configuration versionnée dans votre dépôt, export de la base et identifiants fournisseur conservés dans votre compte cloud.

Le support éditeur n’est pas une exploitation. Anthropic indique ne pas cautionner, maintenir ni auditer les passerelles tierces ; hors Claude apps gateway, le risque de compatibilité reste chez vous ou chez votre exploitant. La question plus large du fournisseur est traitée dans notre comparatif Claude RGPD et hébergement en Europe.

FAQ

Quelle différence entre un AI gateway et une passerelle LLM ?

Une passerelle LLM relaie les appels aux API de modèles : clés, budgets, journalisation, routage. Un AI gateway applique les mêmes contrôles aux serveurs d’outils MCP et aux API d’agents. Azure API Management, Kong et Apigee vendent des AI gateways ; LiteLLM et Claude apps gateway sont des passerelles LLM au sens strict.

Combien coûte un AI gateway ?

Claude apps gateway n’a ni licence ni frais par siège : vous payez le calcul et Postgres. LiteLLM et Kong Gateway sont open source, avec des fonctions entreprise payantes. Portkey Production coûte 49 USD par mois. Chez Cloudflare, les fonctions de base sont gratuites et Logpush coûte 0,05 USD par million de requêtes au-delà de 10 millions.

Cloudflare AI Gateway convient-il aux données personnelles sous RGPD ?

Pas encore, selon nous. La table de compatibilité de Cloudflare indique AI Gateway incompatible avec Regional Services, et les restrictions de juridiction des logs ne sont pas prises en charge. Réservez-le aux données sans caractère personnel ou attendez une prise en charge complète de la Data Localization Suite.

Claude apps gateway ou LiteLLM : lequel choisir ?

Claude apps gateway pour un parc Claude Code et Claude Desktop : connexion via votre IdP, compatibilité suivie à chaque version de Claude Code. LiteLLM pour vos applications et le routage multi-fournisseurs. Beaucoup d’organisations exploiteront les deux, car Claude apps gateway n’accepte pas le trafic applicatif arbitraire.

Une passerelle garde-t-elle automatiquement les données Claude dans l’UE ?

Non. La passerelle transmet au profil configuré, et plusieurs valeurs par défaut d’éditeurs pointent vers des profils us.. Associez chaque modèle à un profil Bedrock eu. ou à une région Vertex UE, et évitez le routage global, qui ne garantit aucune résidence.

Les budgets tiennent-ils si la base de la passerelle tombe ?

Cela dépend du produit. Les limites de dépense de Claude apps gateway passent en fail open pendant une panne Postgres par défaut ; vous pouvez basculer en fail closed. Notre guide LiteLLM montre que ses budgets ne plafonnent rien sans base de données. Testez le mode de défaillance avant de compter sur un plafond.

Sources

Documentation Claude Code : Run Claude Code through a gateway (1 octobre 2026)
Documentation Claude Code : Gateway compatibility guide (1 octobre 2026)
Documentation Claude Code : Other LLM gateways (1 octobre 2026)
Documentation Claude Code : Claude apps gateway (1 octobre 2026)
Documentation Claude Code : déploiement et exploitation de Claude apps gateway (1 octobre 2026)
Documentation Claude Code : configuration de Claude apps gateway (1 octobre 2026)
Microsoft Learn : AI gateway capabilities in Azure API Management (1 octobre 2026)
Cloudflare AI Gateway : tarifs (1 octobre 2026)
Cloudflare Data Localization Suite : compatibilité (1 octobre 2026)
Cloudflare AI Gateway : spend limits (1 octobre 2026)
Portkey : tarifs (1 octobre 2026)
Documentation Portkey : déploiement hybride (1 octobre 2026)
Portkey-AI/gateway sur GitHub (1 octobre 2026)
Documentation Kong : plugin AI Proxy (1 octobre 2026)
Documentation Kong : AI Rate Limiting Advanced (1 octobre 2026)
Documentation Kong : régions géographiques Konnect (1 octobre 2026)
AWS : Guidance for Multi-Provider Generative AI Gateway (1 octobre 2026)
Google Cloud : politique Apigee LLMTokenQuota (1 octobre 2026)
AWS : fiche modèle Claude Sonnet 5 (1 octobre 2026)
Anthropic : Claude sur Amazon Bedrock, endpoints globaux et régionaux (1 octobre 2026)
BerriAI/litellm LICENSE (1 octobre 2026)
RGPD (règlement (UE) 2016/679) (1 octobre 2026)