Gouvernance IA pour Claude : rôles, validations, contrôles
Gouvernance IA pour Claude en entreprise : rôles et RACI, validation des cas d'usage, niveaux de risque de l'AI Act, RGPD et contrôles sur Bedrock et Vertex AI.
TL;DR
Une gouvernance IA pour Claude repose sur trois éléments : des responsables nommés avec une matrice RACI, une validation par cas d’usage classée d’après l’AI Act, et des contrôles techniques qui appliquent la décision. Sur Claude Enterprise, ce sont le SSO, les rôles, les plafonds de dépenses et les journaux d’audit. Sur Bedrock et Vertex, des listes de modèles autorisés par SCP et politique d’organisation.
Que doit couvrir la gouvernance IA de Claude ?
Une gouvernance IA utile répond à quatre questions pour chaque cas d’usage Claude : à qui il appartient, qui l’a validé, dans quel niveau de risque il se situe et quel contrôle technique fait respecter la décision. Une politique sans le quatrième point échoue à l’audit. Des contrôles sans les trois premiers déplacent les décisions vers l’équipe plateforme, sans trace.
Le point d’ancrage juridique est l’AI Act. Une entreprise qui utilise Claude sous sa propre autorité est un « déployeur » au sens de l’article 3, point 4. Anthropic porte les obligations du fournisseur de modèle. Les vôtres dépendent de l’usage, ce qui rend la validation par cas d’usage plus importante que le choix du fournisseur. La checklist complète du déployeur figure dans notre guide sur l’AI Act pour les entreprises qui utilisent des LLM.
L’Omnibus numérique sur l’IA, règlement (UE) 2026/1744 du 8 juillet 2026, a modifié deux points qu’un comité de gouvernance doit connaître. D’abord, l’article 4 demande désormais aux fournisseurs et déployeurs de prendre des mesures pour soutenir la maîtrise de l’IA, et précise qu’ils n’ont pas à garantir un niveau donné pour chaque personne. Ensuite, les obligations haut risque s’appliquent au 2 décembre 2027 pour l’annexe III et au 2 août 2028 pour les produits de l’annexe I. Ce délai sert à construire le dispositif avant que les obligations lourdes ne s’appliquent.
Le RGPD s’applique en parallèle. L’article 35, paragraphe 1 du RGPD impose une analyse d’impact (AIPD) avant un traitement qui utilise de nouvelles technologies et présente un risque élevé probable. Avec des données de clients ou de salariés, la question se pose presque toujours. Nous recommandons un formulaire d’entrée unique pour le classement AI Act et le pré-examen AIPD, afin que les deux reposent sur les mêmes faits.
Quels rôles et quelle matrice RACI ?
Cinq rôles portent la gouvernance de Claude dans une ETI européenne : un responsable métier par cas d’usage, un responsable de la gouvernance IA, le délégué à la protection des données (DPO), la sécurité des systèmes d’information et l’équipe plateforme qui gère le tenant Claude ou les comptes cloud. Une personne peut cumuler deux rôles, mais celui qui demande ne valide jamais.
Les rôles reposent sur des textes précis. Le DPO informe, conseille et contrôle le respect du RGPD (article 39, paragraphe 1). Il conseille donc, mais ne porte pas le risque métier. L’article 26, paragraphe 2 de l’AI Act exige que les déployeurs de systèmes à haut risque confient le contrôle humain à des personnes qui ont la compétence, la formation et l’autorité nécessaires : une personne nommée par cas d’usage, pas un comité. L’article 26, paragraphe 7 impose aux employeurs d’informer les représentants des travailleurs avant d’utiliser un système à haut risque sur le lieu de travail.
| Activité | Responsable métier | Gouvernance IA | DPO | Sécurité | Équipe plateforme | Représentants du personnel |
|---|---|---|---|---|---|---|
| Soumettre le cas d’usage et l’inventaire des données | R/A | C | I | I | I | |
| Classement au titre de l’AI Act | C | R/A | C | |||
| Pré-examen AIPD et AIPD | C | C | R (conseille) | C | ||
| Valider modèle, région et accès | C | A | C | R | R | |
| Configurer SSO, rôles, listes autorisées, budgets | I | I | C | R/A | ||
| Information sur un système haut risque au travail | C | R | C | I | ||
| Contrôle humain en exploitation | R/A | C | ||||
| Revue trimestrielle et dossier de preuves | C | R/A | C | C | R |
R = réalise, A = approuve, C = consulté, I = informé. Cette matrice est notre recommandation, pas un modèle légal. Rattachez-la aux rôles de votre SMSI existant plutôt que de créer une structure parallèle.
Comment valider un nouveau cas d’usage ?
Validez des cas d’usage, pas des outils. « Utiliser Claude » ne se classe pas. « Résumer les tickets du support avec Claude Sonnet via Bedrock UE » se classe en dix minutes. Le circuit ci-dessous fait passer les cas à faible risque par une voie rapide et n’arrête que ce qui touche l’annexe III ou des données personnelles à grande échelle.
- Demande. Le responsable métier décrit la finalité, les utilisateurs, les catégories de données, la surface Claude (chat Enterprise, API, Claude Code, Bedrock, Vertex) et l’effet éventuel des résultats sur des décisions concernant des personnes.
- Classement. La gouvernance IA vérifie : pratique interdite, haut risque au sens de l’annexe III, cas de transparence ou risque minimal. L’emploi figure à l’annexe III, point 4 : recrutement et sélection, décisions de promotion ou de licenciement, attribution de tâches en fonction du comportement et suivi de la performance. L’évaluation de la solvabilité des personnes physiques figure au point 5, b).
- Protection des données. Le DPO décide si une AIPD est nécessaire et si le contrat de sous-traitant couvre la surface choisie.
- Sécurité. La sécurité confirme le modèle d’accès (groupe SSO, rôle IAM, compte de service), le profil de région et la journalisation.
- Décision. L’approbateur signe avec une date d’expiration. Nous recommandons 12 mois pour un risque minimal et un cycle plus court pour le haut risque.
- Application. L’équipe plateforme ajoute le modèle à la liste autorisée, rattache le groupe SSO et fixe un budget. Aucun changement de contrôle sans ticket qui cite la validation.
- Revue. À l’expiration ou après un changement important (nouveau modèle, nouvelles données, nouveaux utilisateurs), retour à l’étape 2.
Deux résultats de l’étape 2 changent la charge. Pour l’annexe III, l’article 27 impose aux organismes publics et aux entités privées qui fournissent des services publics une analyse d’impact sur les droits fondamentaux avant le déploiement. Si vos équipes publient des textes générés par Claude pour informer le public sur des questions d’intérêt public, l’article 50, paragraphe 4 impose de le signaler, sauf relecture humaine avec une personne qui porte la responsabilité éditoriale.
Quels contrôles Claude appliquent les décisions ?
Une décision de gouvernance ne tient que si un contrôle l’impose. Claude Enterprise fournit l’identité, les rôles, les plafonds de dépenses et les journaux d’audit au niveau du tenant. Bedrock et Vertex fournissent des listes de modèles autorisés à l’échelle de l’organisation et la journalisation des requêtes. Le choix dépend de la surface : les utilisateurs du chat vivent dans Claude Enterprise, les applications dans votre compte cloud.
Claude Enterprise. La page rôles et permissions cite quatre rôles : Primary Owner (un seul par organisation), Owner, Admin et User. Sur Enterprise, seuls les Owners et le Primary Owner gèrent le SSO, demandent les journaux d’audit et pilotent la conservation des données. Les Admins ne peuvent ni inviter ou retirer d’autres admins, ni modifier les rôles : c’est la séparation des tâches recherchée. Les groupes se synchronisent avec votre fournisseur d’identité via SCIM (les groupes imbriqués sont ignorés) et portent des plafonds mensuels par utilisateur ; une limite individuelle prime sur celle du groupe. Les journaux d’audit sont réservés à l’offre Enterprise, un export couvre les 180 derniers jours et le lien expire après 24 heures. Ils contiennent des identifiants, pas les titres ni le contenu des conversations. Avec des clés gérées par le client, on passe par la Compliance API. Sur la résidence : la présentation de l’offre Enterprise mentionne une option d’inférence aux États-Unis uniquement ; nous n’y avons trouvé aucune option équivalente pour l’UE.
Amazon Bedrock. AWS indique que l’accès aux modèles est activé par défaut avec les bonnes permissions Marketplace dans toutes les régions commerciales. La gouvernance commence donc par un refus. Refuser seulement aws-marketplace:Subscribe ne bloque pas le premier appel, car Bedrock lance l’abonnement automatiquement. Il faut refuser bedrock:InvokeModel par SCP ou IAM. L’exemple de blocage de l’inférence peut servir de SCP, et refuser InvokeModel bloque aussi Converse et StartAsyncInvoke. La documentation des profils d’inférence montre comment bloquer le routage global :
{
"Version": "2012-10-17",
"Statement": [
{
"Sid": "DenyGlobalRouting",
"Effect": "Deny",
"Action": ["bedrock:InvokeModel*"],
"Resource": "*",
"Condition": { "StringEquals": { "aws:RequestedRegion": "unspecified" } }
},
{
"Sid": "DenyUnapprovedModel",
"Effect": "Deny",
"Action": [
"bedrock:InvokeModel",
"bedrock:InvokeModelWithResponseStream",
"bedrock:CreateModelInvocationJob"
],
"Resource": "arn:aws:bedrock:*::foundation-model/MODELE_NON_VALIDE"
}
]
}Testez la SCP dans une OU bac à sable avant de l’attacher à la production. La journalisation des invocations est désactivée par défaut, n’écrit que vers S3 ou CloudWatch dans le même compte et la même région, et ne couvre que le point de terminaison bedrock-runtime, pas bedrock-mantle. Les requêtes et réponses jusqu’à 100 Ko figurent directement dans l’entrée de journal. Les profils qui gardent les données dans l’UE sont détaillés dans notre guide Claude sur AWS Bedrock en Europe.
Google Cloud (Vertex AI). Google range désormais cette page sous Gemini Enterprise Agent Platform. La politique Model Garden utilise la contrainte vertexai.allowedModels au niveau organisation, dossier ou projet. Sans politique, tous les modèles et actions sont autorisés. Un refus explicite l’emporte sur une autorisation, chaque modèle doit être listé un par un, et une politique contient 500 valeurs au maximum. Les fonctions de modèles partenaires web_search et structured_outputs sont désactivées par défaut pour les projets d’une organisation et s’activent via vertexai.allowedPartnerModelFeatures.
name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels
spec:
rules:
- values:
allowedValues:
- publishers/anthropic/models/MODELE_VALIDE:predictUne liste d’autorisation refuse implicitement tous les autres modèles. C’est la posture que nous recommandons pour les dossiers de production. Les points de terminaison UE pour Claude sur Google Cloud sont décrits dans notre guide Claude sur Vertex AI en Europe.
NIST AI RMF, ISO 42001 ou AI Act : quel cadre suivre ?
Vous appliquez l’AI Act parce que c’est la loi. Vous empruntez la structure du NIST AI RMF parce qu’il est gratuit et concret. Vous adoptez ISO/IEC 42001 si des clients ou des auditeurs exigent un système de management vérifiable. Pour une ETI européenne, nous recommandons l’AI Act comme socle, ISO 42001 comme structure cible et le NIST comme cahier de travail.
| AI Act | NIST AI RMF | ISO/IEC 42001 | |
|---|---|---|---|
| Nature | Règlement (UE) 2024/1689, contraignant | Cadre volontaire | Norme internationale d’exigences |
| Version | JO 2024 ; Omnibus 2026/1744 publié le 24 juillet 2026 | AI RMF 1.0 du 26 janvier 2023 ; profil IA générative NIST AI 600-1 du 26 juillet 2024 | Édition 1, décembre 2023, 51 pages |
| Coût du texte | Gratuit sur EUR-Lex | Gratuit | 225 CHF sur iso.org |
| Structure | Rôles (fournisseur, déployeur), niveaux de risque, obligations par niveau | Quatre fonctions : Govern, Map, Measure, Manage | Système de management de l’IA : établir, mettre en œuvre, tenir à jour, améliorer |
| Apport pour un programme Claude | Obligations légales : maîtrise de l’IA, transparence, obligations haut risque, journaux | Vocabulaire du risque et actions, risques propres à l’IA générative | Système de management auditable à côté d’ISO 27001 |
| Sanction | Jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires pour des obligations comme l’article 26 | Aucune | Aucune sanction légale |
Deux points tirés des sources. Le NIST présente l’AI RMF comme destiné à un usage volontaire. La page ISO décrit 42001 comme une norme qui fixe les exigences pour établir, mettre en œuvre, tenir à jour et améliorer en continu un système de management de l’IA, pour les organisations qui fournissent ou utilisent de l’IA. Aucun des deux ne remplace l’AI Act. Les amendes de l’article 99, paragraphe 4 pour les obligations du déployeur de l’article 26 atteignent 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu.
Exploiter en interne ou externaliser ?
Gardez les décisions, externalisez la mécanique si vous manquez de personnes. La responsabilité des validations, du classement et du contrôle humain ne se transfère pas à un prestataire, car l’article 26 vise le déployeur. Ce qui se délègue, c’est le travail récurrent : préparation du comité, configuration des contrôles, revue des journaux et collecte des preuves.
Ce que représente l’exploitation interne d’après notre estimation, pour une entreprise avec 5 à 15 cas d’usage Claude (chiffres non sourcés) :
| Tâche récurrente | Rôle | Notre estimation |
|---|---|---|
| Tri des demandes et classement | Gouvernance IA | 1 à 2 heures par nouveau cas |
| Comité de gouvernance | Gouvernance IA, DPO, sécurité, métiers | Mensuel, 1 heure plus la préparation |
| Changements de contrôles (groupes SSO, listes, budgets) | Équipe plateforme | 2 à 4 heures par mois |
| Export et revue des journaux d’audit | Sécurité | Mensuel ; les exports Claude couvrent 180 jours, un trimestre oublié fait perdre des données |
| Dossier de preuves pour l’audit | Gouvernance IA et plateforme | 2 à 3 jours par an |
L’externalisation a du sens si personne en interne ne sait lire à la fois une SCP et l’annexe III, si vous exploitez Claude sur plusieurs surfaces (Enterprise, Bedrock et Vertex en même temps) ou si un audit ISO 42001 arrive dans quelques mois. Elle n’en a pas pour un seul cas d’usage à faible risque sur Claude Enterprise : les rôles et journaux intégrés suffisent, et un prestataire ajoute un acteur dans vos flux de données.
Ce qu’il faut exiger d’un prestataire sur ce sujet :
- Modèle d’accès. Lecture seule par défaut sur les journaux d’audit et la configuration cloud, écriture uniquement via votre processus de changement. Aucun rôle Owner permanent dans votre tenant Claude.
- Contrat de sous-traitant. Un contrat au sens de l’article 28, paragraphe 3 du RGPD dès que le prestataire voit des prompts, des journaux ou des données utilisateurs, et la liste à jour de ses sous-traitants ultérieurs, qu’il ne peut engager sans votre autorisation écrite (article 28, paragraphe 2).
- SLA. Délais pour retirer un accès et pour traiter un incident, cadence fixe de revue des journaux.
- Propriété des preuves. Validations, RACI et dossiers de preuves stockés chez vous, pas chez le prestataire.
- Réversibilité. Configuration documentée (SCP, politiques d’organisation, correspondances SSO) dans un format que votre équipe peut appliquer sans lui.
Les questions de confidentialité propres à Claude sont traitées dans notre article sur la confidentialité des données Claude en entreprise.
FAQ
Une entreprise qui utilise Claude doit-elle mettre en place une gouvernance IA ?
L’AI Act n’emploie pas le terme, mais ses obligations en exigent les briques. L’article 4 demande des mesures de maîtrise de l’IA, l’article 26 exige pour le haut risque un contrôle humain nommé, une conservation des journaux d’au moins six mois et l’information des représentants des travailleurs. Sans rôles, circuit de validation et journaux, vous n’y arrivez pas.
Combien coûte la gouvernance IA de Claude ?
Le poste principal est le temps des équipes, pas les licences. Le NIST AI RMF et le texte de l’AI Act sont gratuits. ISO/IEC 42001 coûte 225 CHF sur iso.org ; la mise en œuvre et un éventuel audit externe s’ajoutent. Anthropic présente les journaux d’audit, SCIM et les plafonds de dépenses comme des fonctions de l’offre Enterprise.
NIST AI RMF ou ISO 42001 : lequel choisir ?
ISO/IEC 42001 si vous appliquez déjà ISO 27001 ou si vos clients demandent un système de management de l’IA auditable. Le NIST AI RMF comme cahier de travail gratuit si vous avez besoin d’une structure rapidement, sans audit. Les deux s’ajoutent à l’AI Act, qui s’applique dans tous les cas.
Qui doit valider un nouveau cas d’usage Claude ?
Le responsable de la gouvernance IA ou un comité approuve, le métier demande, le DPO et la sécurité sont consultés. Celui qui demande ne valide jamais son propre cas. Pour les usages RH de l’annexe III, point 4, informez les représentants du personnel avant la mise en service.
Combien de temps conserver les journaux Claude ?
Pour les systèmes à haut risque, l’article 26, paragraphe 6 de l’AI Act impose au moins six mois pour les journaux générés automatiquement sous votre contrôle, sauf disposition contraire. Les exports des journaux d’audit Claude remontent à 180 jours, planifiez-les donc. Sur Bedrock, les journaux d’invocation restent jusqu’à la suppression de la configuration.
Sources
- EUR-Lex : règlement (UE) 2024/1689 (AI Act) (1 octobre 2026)
- EUR-Lex : règlement (UE) 2026/1744 (Omnibus numérique sur l'IA) (1 octobre 2026)
- EUR-Lex : règlement (UE) 2016/679 (RGPD) (1 octobre 2026)
- NIST : AI Risk Management Framework (1 octobre 2026)
- ISO : ISO/IEC 42001:2023 (1 octobre 2026)
- Claude Help Center : rôles et permissions (1 octobre 2026)
- Claude Help Center : journaux d'audit (1 octobre 2026)
- Claude Help Center : groupes et plafonds de dépenses (1 octobre 2026)
- Claude Help Center : offre Enterprise (1 octobre 2026)
- AWS : accès aux modèles Bedrock (1 octobre 2026)
- AWS : exemples de politiques Bedrock (1 octobre 2026)
- AWS : prérequis des profils d'inférence (1 octobre 2026)
- AWS : journalisation des invocations Bedrock (1 octobre 2026)
- Google Cloud : contrôler l'accès aux modèles Model Garden (1 octobre 2026)