AI Act Unternehmen: Pflichten beim Einsatz von LLMs 2026

TL;DR

Für Unternehmen, die Claude oder andere LLMs einsetzen, regelt der AI Act vor allem drei Dinge: KI-Kompetenz der Belegschaft (Art. 4), Transparenz bei Chatbots und veröffentlichten Texten (Art. 50) und, nur bei Anhang-III-Anwendungen wie Bewerberauswahl oder Bonitätsprüfung, Hochrisiko-Pflichten ab 2. Dezember 2027. Die Modellpflichten trägt Anthropic.

Welche Fristen der KI-Verordnung gelten 2026 für Unternehmen?

Die KI-Verordnung gilt seit 2. August 2026 allgemein. Der Digital Omnibus on AI, Verordnung (EU) 2026/1744, ist seit 27. Juli 2026 in Kraft und hat die Hochrisiko-Regeln verschoben: Anhang-III-Anwendungen ab 2. Dezember 2027, produktbezogene Anhang-I-Systeme ab 2. August 2028. KI-Kompetenz und Verbote gelten bereits seit Februar 2025.

Wir haben beide Texte am 19. September 2026 auf EUR-Lex gelesen: die KI-Verordnung in der veröffentlichten Fassung und die Omnibus-Änderung. Der Omnibus erschien am 24. Juli 2026 im Amtsblatt und trat am dritten Tag danach in Kraft. Die Übersichtsseite der Kommission nennt dieselben Daten.

Datum	Was gilt	Wen es trifft
2. Feb. 2025	Kapitel I und II: Begriffe, KI-Kompetenz (Art. 4), verbotene Praktiken (Art. 5)	Alle Anbieter und Betreiber
2. Aug. 2025	Kapitel V: Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI)	Anthropic und andere Modellanbieter
27. Juli 2026	Omnibus in Kraft; Art. 102 bis 110 gelten	Alle (geänderte Regeln)
2. Aug. 2026	Allgemeine Geltung, inkl. Transparenzpflichten nach Art. 50	Anbieter und Betreiber
2. Dez. 2026	Neue Verbote zu nicht einvernehmlichen intimen Bildern und Missbrauchsdarstellungen; Frist für Art. 50(2)-Kennzeichnung bei generativen Systemen, die vor dem 2. Aug. 2026 auf dem Markt waren	Anbieter und Betreiber
2. Dez. 2027	Hochrisiko-Regeln für Anhang-III-Systeme (Art. 6(2))	Anbieter und Betreiber von Hochrisiko-Anwendungen
2. Aug. 2028	Hochrisiko-Regeln für Anhang-I-Produkte (Art. 6(1))	Produkthersteller

Die praktische Konsequenz: Wer Claude für Entwürfe, Recherche, Code oder interne Assistenten nutzt, muss heute Art. 4, Art. 5 und Art. 50 erfüllen. Das schwere Hochrisiko-Regime kommt in gut 14 Monaten, und nur für bestimmte Anwendungsfälle.

Anbieter oder Betreiber: Welche Rolle hat Ihr Unternehmen?

Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3(4)). Anbieter ist, wer ein KI-System oder GPAI-Modell entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Art. 3(3)). Anthropic ist Anbieter der Claude-Modelle. Ihre Rolle hängt davon ab, was Sie bauen.

Drei typische Konstellationen für Unternehmen, die Claude über Amazon Bedrock oder Google Cloud nutzen:

1. Sie kaufen ein fertiges Tool, das auf Claude basiert. Sie sind Betreiber dieses KI-Systems. Der Tool-Hersteller ist dessen Anbieter.
2. Sie bauen einen eigenen Assistenten oder Agenten auf der Claude-API. Die Inbetriebnahme umfasst ausdrücklich auch die Bereitstellung für den Eigengebrauch (Art. 3(11)). Ein interner Chatbot auf Claude macht Sie also zum Anbieter dieses KI-Systems und zugleich zu dessen Betreiber. Die Verordnung spricht vom nachgelagerten Anbieter, wenn ein System ein Modell eines anderen Unternehmens integriert (Art. 3(68)).
3. Sie setzen ein allgemeines Tool für eine Hochrisiko-Aufgabe ein. Wer die Zweckbestimmung eines KI-Systems mit allgemeinem Verwendungszweck so ändert, dass es hochriskant wird, gilt als Anbieter eines Hochrisiko-Systems mit allen Pflichten aus Art. 16 (Art. 25(1)(c)).

Fall 2 unterschätzen die meisten IT-Abteilungen. Der Betrieb auf Bedrock oder Google Cloud macht weder AWS noch Google zum Anbieter Ihrer Anwendung. Ihr Firmenname steht darauf, also tragen Sie die Systempflichten (zum Beispiel Art. 50(1)), während die Modellpflichten bei Anthropic bleiben. Welche Einsatzform zu Ihrem Unternehmen passt, von Claude Enterprise bis Bedrock, vergleicht unser Leitfaden Claude für Unternehmen.

Was bedeuten die GPAI-Pflichten für Claude-Kunden?

GPAI-Pflichten binden die Modellanbieter, nicht Sie. Seit 2. August 2025 muss Anthropic technische Dokumentation führen, Integratoren Informationen zu Fähigkeiten und Grenzen bereitstellen, eine Urheberrechts-Strategie umsetzen und eine Zusammenfassung der Trainingsinhalte veröffentlichen (Art. 53(1)). Für Ihre Compliance-Akte zählt vor allem die Dokumentation für nachgelagerte Anbieter.

Art. 53(1)(b) verpflichtet Modellanbieter, Anbietern von KI-Systemen, die das Modell integrieren wollen, Informationen zur Verfügung zu stellen, damit diese ihre eigenen Pflichten erfüllen können. Wenn Sie später Hochrisiko-Systeme bauen, fordern Sie genau diese Unterlagen an. Modelle mit mehr als 10^25 FLOPs Trainingsrechenleistung gelten als Modelle mit systemischem Risiko (Art. 51(2)) und haben Zusatzpflichten wie Adversarial Testing und Meldung schwerwiegender Vorfälle (Art. 55(1)). Welche Claude-Modelle formell so eingestuft sind, konnten wir auf keiner Kommissionsliste prüfen; wir nennen es deshalb nicht.

Der GPAI Code of Practice vom 10. Juli 2025 ist ein freiwilliges Instrument mit drei Kapiteln: Transparenz, Urheberrecht sowie Sicherheit. Die Kommission führt Anthropic, Amazon, Google, Microsoft, Mistral AI und OpenAI als Unterzeichner (Stand der Liste: 31. Juli 2026). Für Sie heißt das: Der Modellanbieter hat einen von der Kommission als geeignet bestätigten Weg, Art. 53 nachzuweisen. Keine einzige Betreiberpflicht geht dadurch auf den Anbieter über.

Zur Kennzeichnung von Ausgaben hat Anthropic am 14. August 2026 Text-Watermarking angekündigt, ausdrücklich zur Einhaltung des AI Act. Laut Ankündigung betrifft es künftige Claude-Modelle, eine Erkennungs-API ist in einer privaten Vorschau. Ob das Watermarking auch auf Bedrock oder Google Cloud greift, steht dort nicht. Verlassen Sie sich für Ihre eigenen Art.-50-Pflichten nicht darauf.

Welche Pflichten haben Betreiber heute schon?

Drei Blöcke gelten jetzt. Art. 4 verlangt von Anbietern und Betreibern Maßnahmen zur Förderung der KI-Kompetenz ihres Personals. Art. 50 verlangt Hinweise, wenn Menschen mit einem KI-System interagieren oder KI-Texte zu Themen von öffentlichem Interesse lesen. Art. 5 verbietet bestimmte Praktiken. Verstöße gegen Art. 50 kosten bis zu 15 Mio. EUR oder 3 % des Umsatzes.

KI-Kompetenz (Art. 4). Der Omnibus hat die Formulierung abgeschwächt. Die ursprüngliche Fassung verlangte Maßnahmen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz sicherzustellen. Die neue Fassung verlangt Maßnahmen, die die Entwicklung von KI-Kompetenz unterstützen, und stellt klar, dass kein bestimmtes Kompetenzniveau einzelner Personen garantiert werden muss. Die Pflicht besteht weiter. Ein dokumentierter Schulungsplan pro Rolle zu Datenumgang im Prompt, Halluzinationsrisiko und Eskalation ist ein vernünftiges Minimum. Binden Sie den Betriebsrat früh ein.

Transparenz (Art. 50).

Absatz	Pflicht	Wer sie trägt
50(1)	Hinweis, dass Personen mit einem KI-System interagieren, sofern nicht offensichtlich	Anbieter des Systems (Sie, wenn Sie den Chatbot gebaut haben)
50(2)	Synthetische Ausgaben maschinenlesbar und erkennbar kennzeichnen	Anbieter des generativen Systems
50(3)	Information bei Emotionserkennung oder biometrischer Kategorisierung	Betreiber
50(4)	Offenlegung von Deepfakes und von KI-Texten zu Themen öffentlichen Interesses, außer bei menschlicher Prüfung und redaktioneller Verantwortung	Betreiber

Die Information muss spätestens bei der ersten Interaktion oder Exposition erfolgen (Art. 50(5)). Bei einem Kundenservice-Bot auf Claude reicht ein Satz im Chatfenster. Dieselbe Pflicht trifft Sie mit ChatGPT; die Unterschiede bei Datenschutz und Preis vergleicht Claude oder ChatGPT für Unternehmen. Für Marketingtexte oder Berichte mit benannter redaktioneller Verantwortung greift die Textpflicht aus Art. 50(4) in der Regel nicht.

Verbotene Praktiken (Art. 5). Emotionserkennung am Arbeitsplatz und Social Scoring sind die klassischen Fallen. Ab 2. Dezember 2026 kommen durch den Omnibus Verbote für KI-Systeme hinzu, die nicht einvernehmliche intime Darstellungen oder Missbrauchsdarstellungen von Kindern erzeugen. Verstöße gegen Art. 5 kosten bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes (Art. 99(3)).

Wann wird Ihr Claude-Anwendungsfall hochriskant?

Hochriskant ist Ihre Claude-Anwendung, wenn ihre Zweckbestimmung unter einen der acht Bereiche in Anhang III fällt, etwa Personalauswahl, Bonitätsprüfung, Tarifierung von Lebens- und Krankenversicherungen, Bildung oder Zugang zu öffentlichen Leistungen. Die Pflichten gelten ab 2. Dezember 2027. Ein allgemeiner Assistent, ein Coding-Tool oder eine Dokumentenzusammenfassung ist nicht per se hochriskant.

Die für Unternehmen wichtigsten Bereiche:

• Beschäftigung (Anhang III Nr. 4): Systeme, die Bewerbungen analysieren und filtern oder Kandidaten bewerten, sowie Systeme für Entscheidungen über Beförderung, Kündigung oder Aufgabenverteilung.
• Grundlegende Dienste (Nr. 5): Kreditwürdigkeitsprüfung natürlicher Personen (5(b)) sowie Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen (5(c)).
• Bildung (Nr. 3): Zulassung, Bewertung von Lernergebnissen, Prüfungsaufsicht.

Art. 6(3) bietet einen Ausweg: Ein Anhang-III-System ist nicht hochriskant, wenn es nur eine eng gefasste Verfahrensaufgabe erfüllt, das Ergebnis einer abgeschlossenen menschlichen Tätigkeit verbessert, Muster erkennt ohne die menschliche Bewertung zu ersetzen oder eine vorbereitende Aufgabe übernimmt. Profiling natürlicher Personen ist immer hochriskant. Wer sich auf die Ausnahme beruft, muss die Bewertung dokumentieren (Art. 6(4)).

Als Betreiber eines Hochrisiko-Systems gilt ab Dezember 2027 Art. 26: Nutzung gemäß Betriebsanleitung, menschliche Aufsicht durch kompetente Personen, Aufbewahrung der Protokolle für mindestens sechs Monate, Information der Arbeitnehmervertretung vor dem Einsatz am Arbeitsplatz und Information der Betroffenen. Öffentliche Stellen, private Erbringer öffentlicher Dienste sowie Betreiber von Bonitäts- und Versicherungssystemen müssen zusätzlich eine Grundrechte-Folgenabschätzung durchführen (Art. 27). Nach dem Omnibus darf diese auf Ihre DSFA verweisen. Die DSGVO-Seite behandelt unser Anbietervergleich zu Claude und DSGVO.

Checkliste: AI Act für Claude auf Bedrock oder Google Cloud

Für die meisten Unternehmen passt die Arbeit in sechs Schritte: Inventur, Rollenklärung, KI-Kompetenz, Transparenz, Hochrisiko-Prüfung und Protokollierung. Keiner davon hängt davon ab, ob Sie Claude über Amazon Bedrock oder Google Cloud aufrufen. Die Cloud-Wahl entscheidet über DSGVO-Datenresidenz und Logging-Werkzeuge, nicht über Ihre Rolle nach dem AI Act. Was mit Firmendaten in den einzelnen Claude-Tarifen passiert, beschreibt unser Artikel zu Claude Datenschutz im Unternehmen.

1. Jede Claude-Nutzung erfassen. Anwendung, Zweckbestimmung, Modell, Cloud (Bedrock, Google Cloud, Foundry, Anthropic-API) und verantwortliche Person.
2. Rolle je Anwendung festlegen. Zugekauftes Tool: Betreiber. Eigenbau: Anbieter des Systems und Betreiber. Anhang-III-Zweck: möglicher Hochrisiko-Anbieter nach Art. 25.
3. KI-Kompetenz dokumentieren. Schulung pro Rolle mit Datum, Inhalt und Teilnehmenden. Einfach und wiederholbar halten.
4. Hinweise nach Art. 50 umsetzen. Chatbot-Hinweis bei der ersten Interaktion; Redaktionsregel für veröffentlichte Texte.
5. Gegen Anhang III und Art. 5 prüfen. Begründung pro Anwendungsfall festhalten. Emotionserkennung am Arbeitsplatz sofort stoppen.
6. Protokollierung jetzt einschalten. Das Model Invocation Logging von Bedrock ist laut AWS-Dokumentation standardmäßig deaktiviert und schreibt nach S3 oder CloudWatch Logs im selben Konto und in derselben Region.

aws bedrock put-model-invocation-logging-configuration --region eu-central-1 --logging-config '{"s3Config":{"bucketName":"my-ai-act-logs-eu","keyPrefix":"bedrock"},"textDataDeliveryEnabled":true}'
aws bedrock get-model-invocation-logging-configuration --region eu-central-1

Zwei Einschränkungen aus der AWS-Dokumentation. Das Logging erfasst nur Aufrufe über bedrock-runtime, nicht über bedrock-mantle; Anwendungen auf dem Single-Region-Endpunkt aus unserem Leitfaden zu Claude auf Bedrock in Frankfurt brauchen deshalb Logging in der Anwendung. Außerdem bleiben Logs gespeichert, bis Sie die Konfiguration löschen: Legen Sie eine S3-Lifecycle-Regel passend zu Ihrem DSGVO-Löschkonzept an. Auf Google Cloud schreibt das Request-Response-Logging Stichproben nach BigQuery; es ist Pre-GA und für Anthropic-Modelle nur per REST konfigurierbar. Die regionale Einrichtung beschreibt unser Leitfaden zu Claude auf Vertex AI in Europa.

Dieser Artikel ist redaktionelle Information und keine Rechtsberatung.

FAQ

Die Antworten geben die KI-Verordnung und den Omnibus wieder, wie wir sie am 19. September 2026 auf EUR-Lex gelesen haben. Jede Antwort steht für sich.

Was kostet ein Verstoß gegen den AI Act ein Unternehmen, das Claude einsetzt?

Verstöße gegen Betreiberpflichten nach Art. 26 oder Transparenzpflichten nach Art. 50 können bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes kosten, je nachdem, welcher Betrag höher ist (Art. 99(4)). Verbotene Praktiken kosten bis zu 35 Mio. EUR oder 7 %. Für KMU gilt jeweils der niedrigere Betrag; der Omnibus dehnt das für Bußgelder nach Art. 99(4) und (5) auf kleine Midcaps aus.

Anbieter vs. Betreiber: Was ist der Unterschied bei einem Claude-Chatbot?

Der Betreiber verwendet ein KI-System in eigener Verantwortung. Der Anbieter entwickelt es und nimmt es unter eigenem Namen in Betrieb. Baut Ihr Team einen Chatbot auf Claude für interne oder externe Nutzung, sind Sie beides: Anbieter des Chatbots und sein Betreiber. Anthropic bleibt Anbieter des zugrunde liegenden GPAI-Modells.

Hat der Omnibus die Pflicht zur KI-Kompetenz abgeschafft?

Nein. Art. 4 bindet weiterhin Anbieter und Betreiber. Der Omnibus hat die Pflicht von der Sicherstellung eines ausreichenden Kompetenzniveaus auf Maßnahmen zur Förderung der Kompetenzentwicklung umgestellt und klargestellt, dass kein bestimmtes Niveau pro Person garantiert werden muss. Dokumentierte Schulungen bleiben der einfachste Nachweis.

Ändert Claude über Bedrock statt über die Anthropic-API meine Pflichten nach dem AI Act?

Nein. Ihre Rolle hängt davon ab, was Sie mit dem KI-System tun, nicht von der Cloud. Anthropic bleibt in beiden Fällen Anbieter des GPAI-Modells. Die Cloud-Wahl betrifft DSGVO-Fragen wie Datenresidenz und AVV sowie die verfügbaren Logging-Werkzeuge.

Muss ich jeden Text kennzeichnen, den Claude für uns schreibt?

Nein. Art. 50(4) betrifft KI-Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und nimmt Texte mit menschlicher Prüfung und redaktioneller Verantwortung aus. Interne Entwürfe, Code und geprüfte Marketingtexte fallen in der Regel nicht darunter. Der Chatbot-Hinweis nach Art. 50(1) ist eine eigene Pflicht.

Ist ein Bewerber-Screening auf Basis von Claude hochriskant?

Sehr wahrscheinlich ja. Anhang III Nr. 4(a) nennt Systeme, die Bewerbungen analysieren und filtern oder Kandidaten bewerten. Sofern die Ausnahme nach Art. 6(3) nicht klar greift und dokumentiert ist, planen Sie ab 2. Dezember 2027 mit Hochrisiko-Pflichten: menschliche Aufsicht, Aufbewahrung der Protokolle und Information der Beschäftigten.

Quellen

1. EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung) (19. September 2026)
2. EUR-Lex: Verordnung (EU) 2026/1744 (Digital Omnibus on AI) (19. September 2026)
3. EU-Kommission: Rechtsrahmen für KI (19. September 2026)
4. EU-Kommission: General-Purpose AI Code of Practice (19. September 2026)
5. Anthropic: How Claude's text watermarking works (19. September 2026)
6. AWS Bedrock Docs: Model invocation logging (19. September 2026)
7. Google Cloud Docs: Request-response logging (19. September 2026)