KI-Verordnung: Pflichten für Unternehmen, die einen KI-Agenten betreiben
Inhalt
Die KI-Verordnung verlangt von Unternehmen, die einen KI-Agenten betreiben, zuerst eine Rollenklärung: Wer ein KI-System in eigener Verantwortung verwendet, ist nach Art. 3 Nr. 4 der Verordnung (EU) 2024/1689, EUR-Lex Betreiber. Daran knüpfen die Pflichten an, gestaffelt nach Risiko und mit eigenen Fristen. Fünf Schritte ordnen sie:
- Rolle klären: Betreiber, Anbieter oder beides (Art. 3 Nr. 3 und 4, Art. 25).
- KI-Kompetenz unterstützen: Art. 4, seit dem 2. Februar 2025.
- Transparenz prüfen: Art. 50, seit dem 2. August 2026, für bestimmte Systeme.
- Einstufung klären: Art. 6 und Anhang III, für jeden Vorgang einzeln.
- Betreiberpflichten vorbereiten: Art. 26, für Hochrisiko-KI-Systeme nach Anhang III ab dem 2. Dezember 2027.
Die Daten folgen aus Art. 113 in der durch den KI-Omnibus geänderten Fassung (konsolidierte Fassung, EUR-Lex).
Die Pflichten hängen an der Rolle, und die Rolle folgt aus Art. 3
Für den Alltag unterscheidet die Verordnung vor allem zwei Rollen. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Betreiber ist, wer es in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen, nicht beruflichen Tätigkeit (Art. 3 Nr. 4). Dasselbe Unternehmen kann beide Rollen zugleich haben.
Die Rolle kann sich ändern. Nach Art. 25 Abs. 1, EUR-Lex gilt ein Betreiber als Anbieter eines Hochrisiko-KI-Systems, wenn er es mit seinem Namen oder seiner Marke versieht, es wesentlich verändert oder die Zweckbestimmung eines Systems so ändert, dass es hochriskant wird. Ein Beispiel: Wer einen Agenten, der für Lieferscheine gebaut wurde, Bewerbungen sichten lässt, ändert dessen Zweckbestimmung und kann nach Art. 25 Abs. 1 Buchst. c zum Anbieter werden, denn das Sichten und Filtern von Bewerbungen steht in Anhang III Nr. 4. Bei uns ist ein neuer Zweck ohnehin ein neuer Vorgang, keine Erweiterung des bestehenden.
„Betreiben" heißt bei Agentivo überwachen, korrigieren, verantworten
Wenn wir schreiben, dass wir einen KI-Mitarbeiter betreiben, beschreiben wir unsere Leistung nach dem Go-live: Wir überwachen ihn, korrigieren ihn und verantworten das Ergebnis. Das Wort ist dasselbe wie in der Verordnung, die Bedeutung nicht.
Die Bundesnetzagentur erläutert, dass eine juristische Person Betreiber bleibt, wenn sie Auftragnehmer in den Betrieb eines KI-Systems einbezieht, solange diese in ihrem Namen, unter ihrer Verantwortung und Kontrolle handeln. Einzelne Mitarbeitende, die nach den Vorgaben des Unternehmens handeln, sind danach keine eigenen Betreiber.
Wer bei Ihrem Vorgang Betreiber und wer Anbieter ist, folgt deshalb aus Art. 3, Art. 25 und dem Vertrag, nicht aus unserer Wortwahl. Klären Sie das schriftlich, bevor der Agent startet.
Art. 4 verlangt seit Februar 2025 Maßnahmen zur KI-Kompetenz
Die KI-Kompetenz betrifft jeden Anbieter und Betreiber, unabhängig vom Risiko des Systems. Seit dem KI-Omnibus verlangt Art. 4, EUR-Lex Maßnahmen, die die KI-Kompetenz des Personals und anderer Personen unterstützen, die im Auftrag des Unternehmens mit Betrieb und Nutzung befasst sind. Ein bestimmtes Niveau für einzelne Personen schreibt er nicht vor. Die Bundesnetzagentur empfiehlt, die Maßnahmen zu dokumentieren, und weist darauf hin, dass die Verordnung keine Zertifizierung von Schulungen verlangt.
Für einen betriebenen Agenten zählen vor allem drei Gruppen: wer übergebene Fälle bearbeitet, wer das Entscheidungsprotokoll liest und wer den Eingriffspfad auslösen darf. Was diese Menschen wissen sollten, beschreibt der Beitrag zur KI-Kompetenz-Schulung.
Art. 50 gilt seit August 2026 für Systeme an der Schnittstelle zu Menschen
Laut Bundesnetzagentur gelten die Transparenzpflichten nach Art. 50 seit dem 2. August 2026. Anbieter sorgen dafür, dass Menschen erfahren, dass sie mit einem KI-System interagieren, wenn es für die direkte Interaktion bestimmt ist (Abs. 1), und kennzeichnen synthetisch erzeugte Inhalte maschinenlesbar (Abs. 2). Betreiber legen unter anderem offen, wenn KI-erzeugter Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, ein Mensch hat ihn redaktionell geprüft und trägt die Verantwortung (Abs. 4).
Ob Art. 50, EUR-Lex einen Klassifizierungs-Agenten betrifft, hängt davon ab, ob er für die direkte Interaktion mit Menschen bestimmt ist oder Inhalte erzeugt, die veröffentlicht werden. Das ist für jeden Vorgang gesondert zu prüfen, besonders wenn der Agent Menschen etwas sendet, etwa eine Eingangsbestätigung.
Ist der Agent hochriskant, kommen ab Dezember 2027 die Pflichten aus Art. 26 dazu
Ob ein Agent hochriskant ist, folgt aus Art. 6 und Anhang III und wird für jeden Vorgang einzeln bewertet; die Kriterien erklärt der Beitrag zu Hochrisiko-KI-Systemen. Ist er es, gelten für Systeme nach Anhang III ab dem 2. Dezember 2027 die Betreiberpflichten aus Art. 26, EUR-Lex. So verteilen sie sich im Alltag:
| Pflicht nach Art. 26 | Was Ihr Unternehmen tut | Was der Betrieb durch Agentivo beiträgt |
|---|---|---|
| Verwendung gemäß Betriebsanleitung (Abs. 1) | nutzt den Agenten nur für den vereinbarten Vorgang | die vereinbarte Abgrenzung und das Übergabedokument |
| Menschliche Aufsicht (Abs. 2) | benennt Personen mit Kompetenz, Ausbildung und Befugnis | die Konfidenzschwelle, unterhalb derer der Agent Fälle an diese Personen übergibt |
| Eingabedaten (Abs. 4) | sorgt für passende und repräsentative Eingabedaten, soweit sie seiner Kontrolle unterliegen | Klassen und Beispiele aus dem Prozessgespräch in Woche 1 |
| Überwachung (Abs. 5) | informiert bei Risiko Anbieter und Behörde, setzt die Verwendung aus und meldet schwerwiegende Vorfälle | wir überwachen und korrigieren; der Eingriffspfad hält den Agenten an |
| Protokolle (Abs. 6) | bewahrt sie mindestens sechs Monate auf, soweit sie seiner Kontrolle unterliegen | das Entscheidungsprotokoll mit Zeitstempel und Begründung |
| Information der Beschäftigten (Abs. 7) | informiert Arbeitnehmervertretung und Betroffene vor dem Einsatz | liegt bei Ihnen |
| Information betroffener Personen (Abs. 11) | informiert sie, wenn das System Entscheidungen über sie trifft oder dabei unterstützt | liegt bei Ihnen |
Die Pflicht bleibt beim Betreiber. Die rechte Spalte zeigt, woran er im Betrieb anknüpfen kann, nicht, dass die Pflicht damit erfüllt ist. Einrichtungen des öffentlichen Rechts und private Einrichtungen, die öffentliche Dienste erbringen, schätzen vor dem Einsatz zusätzlich die Folgen für Grundrechte ab (Art. 27).
Heute gelten Art. 4 und Art. 50, die Hochrisiko-Pflichten erst ab Dezember 2027
Die Verordnung (EU) 2026/1744, EUR-Lex, der KI-Omnibus, hat die Fristen für Hochrisiko-KI-Systeme verschoben; sie ist laut Bundesnetzagentur seit dem 27. Juli 2026 in Kraft. Für Betreiber gilt nach Art. 113 in der konsolidierten Fassung, EUR-Lex:
| Seit oder ab | Was für Betreiber gilt | Grundlage |
|---|---|---|
| 2. Februar 2025 | KI-Kompetenz | Art. 4; Art. 113 Buchst. a |
| 2. August 2026 | Transparenzpflichten für bestimmte Systeme | Art. 50; Art. 113 Satz 2 |
| 2. Dezember 2027 | Betreiberpflichten für Hochrisiko-KI-Systeme nach Anhang III | Art. 26; Art. 113 Buchst. c Ziffer i |
| 2. August 2028 | Dieselben Pflichten für Hochrisiko-KI-Systeme nach Anhang I | Art. 113 Buchst. c Ziffer ii |
Der ursprüngliche Text von 2024 sah für Anhang III den 2. August 2026 vor. Ältere Unterlagen gleichen Sie deshalb am besten mit der konsolidierten Fassung ab.
Wenn jemand fragt, zählt, was aufgeschrieben ist
Ob eine Prüfung, eine Behörde nach Art. 26 Abs. 12 oder die eigene Geschäftsführung fragt: Ein Unternehmen, das einen KI-Agenten betreibt, sollte nach der KI-Verordnung diese Unterlagen vorweisen können:
- die Rollenklärung für den Vorgang, mit Verweis auf den Vertrag;
- die Einstufung des Vorgangs nach Art. 6, die für ein System aus Anhang III, das nicht als hochriskant gilt, der Anbieter nach Art. 6 Abs. 4 dokumentiert;
- die Maßnahmen zur KI-Kompetenz nach Art. 4;
- das Entscheidungsprotokoll mit jeder Zuordnung, Zeitstempel und Begründung;
- den dokumentierten menschlichen Eingriffspfad;
- den Auftragsverarbeitungsvertrag nach der DSGVO, dazu der Beitrag zu DSGVO-konformer KI.
Zu jedem Betrieb durch Agentivo gehört:
- Vollständig innerhalb der EU, verantwortet aus Düsseldorf.
- Zu jedem Pilotbetrieb gehört ein Auftragsverarbeitungsvertrag (AVV).
- Das Entscheidungsprotokoll steht als Nachweis für Prüfungen nach der KI-Verordnung zur Verfügung.
- Ein festgelegter menschlicher Eingriffspfad, dokumentiert und jederzeit auslösbar.
Agentivo ist keine Kanzlei. Dieser Beitrag erklärt die Pflichten aus der Verordnung; ob sie für Ihren Vorgang gelten und wie Sie sie erfüllen, bewerten Sie mit Ihrer rechtlichen Beratung.
Häufige Fragen
Gilt die KI-Verordnung auch für kleine Unternehmen?
Ja. Art. 2 erfasst Betreiber von KI-Systemen mit Sitz oder Standort in der Union, ohne Größenschwelle; ausgenommen ist nur die persönliche, nicht berufliche Nutzung. Art. 4 verlangt von jedem Betreiber Maßnahmen zur KI-Kompetenz, und nach Art. 4 Abs. 2 unterstützen Kommission und Mitgliedstaaten dabei besonders kleine und mittlere Unternehmen. Welche Pflichten darüber hinaus gelten, hängt von Rolle und Risiko ab.
Ist unser Unternehmen Betreiber, wenn Agentivo den Agenten betreibt?
Das folgt aus Art. 3 und dem Vertrag, nicht aus dem Wort. Betreiber ist, wer das System in eigener Verantwortung verwendet. Laut Bundesnetzagentur bleibt eine juristische Person Betreiber, wenn Auftragnehmer in ihrem Namen, unter ihrer Verantwortung und Kontrolle mitarbeiten. Bei uns heißt betreiben: überwachen, korrigieren, verantworten. Klären Sie die Rollen für Ihren Vorgang vor dem Start, am besten schriftlich.
Was gilt, wenn der Agent nicht hochriskant ist?
Dann gelten die Betreiberpflichten aus Art. 26 nicht. Art. 4 zur KI-Kompetenz gilt trotzdem, und Art. 50 gilt, wenn der Agent zu den dort genannten Systemen gehört. Ist ein System in Anhang III genannt, aber nach Art. 6 Abs. 3 nicht hochriskant, dokumentiert der Anbieter diese Bewertung vor dem Inverkehrbringen und registriert das System nach Art. 49 Abs. 2.
Was gilt heute schon?
Seit dem 2. Februar 2025 gilt Art. 4: Maßnahmen, die die KI-Kompetenz der Menschen am System unterstützen. Seit dem 2. August 2026 gelten die Transparenzpflichten nach Art. 50 für die dort genannten Systeme. Die Betreiberpflichten für Hochrisiko-KI-Systeme nach Anhang III folgen ab dem 2. Dezember 2027 (konsolidierte Fassung). Rollenklärung und Einstufung lassen sich schon jetzt vorbereiten, denn beide brauchen Tatsachen aus dem Betrieb.
Ersetzt ein Pilotbetrieb die rechtliche Prüfung?
Nein. Agentivo ist keine Kanzlei. Der Pilotbetrieb liefert die Tatsachen, auf die sich eine Prüfung stützt: den vereinbarten Vorgang mit seiner Abgrenzung, das Entscheidungsprotokoll mit Zeitstempel und Begründung jeder Zuordnung, den dokumentierten Eingriffspfad und am Ende eine schriftliche Auswertung. Ob Pflichten gelten und erfüllt sind, bewerten Sie mit Ihrer rechtlichen Beratung.
Der nächste Schritt
Wenn Ihr Unternehmen einen Eingang heute von Hand zuordnet und Sie für jede Zuordnung einen Nachweis wollen, ist das der Vorgang für einen Pilotbetrieb: ein Eingang, eine Aufgabe, ein Zielsystem. Festpreis, vor dem Start vereinbart. Sieben Wochen, vier davon im produktiven Betrieb auf Ihren echten Dokumenten.