DSGVO-konforme KI: Betrieb in der EU, AVV inklusive
Inhalt
DSGVO-konforme KI ist keine Eigenschaft eines Produkts, sondern einer Verarbeitung. Die Datenschutz-Grundverordnung fragt, wie personenbezogene Daten verarbeitet werden, und der Verantwortliche muss die Einhaltung nachweisen können (Art. 5 Abs. 2). Setzen Sie KI auf eingehenden Dokumenten ein, sind sieben Fragen zu klären:
| Frage | DSGVO | Wer sie beantwortet |
|---|---|---|
| Auf welcher Rechtsgrundlage? | Art. 6 | Sie als Verantwortlicher |
| Für welchen Zweck, mit welchen Daten? | Art. 5 Abs. 1 Buchst. b und c | Sie; ein Vorgang grenzt beides ein |
| Wer verarbeitet in Ihrem Auftrag? | Art. 28 | ein Auftragsverarbeiter, mit Auftragsverarbeitungsvertrag (AVV) |
| Wie sind die Daten geschützt? | Art. 32 | Verantwortlicher und Auftragsverarbeiter |
| Verlassen Daten die EU? | Art. 44 ff. | Verantwortlicher und Auftragsverarbeiter |
| Entscheidet ein System allein über Menschen? | Art. 22 | Sie, mit Ihrem Datenschutzbeauftragten |
| Ist eine Datenschutz-Folgenabschätzung nötig? | Art. 35 | Sie, unterstützt vom Auftragsverarbeiter |
Die DSGVO bewertet Ihre Verarbeitung, nicht das Werkzeug
Eine Software kann die DSGVO nicht für Sie einhalten. Verantwortlicher ist nach Art. 4 Nr. 7 DSGVO, wer über Zwecke und Mittel der Verarbeitung entscheidet. Er setzt nach Art. 24 geeignete technische und organisatorische Maßnahmen um und muss nachweisen können, dass die Verarbeitung der Verordnung entspricht.
Ein Dienstleister, der personenbezogene Daten in Ihrem Auftrag verarbeitet, ist Auftragsverarbeiter (Art. 4 Nr. 8). Er hat eigene Pflichten, etwa zur Sicherheit nach Art. 32, nimmt Ihnen aber Zweck und Rechtsgrundlage nicht ab. Setzt eine Stelle die KI-Anwendung eines externen Anbieters zu eigenen Zwecken ein, besteht laut Datenschutzkonferenz häufig ein Auftragsverarbeitungsverhältnis nach Art. 28.
Die Frage lautet deshalb nicht, ob ein Werkzeug DSGVO-konform ist, sondern ob Ihre Verarbeitung es ist und was der Dienstleister dazu beiträgt.
Ein Vorgang legt Zweck und Daten fest
Art. 5 Abs. 1 DSGVO verlangt festgelegte, eindeutige und legitime Zwecke (Zweckbindung) und Daten, die auf das notwendige Maß beschränkt sind (Datenminimierung). Laut Datenschutzkonferenz ist die vorab festgelegte Zweckbestimmung elementar, weil nur an ihr geprüft werden kann, ob eine Verarbeitung erforderlich ist.
Ein Vorgang liefert diese Festlegung: ein Eingang, eine Aufgabe, ein Zielsystem. Der KI-Mitarbeiter liest ein eingehendes Dokument, erkennt Metadaten wie Absender, Datum und Aktenzeichen, ordnet es dem zuständigen Fachbereich zu und legt dort die Aufgabe an. In ein zweites System schreibt er nicht.
Welche Rechtsgrundlage nach Art. 6 die Verarbeitung trägt, legen Sie als Verantwortlicher fest. Die Datenschutzkonferenz betont, dass jeder Verarbeitungsschritt mit einer KI-Anwendung eine Rechtsgrundlage braucht. Ein AVV ersetzt sie nicht.
Der AVV regelt, was der Auftragsverarbeiter mit Ihren Daten tun darf
Verarbeitet ein Dienstleister personenbezogene Daten in Ihrem Auftrag, verlangt Art. 28 Abs. 3 DSGVO einen Vertrag. Er legt Gegenstand, Dauer, Art und Zweck der Verarbeitung fest, die Art der personenbezogenen Daten und die Kategorien betroffener Personen. Danach verarbeitet der Auftragsverarbeiter nur auf Ihre dokumentierte Weisung, stellt die Vertraulichkeit der befugten Personen sicher und unterstützt Sie bei Betroffenenrechten und bei den Pflichten aus Art. 32 bis 36.
Zu jedem Pilotbetrieb gehört ein Auftragsverarbeitungsvertrag (AVV). Ihr Datenschutzbeauftragter kann ihn vor dem Start prüfen, zusammen mit dem, was im Prozessgespräch in Woche 1 festgelegt wird: Dokumente, Klassen, Zielsystem.
KI-Hosting in Deutschland verlangt die DSGVO nicht, sie regelt Übermittlungen in Drittländer
Ein Serverstandort in Deutschland ist nach der DSGVO keine Voraussetzung. Nach Art. 1 Abs. 3 DSGVO darf der freie Verkehr personenbezogener Daten in der Union aus Gründen des Datenschutzes weder eingeschränkt noch verboten werden. Eigene Regeln gelten für Übermittlungen in Drittländer: Nach Art. 44 sind sie nur unter den Bedingungen von Kapitel V zulässig, etwa auf Grundlage eines Angemessenheitsbeschlusses (Art. 45) oder geeigneter Garantien (Art. 46).
Laut Datenschutzkonferenz sind Drittlandsübermittlungen bei offenen KI-Systemen häufig anzutreffen, etwa bei Cloud-Lösungen für einen unbestimmten Nutzerkreis. Technisch geschlossene Systeme hält sie aus Datenschutzsicht für vorzugswürdig.
Für unseren Betrieb gilt: vollständig innerhalb der EU, verantwortet aus Düsseldorf. Ob Ihr Haus darüber hinaus einen Standort in Deutschland vorgibt, etwa in einer Dienstanweisung, entscheiden Sie.
Der KI-Mitarbeiter ordnet zu, über Menschen entscheidet er nicht
Art. 22 Abs. 1 DSGVO gibt jeder betroffenen Person das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Laut Datenschutzkonferenz braucht der entscheidende Mensch einen tatsächlichen Entscheidungsspielraum; eine nur formelle Beteiligung reicht nicht.
Der KI-Mitarbeiter ordnet ein Dokument dem zuständigen Fachbereich zu und legt dort eine Aufgabe an. Über den Antrag, die Reklamation oder die Rechnung selbst entscheidet der Fachbereich, nicht der KI-Mitarbeiter. Liegt seine Sicherheit unter der vereinbarten Konfidenzschwelle, übergibt er den Fall an eine Person. Jede Zuordnung steht mit Zeitstempel und Begründung im Entscheidungsprotokoll.
Ob Art. 22 für Ihren Vorgang berührt ist, prüft Ihr Datenschutzbeauftragter. Das Protokoll gibt ihm dafür jede einzelne Zuordnung an die Hand.
Eine Datenschutz-Folgenabschätzung braucht eine genaue Beschreibung des Vorgangs
Hat eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge, führt der Verantwortliche vorab eine Datenschutz-Folgenabschätzung durch (Art. 35 Abs. 1 DSGVO). Die Datenschutzkonferenz erwartet das beim Einsatz von KI-Anwendungen vielfach. Sie weist auch darauf hin, dass der Verantwortliche dafür Informationen des Anbieters zur Funktionsweise des Systems braucht.
Nach Art. 28 Abs. 3 Buchst. f unterstützt der Auftragsverarbeiter den Verantwortlichen bei den Pflichten aus Art. 32 bis 36, also auch bei einer Datenschutz-Folgenabschätzung. Für einen Vorgang ist die Beschreibung überschaubar: welche Dokumente eingehen, welche Klassen es gibt, in welches Zielsystem die Aufgabe geht und wann ein Mensch übernimmt.
Vier Sätze beschreiben, was unser Betrieb beiträgt
Was unser Betrieb zu Ihrer Verarbeitung beiträgt, beschreiben wir mit vier festen Sätzen:
- Vollständig innerhalb der EU, verantwortet aus Düsseldorf.
- Zu jedem Pilotbetrieb gehört ein Auftragsverarbeitungsvertrag (AVV).
- Das Entscheidungsprotokoll steht als Nachweis für Prüfungen nach der KI-Verordnung zur Verfügung.
- Ein festgelegter menschlicher Eingriffspfad, dokumentiert und jederzeit auslösbar.
Die Rechtsgrundlagen dazu sind die Datenschutz-Grundverordnung, Art. 28 für den AVV und die KI-Verordnung (EU) 2024/1689. Nach ihrem Art. 2 Abs. 7 lässt die KI-Verordnung die DSGVO unberührt, vorbehaltlich der Art. 4a und 59; beide gelten nebeneinander.
Was Sie als Verantwortlicher festlegen, bleibt bei Ihnen: Rechtsgrundlage, Informationspflichten, Datenschutz-Folgenabschätzung. Wie Überwachung, Korrektur und Verantwortung im Betrieb zusammen eine KI-Governance ergeben, beschreibt ein eigener Beitrag. Was Ihre Mitarbeitenden über den KI-Mitarbeiter wissen sollten, steht im Beitrag zur KI-Kompetenz-Schulung nach Art. 4. Die übrigen Pflichten aus der KI-Verordnung behandeln die Beiträge zur KI-Verordnung für Unternehmen und zu Hochrisiko-KI-Systemen.
Häufige Fragen
Ist ein KI-Mitarbeiter von Agentivo DSGVO-konform?
DSGVO-konform ist eine Verarbeitung, kein Produkt, und nachweisen muss es der Verantwortliche (Art. 5 Abs. 2 und Art. 24 DSGVO). Unser Beitrag ist fest umrissen: Betrieb vollständig innerhalb der EU, ein AVV zu jedem Pilotbetrieb, ein vollständiges Entscheidungsprotokoll und ein dokumentierter Eingriffspfad. Rechtsgrundlage, Informationspflichten und eine etwaige Datenschutz-Folgenabschätzung bleiben bei Ihnen; als Auftragsverarbeiter unterstützen wir Sie nach Art. 28 Abs. 3.
Reicht ein Server in Deutschland für DSGVO-konforme KI?
Der Standort allein reicht nicht. Die DSGVO behandelt den Datenverkehr innerhalb der Union einheitlich (Art. 1 Abs. 3); eigene Regeln gelten für Übermittlungen in Drittländer nach Art. 44 ff. Ebenso wichtig sind ein festgelegter Zweck, eine Rechtsgrundlage, ein Vertrag mit dem Auftragsverarbeiter und angemessene Sicherheit nach Art. 32. Fragen Sie deshalb auch, ob weitere Auftragsverarbeiter Daten außerhalb der EU verarbeiten (Art. 28 Abs. 2 und 4).
Brauchen wir eine Datenschutz-Folgenabschätzung?
Das beurteilen Sie als Verantwortlicher nach Art. 35 DSGVO: Sie ist vorab nötig, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen hat. Die Datenschutzkonferenz erwartet das beim KI-Einsatz vielfach. Holen Sie den Rat Ihres Datenschutzbeauftragten ein, sofern einer benannt ist, wie es Art. 35 Abs. 2 vorsieht. Als Auftragsverarbeiter unterstützen wir Sie nach Art. 28 Abs. 3 Buchst. f.
Welche Daten bearbeitet der KI-Mitarbeiter?
Die Dokumente des einen Vorgangs, für den er gebaut ist, zum Beispiel die eingehende Briefpost einer Poststelle oder die Lieferscheine im Wareneingang. Er erkennt Metadaten wie Absender, Datum und Aktenzeichen, ordnet das Dokument zu und legt die Aufgabe in genau einem Zielsystem an. Einen zweiten Eingangskanal oder ein zweites Zielsystem hat ein Vorgang nicht; das wäre ein eigener Vorgang.
Ersetzt die KI-Verordnung die DSGVO?
Nein. Nach Art. 2 Abs. 7 der KI-Verordnung gilt das Datenschutzrecht der Union für personenbezogene Daten, die im Zusammenhang mit der KI-Verordnung verarbeitet werden, und die DSGVO bleibt unberührt, vorbehaltlich der Sonderregeln in Art. 4a und Art. 59. Für einen KI-Mitarbeiter gelten also beide nebeneinander: die DSGVO für die personenbezogenen Daten, die KI-Verordnung zum Beispiel mit der Pflicht zur KI-Kompetenz nach Art. 4.
Der nächste Schritt
Ein Pilotbetrieb umfasst einen Vorgang, also einen Eingang, eine Aufgabe und ein Zielsystem, dazu den AVV, das Entscheidungsprotokoll und einen dokumentierten Eingriffspfad. Festpreis, vor dem Start vereinbart. Sieben Wochen, vier davon im produktiven Betrieb auf Ihren echten Dokumenten.