KI-Agenten DSGVO-konform betreiben: Worauf es wirklich ankommt

Erstens das Hosting der Ausführung: Der Agent selbst, seine Werkzeuge und die Verarbeitung laufen auf EU-Infrastruktur, nicht auf Servern außerhalb des Geltungsbereichs. Zweitens die Inferenz: Auch ein US-Modell lässt sich datenschutzkonform nutzen, wenn die Anfragen über EU-Endpunkte laufen, etwa AWS Bedrock in der EU-Region oder Azure OpenAI mit EU-Datenresidenz. Der Verarbeitungsort ist entscheidend, nicht der Firmensitz des Modellanbieters.

Drittens die Pseudonymisierung: Sensible personenbezogene Daten werden vor dem Modellaufruf ersetzt oder maskiert, sodass das Modell nur mit dem arbeitet, was es für die Aufgabe braucht. Viertens die Vertragsebene: ein Auftragsverarbeitungsvertrag (AVV) und ein Verzeichnis der Verarbeitungstätigkeiten von Anfang an, nicht nachträglich. Fünftens die Auditierbarkeit: nachvollziehbare Protokolle, wer wann was verarbeitet hat, damit ihr gegenüber Aufsicht und Revision Rechenschaft ablegen könnt.

Die verbreitetste Fehlannahme lautet, ein Modell eines US-Herstellers sei per se nicht DSGVO-konform einsetzbar. Das ist falsch. Worauf es ankommt, ist die Kombination aus Verarbeitungsort und Vertragskette. Die großen Anbieter haben darauf reagiert: OpenAI garantiert Business- und Enterprise-Kunden, dass ihre Daten standardmäßig nicht ins Modelltraining fließen, und bietet Datenresidenz in EU-Regionen; Anthropic trainiert per Default nicht auf Claude-Enterprise-Inhalten; Microsoft 365 Copilot verarbeitet Daten innerhalb des jeweiligen Tenants und trainiert nicht auf Organisationsdaten.

Damit ist nicht gesagt, dass jede Nutzung automatisch zulässig wäre, sondern dass die pauschale Ablehnung genauso unpräzise ist wie die pauschale Freigabe. Entscheidend ist, die konkrete Verarbeitung anzuschauen: Wo läuft die Inferenz, welche Daten sehen das Modell, welcher Vertrag liegt zugrunde. Genau diese Prüfung ersetzt das Bauchgefühl.

Konformität entsteht nicht durch eine einmalige Freigabe, sondern durch dauerhaft gelebte Regeln. Ein gutes Beispiel aus der regulierten Praxis: Bei VW Financial Services sind laut Matthias Langpap standardmäßig alle Konnektoren gesperrt, bis sie explizit geprüft und freigegeben sind. Dieses Default-Deny-Prinzip, kombiniert mit Regeln, welche Datenbewegungen erlaubt sind, ist die Grundlage jeder sicheren KI-Einführung in einer regulierten Branche.

Hinzu kommt die regulatorische Klassifizierung. Der EU AI Act stuft viele KI-Anwendungen etwa im Personalbereich als hochriskant ein, mit umfangreichen Dokumentations-, Transparenz- und Schulungspflichten; Claudia Bünte verweist auf Strafen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes. Datenschutz und AI-Act-Pflichten gehören deshalb von Anfang an in die Architektur, nicht in eine nachgelagerte Abnahme.

Bevor ein Agent an personenbezogene Daten geht, sollten fünf Fragen klar beantwortet sein: Läuft die Ausführung auf EU-Infrastruktur? Läuft die Inferenz über EU-Endpunkte, auch wenn ein US-Modell genutzt wird? Werden sensible Daten vor dem Modellaufruf pseudonymisiert? Liegen AVV und Verzeichnis der Verarbeitungstätigkeiten vor? Sind die Abläufe protokolliert und auditierbar?

Wer diese fünf Punkte belegen kann, hat das Fundament. Bei ai-train sind sie Teil jedes Mandats: EU-Infrastruktur, EU-Inferenz auch für Modelle amerikanischer Hersteller, Pseudonymisierung sensibler Daten, Vertragsebene und nachvollziehbare Protokollierung von Anfang an. So bleibt der Datenschutz Hygiene und wird nicht zum Projektstopper.

Dieser Beitrag ordnet die technischen und organisatorischen Fragen ein und ist keine Rechtsberatung. Für die verbindliche Bewertung eures konkreten Falls zieht euren Datenschutzbeauftragten oder eine fachkundige Kanzlei hinzu.