Der Europäische Datenschutzausschuss (EDPB) hat Leitlinien zu den Begriffen „Verantwortlicher“ und „Auftragsverarbeiter“ veröffentlicht, die klären, welche Partei beim Einsatz von LLMs die datenschutzrechtliche Verantwortung für Trainingsdaten trägt. Unternehmen, die große Sprachmodelle trainieren oder einsetzen, müssen laut EDPB nachweisen können, auf welcher Rechtsgrundlage personenbezogene Daten in Trainingsdatensätze eingeflossen sind. Die EDPB-Leitlinien 9/2022 zur Meldung von Datenschutzverletzungen verschärfen zusätzlich die Anforderungen: Verstöße bei der Datenherkunft können Meldepflichten auslösen. Entscheider stehen damit vor der Aufgabe, Datenlieferketten für KI-Modelle vollständig zu dokumentieren und Verantwortlichkeiten vertraglich eindeutig zu regeln.
EDPB-Leitlinien 2025: Was Unternehmen beim LLM-Training datenschutzrechtlich beachten müssen
Der Europäische Datenschutzausschuss (EDPB) hat seine Leitlinien zu den Grundbegriffen der DSGVO sowie zur Meldung von Datenschutzverletzungen aktualisiert und konkretisiert. Für Unternehmen, die große Sprachmodelle (LLMs) trainieren oder betreiben, ergeben sich daraus unmittelbare Pflichten, die über allgemeine Datenschutzanforderungen hinausgehen.
Verantwortlicher oder Auftragsverarbeiter: Die Rollenklärung ist kein Formalakt
Die EDPB-Leitlinien zu den Begriffen „Verantwortlicher“ und „Auftragsverarbeiter“ legen fest, dass die Bestimmung der Zwecke und Mittel der Datenverarbeitung entscheidend für die Rollenzuweisung ist. Wer darüber entscheidet, welche Daten für das Training eines LLMs herangezogen werden und auf welche Weise dieses Training erfolgt, gilt als Verantwortlicher im Sinne der DSGVO. Diese Rollenzuweisung bestimmt unmittelbar, welche Rechtsgrundlagen für die Verarbeitung nachgewiesen werden müssen und gegenüber wem betroffene Personen ihre Rechte geltend machen können.
Für Unternehmen, die externe LLM-Anbieter in ihre Prozesse einbinden, ist diese Abgrenzung nicht trivial: Übernimmt der Anbieter eigenständige Entscheidungen über Trainingsdaten, handelt er möglicherweise als eigenständiger Verantwortlicher, nicht als Auftragsverarbeiter. Entsprechende Vertragsgestaltungen und Datenverarbeitungsvereinbarungen müssen diese Rollenverteilung klar abbilden. Weiterführende Einordnungen zu den DSGVO-Verpflichtungen im LLM-Kontext finden Sie unter DSGVO-Anforderungen für LLMs und Auftragsverarbeitung.
Transparenzanforderungen an Trainingsdatenherkunft
Ein zentrales Thema der EDPB-Leitlinien ist die Nachvollziehbarkeit der Datenherkunft. Für das Training von LLMs bedeutet dies: Unternehmen müssen dokumentieren können, welche personenbezogenen Daten in Trainingsdatensätze eingeflossen sind, auf welcher Rechtsgrundlage dies geschah und ob betroffene Personen informiert wurden. Die Anforderungen an Transparenz und Rechenschaftspflicht aus der DSGVO gelten auch dann, wenn Trainingsdaten aus öffentlich zugänglichen Quellen stammen, da auch dort personenbezogene Daten enthalten sein können.
Der EDPB betont in seinen allgemeinen Leitlinien, Empfehlungen und bewährten Verfahren ausdrücklich, dass Guidance zu KI-spezifischen Verarbeitungssituationen dazu dient, ein gemeinsames Verständnis des EU-Datenschutzrechts zu fördern. Für Unternehmen bedeutet das: Informationspflichten gegenüber betroffenen Personen bestehen auch dann, wenn deren Daten indirekt in Trainingsprozesse eingegangen sind. Die Frage, ob synthetisch erzeugte Trainingsdaten diese Anforderungen abmildern können, behandelt der Artikel Synthetische Trainingsdaten, Anonymisierung und DSGVO-Konformität bei LLMs.
Meldepflichten bei Datenschutzverletzungen im LLM-Betrieb
Die Leitlinien 9/2022 des EDPB zur Meldung von Verletzungen des Schutzes personenbezogener Daten gelten uneingeschränkt auch für den Betrieb von KI-Systemen. Wenn im Rahmen des LLM-Trainings oder -Betriebs personenbezogene Daten unbefugt offengelegt, verändert oder vernichtet werden, greift die Meldepflicht gegenüber der zuständigen Aufsichtsbehörde innerhalb von 72 Stunden. Unternehmen müssen Prozesse etablieren, die Datenschutzverletzungen im KI-Betrieb ebenso erfassen wie in konventionellen IT-Systemen. Das schließt auch Szenarien ein, in denen ein LLM in seinen Ausgaben personenbezogene Trainingsdaten reproduziert.
Vier praktische Implikationen für Unternehmen
1. Herkunftsdokumentation aufbauen: Unternehmen sollten lückenlos dokumentieren, aus welchen Quellen ihre LLM-Trainingsdaten stammen, welche Rechtsgrundlage jeweils greift und ob die Verarbeitung Zweckbindungsanforderungen genügt. Eine nachträgliche Rekonstruktion ist in der Praxis kaum möglich.
2. Rollenklärung vor Vertragsabschluss: Vor jeder Vereinbarung mit LLM-Anbietern ist zu klären, ob der Anbieter als Auftragsverarbeiter oder als eigenverantwortlicher Verantwortlicher agiert. Nur im ersten Fall ist ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ausreichend. Wie Anbieter wie Anthropic ihre Datenverarbeitungsrollen im Enterprise-Kontext definieren, beschreibt der Artikel Anthropic Claude API 2025: Preise, Tokens und Compliance-Aspekte.
3. Meldeprozesse auf KI-Szenarien ausdehnen: Bestehende Incident-Response-Prozesse müssen explizit KI-spezifische Vorfälle umfassen, insbesondere unbeabsichtigte Datenwiedergabe durch LLMs oder Datenlecks aus Trainingspipelines.
4. Datenschutz-Folgenabschätzung für Hochrisikotraining: Wer LLMs mit sensiblen personenbezogenen Daten trainiert oder feinabstimmt, muss in der Regel eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO durchführen. Das EDPB hat dazu ein öffentlich konsultiertes DSFA-Template veröffentlicht, das Organisationen für ihre eigenen Prozesse nutzen können.
Wechselwirkung mit dem EU AI Act
Die DSGVO-Anforderungen des EDPB wirken nicht isoliert. Anbieter und Betreiber von KI-Systemen, die unter den EU AI Act fallen, müssen Transparenz- und Dokumentationspflichten aus beiden Regelwerken gleichzeitig erfüllen. Die Überschneidungen betreffen insbesondere Hochrisiko-KI-Systeme, bei denen sowohl AI-Act-Konformitätsbewertungen als auch DSGVO-Folgenabschätzungen obligatorisch sind. Eine Übersicht zu den Transparenzpflichten unter dem EU AI Act bietet der Artikel EU AI Act: Dokumentations- und Transparenzpflichten für KI-Anbieter. Ergänzend dazu liefert der Artikel zu EDPB-Leitlinien für KI-Datenverarbeitung eine praxisorientierte Zusammenfassung der Anforderungen.
Für Mittelstandsunternehmen, die LLMs intern einsetzen oder entwickeln, empfiehlt sich zudem ein Blick auf die Datenschutz-Compliance-Anforderungen im KI-Kontext: Datenschutz im Mittelstand: DSGVO, LLMs und RAG-Systeme 2025.
Quellen
- Leitlinien zu den Begriffen „Verantwortlicher“ und „Auftragsverarbeiter“ in der DSGVO (EDPB)
- Leitlinien 9/2022 für die Meldung von Verletzungen des Schutzes personenbezogener Daten gemäß der DSGVO (EDPB)
- DSGVO: Leitlinien, Empfehlungen, bewährte Verfahren (EDPB)
Häufige Fragen
Was versteht die DSGVO unter einem “Verantwortlichen” beim Einsatz von LLM-Trainingsdaten?
Laut den EDPB-Leitlinien zu den Begriffen “Verantwortlicher” und “Auftragsverarbeiter” ist derjenige Verantwortlicher, der über die Zwecke und Mittel der Datenverarbeitung entscheidet. Wer also festlegt, welche Daten für das Training eines großen Sprachmodells genutzt werden und zu welchem Zweck, trägt die datenschutzrechtliche Verantwortung für diese Verarbeitung, unabhängig davon, ob er die technische Umsetzung selbst vornimmt.
Welche Transparenzpflichten gelten für Unternehmen, die Trainingsdaten für KI-Modelle erheben?
Der EDPB betont in seinen Leitlinien und Empfehlungen, dass betroffene Personen über die Zwecke der Datenverarbeitung informiert werden müssen. Das gilt auch dann, wenn Daten ursprünglich für einen anderen Zweck erhoben wurden und nun für das LLM-Training weiterverwendet werden sollen. Eine solche Zweckänderung muss mit dem ursprünglichen Erhebungszweck vereinbar sein und erfordert gegebenenfalls eine erneute Information der betroffenen Personen.
Was gilt bei einer Datenpanne im Zusammenhang mit Trainingsdaten eines KI-Modells?
Die EDPB-Leitlinien 9/2022 zur Meldung von Verletzungen des Schutzes personenbezogener Daten gelten vollumfänglich auch für Trainingsdatensätze. Stellt ein Unternehmen fest, dass personenbezogene Daten aus einem Trainingsdatensatz unbefugt offengelegt oder vernichtet wurden, muss die zuständige Aufsichtsbehörde in der Regel innerhalb von 72 Stunden benachrichtigt werden, sofern ein Risiko für die Rechte und Freiheiten natürlicher Personen besteht.
Wie grenzt der EDPB Verantwortliche von Auftragsverarbeitern beim LLM-Einsatz ab?
Nach den EDPB-Leitlinien zu Verantwortlichen und Auftragsverarbeitern handelt ein Anbieter, der ein Sprachmodell im Kundenauftrag betreibt und dabei ausschließlich nach Weisung des Auftraggebers handelt, als Auftragsverarbeiter. Trifft er hingegen eigene Entscheidungen über Art und Zweck der Datenverarbeitung, wird er selbst zum Verantwortlichen oder gemeinsam Verantwortlichen. Diese Abgrenzung ist für die Haftungsverteilung und die vertragliche Gestaltung nach Art. 28 DSGVO entscheidend.
Wo findet man verbindliche EDPB-Orientierungshilfen zum Thema Datenschutz und KI-Training?
Der EDPB veröffentlicht Leitlinien, Empfehlungen und bewährte Verfahren auf seiner Website, um einheitliche Auslegungsstandards zu fördern. Die Übersichtsseite “DSGVO: Leitlinien, Empfehlungen, bewährte Verfahren” bündelt alle relevanten Dokumente und wird fortlaufend aktualisiert. Unternehmen, die LLMs trainieren oder einsetzen, sollten diese Dokumente systematisch auswerten und ihre internen Datenschutzprozesse entsprechend anpassen.
Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.
