Forscher fordern ein mehrstufiges Privacy-by-Design-Framework für LLM-Anwendungen, das Anforderungen aus DSGVO (Art. 25), COPPA und PIPEDA über vier Entwicklungsphasen abdeckt: Datenerhebung, Modelltraining, Betrieb und Validierung (Quelle: arxiv.org, 2025). Für deutsche Unternehmen, die LLM-Projekte umsetzen, verschärft sich 2025 der Handlungsdruck: Der Europäische Datenschutzausschuss (EDPB) hat dokumentiert, dass LLM-Anbieter und -Deployer gegen Art. 5 Abs. 1 lit. b DSGVO verstoßen können, wenn Eingabe- oder Ausgabedaten ohne vertragliche Grundlage für das Modelltraining genutzt werden. Wer Privacy by Design nicht systematisch in den Entwicklungsprozess integriert, riskiert Verstöße gegen Zweckbindung und Datenschutz durch Technikgestaltung.

NIST Privacy Framework 2.0 und DSGVO: Was deutsche LLM-Projekte 2025 beachten müssen

Der Europäische Datenschutzausschuss (EDSA) hat in seinem Bericht zu KI-Datenschutzrisiken und -minderungsmaßnahmen bei Large Language Models festgestellt, dass LLM-Anbieter Eingabe- und Ausgabedaten teils ohne vorherige vertragliche Vereinbarung für das Training der Modelle verwenden. Das stellt einen potenziellen Verstoß gegen Artikel 5 Absatz 1 Buchstabe b (Zweckbindung) sowie Artikel 5 Absatz 1 Buchstabe a (Rechtmäßigkeit, Transparenz und Fairness) der DSGVO dar.

Zwei Regelwerke, ein Ziel

Für Unternehmen, die in Deutschland LLM-Anwendungen entwickeln oder einsetzen, ergibt sich 2025 ein doppeltes Anforderungsprofil: Einerseits gelten die verbindlichen Vorgaben der DSGVO, andererseits gewinnt das NIST Privacy Framework in seiner überarbeiteten Fassung als strukturierter Orientierungsrahmen zunehmend an Bedeutung. Beide Systeme verfolgen das Prinzip Privacy by Design, unterscheiden sich aber in Verbindlichkeit und Anwendungslogik erheblich.

Die DSGVO formuliert in Artikel 25 eine rechtliche Pflicht zur datenschutzfreundlichen Technikgestaltung. Unternehmen müssen technische und organisatorische Maßnahmen bereits vor der Datenverarbeitung implementieren. Das NIST Privacy Framework dagegen ist ein freiwilliges, risikobasiertes Werkzeug, das Organisationen helfen soll, Datenschutzrisiken systematisch zu identifizieren und zu managen. Es bietet Querverweise zu anderen Standards, darunter dem NIST AI Risk Management Framework, was es für KI-Governance-Strukturen besonders anschlussfähig macht.

Für deutsche LLM-Projekte bedeutet das: Die DSGVO setzt die Untergrenze, das NIST Privacy Framework kann als Planungswerkzeug dienen, um diese Untergrenze strukturiert zu erreichen und zu dokumentieren.

Vier praktische Implikationen für Unternehmen

1. Zweckbindung bei LLM-Trainingsdaten konsequent vertraglich absichern

Der EDSA-Bericht macht deutlich, dass der Einsatz von Eingabe- und Ausgabedaten für Modelltraining ohne explizite Vereinbarung als Verstoß gegen Artikel 28 Absatz 3 Buchstabe a und Artikel 29 DSGVO gewertet werden kann. Unternehmen, die LLM-as-a-Service-Lösungen einsetzen, sollten Auftragsverarbeitungsverträge auf genau diesen Punkt hin prüfen und gegebenenfalls nachverhandeln. Das gilt sowohl für fertige Modelle als auch für Fine-Tuning-Szenarien. Weiterführende Einordnungen zu den EDSA-Leitlinien finden Sie unter EDSA-Leitlinien 2025: LLM-Trainingsdaten und DSGVO-Compliance.

2. Privacy-by-Design in alle LLM-Entwicklungsphasen integrieren

Ein im Fachjournal veröffentlichtes Framework für Privacy-by-Design in LLM-Anwendungen für Kinder zeigt exemplarisch, wie PbD-Grundsätze auf die Phasen Datenerhebung, Modelltraining, Betriebsmonitoring und laufende Validierung angewandt werden können. Die dabei herangezogenen Regulierungen umfassen DSGVO, PIPEDA und COPPA. Übertragen auf den allgemeinen Unternehmenskontext bedeutet das: Datenschutzmaßnahmen dürfen nicht auf die Betriebsphase beschränkt bleiben, sondern müssen bereits im Architekturdesign und bei der Trainingsdatenselektion verankert werden. Einen ergänzenden Überblick zur NIST-Methodik bietet der Artikel zu NIST Privacy Engineering und Privacy by Design für LLM- und RAG-Systeme.

3. Rollentrennung zwischen Anbieter und Betreiber dokumentieren

Der EDSA-Bericht differenziert ausdrücklich zwischen verschiedenen LLM-Betriebsmodellen: LLM als Service, LLM “off-the-shelf”, selbst entwickelten LLMs und agentischen LLMs. Je nach Modell verteilen sich Datenschutzpflichten unterschiedlich auf Anbieter und Betreiber. Unternehmen sollten diese Rollentrennung schriftlich festhalten und prüfen, welche plattformseitigen Schutzmaßnahmen der Anbieter bereitstellt, etwa Maßnahmen gegen Spoofing und zur Authentizitätssicherung der Schnittstellen. Die Compliance-Anforderungen im Kontext des EU AI Act, der eng mit der DSGVO verzahnt ist, werden unter EU AI Act: Compliance-Anforderungen für KI-Anbieter detailliert beschrieben.

4. Besondere Sorgfalt bei automatisierten Entscheidungen und agentischen Systemen

Der EDSA-Bericht weist auf Ausnahmen nach Artikel 22 Absatz 2 DSGVO hin, die für automatisierte Einzelentscheidungen relevant sind. Gerade bei agentischen LLM-Systemen, die eigenständig Aktionen ausführen, steigen die Anforderungen an Transparenz und menschliche Kontrollmöglichkeiten. Unternehmen sollten für diese Systemklasse eigene Risikofolgenabschätzungen nach Artikel 35 DSGVO durchführen. Ergänzende Perspektiven zur Sicherheitsklassifizierung agentischer Systeme liefert der Artikel zu BSI Grundschutz und agentische KI.

Einordnung: Wo NIST und DSGVO sich ergänzen

Das NIST Privacy Framework strukturiert Datenschutzarbeit entlang der Kernfunktionen Identifizieren, Steuern, Kommunizieren, Schützen und Prüfen. Diese Logik deckt sich konzeptionell mit den DSGVO-Anforderungen an Rechenschaftspflicht (Artikel 5 Absatz 2) und datenschutzfreundliche Voreinstellungen (Artikel 25). Für deutsche Unternehmen bietet sich das NIST-Framework als Dokumentations- und Planungsinstrument an, das die DSGVO-Konformität strukturiert nachweisbar macht, ohne selbst rechtsverbindlich zu sein.

Die im NIST-Repository verfügbaren Crosswalks ermöglichen zudem die Verknüpfung mit branchenspezifischen Standards, was insbesondere für Unternehmen in regulierten Sektoren wie Finanz- und Gesundheitswesen nützlich ist. Einen Überblick zur Implementierung des NIST AI Risk Management Framework in europäischen Unternehmenskontexten bietet der Beitrag zu NIST AI RMF 2.0 und EU AI Act: Governance-Vergleich.

Für den Mittelstand, der LLM-Projekte ohne spezialisierte Datenschutzabteilungen umsetzt, empfiehlt sich die Kombination: DSGVO als rechtliche Pflichtbasis, NIST Privacy Framework als strukturierte Arbeitsgrundlage für die technische Umsetzung. Praxisnahe Hinweise zur DSGVO-konformen LLM-Nutzung im Mittelstand finden Sie unter KI-Datenschutz im Mittelstand: DSGVO, LLM und RAG 2025.

Quellen

• A Privacy by Design Framework for Large Language Model-Based Applications for Children (arxiv.org)
• AI Privacy Risks & Mitigations – Large Language Models (LLMs), EDPB (edpb.europa.eu)
• NIST Privacy Framework Resource Repository: PF 1.0 Crosswalks (nist.gov)

Häufige Fragen

Was verlangt Privacy by Design konkret von LLM-Projekten in Deutschland?

Privacy by Design (PbD) verpflichtet Entwickler, Datenschutz von Beginn an in jede Projektphase einzubetten. Für LLM-Anwendungen bedeutet das laut aktueller Forschung (arxiv.org, 2025): Datenschutzmaßnahmen bereits bei der Datenerhebung, beim Modelltraining, im Betrieb und bei der laufenden Validierung. Artikel 25 DSGVO schreibt dies für den EU-Raum verbindlich vor.

Wie unterscheiden sich NIST Privacy Framework 1.0 und DSGVO in ihrer Anwendung auf LLM-Systeme?

Das NIST Privacy Framework 1.0 liefert ein strukturiertes Steuerungsmodell mit Querverweisen (Crosswalks) zu anderen Standards und ist primär freiwillig. Die DSGVO hingegen ist rechtsverbindlich und enthält konkrete Pflichten wie Zweckbindung (Art. 5 Abs. 1 lit. b) und Verarbeitung nach Weisung (Art. 29). Für deutsche LLM-Projekte gilt: NIST kann als Umsetzungshilfe dienen, ersetzt aber keine DSGVO-Compliance.

Welche DSGVO-Verstöße drohen, wenn LLM-Anbieter Eingabedaten unerlaubt für das Training nutzen?

Der Europäische Datenschutzausschuss (EDPB) benennt in seinem Bericht zu KI-Datenschutzrisiken (2025) konkret Art. 5 Abs. 1 lit. b (Zweckbindung) und Art. 5 Abs. 1 lit. a (Rechtmäßigkeit, Transparenz) als verletzt, wenn Anbieter Input- oder Outputdaten ohne vertragliche Grundlage für das LLM-Training verwenden. Auch Art. 28 Abs. 3 lit. a und Art. 29 DSGVO können betroffen sein.

Welche besonderen Schutzpflichten gelten für LLM-Anwendungen, die Kinder als Nutzer haben?

Forschende schlagen ein spezielles PbD-Framework für Kinder-LLM-Apps vor, das Anforderungen aus DSGVO, COPPA (USA) und PIPEDA (Kanada) bündelt. Für jede Phase (Datenerhebung, Training, Betrieb) sind zusätzliche Schutzmaßnahmen vorgesehen. Deutsche Anbieter müssen dabei mindestens die DSGVO-Vorgaben zum Kinderdatenschutz einhalten und proaktiv risikoarme Designentscheidungen treffen.

Welche technischen Maßnahmen empfiehlt der EDPB zum Schutz vor Datenschutzrisiken in LLMs?

Der EDPB nennt in seinem LLM-Risikobericht (April 2025) Maßnahmen wie Anti-Spoofing auf Plattformebene und den Schutz der Schnittstellenauthentizität. Anbieter und Deployer tragen gemeinsam Verantwortung: Anbieter sichern die Plattform, Deployer wählen die passende Rechtsgrundlage, etwa berechtigte Interessen nach Art. 6 Abs. 1 lit. f DSGVO. Beide Rollen sind klar voneinander abzugrenzen.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.