Die deutsche Bundesdatenschutzbeauftragte Prof. Dr. Louisa Specht-Riemenschneider hat eine Handreichung für den datenschutzkonformen KI-Einsatz in Behörden veröffentlicht. Das freiwillige NIST Privacy Framework (Version 1.0, Januar 2020) bietet Unternehmen einen risikobasierten Rahmen zum Umgang mit Datenschutzrisiken Für Entscheider im Enterprise-Umfeld wächst der Regulierungsdruck beim LLM-Einsatz: KI-Verordnung und DSGVO greifen laut BfDI ineinander und bilden einen kohärenten Rechtsrahmen. Besonders der Umgang mit in LLMs memorierten personenbezogenen Daten sowie Anforderungen an Rechtmäßigkeit und Transparenz stellen Organisationen vor konkrete Herausforderungen. Wer Datenschutz-by-Design frühzeitig in KI-Projekte integriert, reduziert Haftungsrisiken und schafft Vertrauen.

NIST Privacy Framework und DSGVO: Was Unternehmen beim Einsatz von LLMs 2025 beachten müssen

Das NIST Privacy Framework in seiner aktuellen Version 1.0 wurde am 16. Januar 2020 als freiwilliges Instrument zum unternehmerischen Datenschutz-Risikomanagement veröffentlicht. Gleichzeitig hat die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI), Prof. Dr. Louisa Specht-Riemenschneider, eine Handreichung mit dem Titel “KI in Behörden – Datenschutz von Anfang an mitdenken” herausgegeben, die öffentliche Stellen des Bundes beim datenschutzkonformen Einsatz von Large Language Models (LLMs) unterstützen soll. Beide Dokumente zeigen: Datenschutz-by-Design ist für den Enterprise-LLM-Einsatz kein optionales Add-on, sondern eine regulatorische Grundvoraussetzung.

Leitfakt: Zwei Rahmensysteme, ein gemeinsames Ziel

Das NIST Privacy Framework wurde in enger Zusammenarbeit mit öffentlichen und privaten Interessenträgern entwickelt. Es soll Organisationen dabei helfen, Datenschutzrisiken besser zu identifizieren, zu bewerten, zu steuern und zu kommunizieren, wenn sie Systeme, Produkte oder Dienste entwerfen oder einsetzen. Das Framework orientiert sich strukturell am “Framework for Improving Critical Infrastructure Cybersecurity” und ist technologie-, sektor- und jurisdiktionsagnostisch konzipiert.

Die DSGVO verfolgt denselben Grundanspruch über verbindliche Rechtsnormen: Sie regelt Rechtmäßigkeit und Grenzen der Verarbeitung personenbezogener Daten. Die BfDI stellt in ihrer Handreichung fest, dass KI-Verordnung und DSGVO sich “zu einem kohärenten” Rechtsrahmen ergänzen. Für Enterprise-Entscheider bedeutet das: Wer LLMs im Produktivbetrieb einsetzt, bewegt sich im Schnittfeld beider Systeme.

Weiterführende Einordnung zum NIST AI Risk Management Framework und seiner Umsetzung in Europa finden Sie hier: NIST AI RMF: Governance-Umsetzung in Europa.

Vier praktische Implikationen für Entscheider

1. Memorisierte Daten in LLMs sind ein konkretes Compliance-Risiko

Die BfDI-Handreichung benennt ausdrücklich Herausforderungen mit in LLMs memorisierten Daten. Sprachmodelle können personenbezogene Informationen aus Trainingsdaten reproduzieren, ohne dass dies für Nutzer oder Betreiber unmittelbar erkennbar ist. Unternehmen, die LLMs auf eigenen oder kundenbezogenen Daten feinabstimmen, müssen prüfen, welche personenbezogenen Daten in das Modell eingeflossen sind und ob diese im späteren Betrieb extrahierbar sind.

Das NIST Privacy Framework empfiehlt in diesem Zusammenhang einen risikobasierten Ansatz: Organisationen sollen Datenschutzrisiken systematisch identifizieren und steuern, bevor Systeme in Betrieb genommen werden. Einen vertieften Blick auf datenschutzkonforme RAG-Architekturen bietet: DSGVO-konforme RAG-Systeme und lokale LLMs im Mittelstand.

2. Transparenz- und Rechtmäßigkeitsanforderungen gelten auch beim LLM-Training

Die BfDI macht deutlich, dass beim Training und bei der Nutzung von LLMs besondere Unsicherheiten im Umgang mit personenbezogenen Daten bestehen. Die DSGVO fordert eine rechtmäßige Grundlage für jede Verarbeitung. Das betrifft sowohl die Trainingsdaten als auch die im Betrieb verarbeiteten Eingaben von Nutzern.

Das NIST Privacy Framework ergänzt diese normative Anforderung durch seinen outcome-basierten Ansatz: Es hilft Organisationen jeder Größe, unabhängig von Technologie oder Rechtsordnung, strukturierte Datenschutzprozesse aufzubauen. Für den Enterprise-Kontext bedeutet das konkret: Dokumentation der Datenherkunft, Einwilligungsmanagement und Zweckbindung müssen bereits in der LLM-Architektur verankert sein. Zum Thema EDPB-Leitlinien für LLM-Trainingsdaten und DSGVO-Compliance: EDPB-Leitlinien 2025: Transparenz beim LLM-Training.

3. Datenschutz-by-Design ist strukturell zu verankern, nicht nachzurüsten

Sowohl das NIST Privacy Framework als auch die BfDI-Handreichung betonen einen proaktiven Ansatz: Datenschutz soll von Beginn eines KI-Projekts an mitgedacht werden, nicht als nachgelagertes Compliance-Exercise. Die BfDI formuliert das Ziel, eine “strukturierte, lösungsorientierte Herangehensweise an KI-Projekte” zu fördern.

Das NIST-Framework wurde laut Veröffentlichung des National Institute of Standards and Technology mit dem Ziel entwickelt, “die Entwicklung innovativer Ansätze zum Schutz der Privatsphäre von Einzelpersonen zu fördern” und das Vertrauen in Systeme, Produkte und Dienste zu erhöhen. Für Enterprise-Teams heißt das: Privacy Impact Assessments, Datenminimierung und technische Schutzmaßnahmen gehören in die Systemarchitektur, nicht in die Rechtsabteilung allein. Einen praxisnahen Überblick zur NIST Privacy Engineering im LLM-Kontext bietet: NIST Privacy Engineering: Datenschutz-by-Design für LLM- und RAG-Systeme.

4. Die Kombination aus KI-Verordnung und DSGVO schafft mehrschichtige Pflichten

Die BfDI-Handreichung stellt klar, dass die EU-KI-Verordnung das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen regelt und dabei neben der DSGVO gilt. Für Betreiber von LLM-basierten Systemen im Enterprise entstehen damit mehrschichtige Prüfpflichten: datenschutzrechtlich nach DSGVO und regulatorisch nach dem EU AI Act.

Das NIST Privacy Framework bietet hier einen strukturellen Vorteil: Es ist explizit jurisdiktionsagnostisch und kann als gemeinsame Governance-Sprache verwendet werden, um interne Prozesse sowohl gegenüber US-amerikanischen als auch europäischen Anforderungen abzubilden. Gerade multinationale Konzerne können das Framework als Brücke zwischen DSGVO-Compliance und globalen Standards nutzen. Zur Schnittstelle zwischen NIST AI RMF und EU AI Act: NIST AI RMF 2.0 und EU AI Act: Governance-Vergleich für europäische Unternehmen.

Quellen

• NIST Privacy Framework: A Tool for Improving Privacy Through Enterprise Risk Management – Preliminary Draft (September 2019)
• NIST Privacy Framework: A Tool for Improving Privacy Through Enterprise Risk Management, Version 1.0 (Januar 2020)
• Bundesdatenschutzbeauftragte veröffentlicht Handreichung für KI und Datenschutz (Heise Online)

Häufige Fragen

Was ist das NIST Privacy Framework und für wen gilt es?

Das NIST Privacy Framework (Version 1.0, veröffentlicht am 16. Januar 2020) ist ein freiwilliges Instrument zum Datenschutz-Risikomanagement. Es wurde vom amerikanischen National Institute of Standards and Technology gemeinsam mit öffentlichen und privaten Akteuren entwickelt. Es richtet sich an Organisationen jeder Größe, ist technologie- und sektorneutral und hilft, Datenschutzrisiken bei der Entwicklung und dem Betrieb von Systemen, Produkten und Diensten zu identifizieren und zu steuern.

Wie unterscheidet sich das NIST Privacy Framework von der DSGVO beim LLM-Einsatz?

Die DSGVO ist verbindliches EU-Recht und regelt Rechtmäßigkeit sowie Grenzen der Verarbeitung personenbezogener Daten. Das NIST Privacy Framework ist ein freiwilliges, risikobasiertes Managementwerkzeug ohne Rechtsbindung. Beim LLM-Einsatz im Unternehmen ergänzen sich beide Ansätze: Die DSGVO setzt den rechtlichen Rahmen, das NIST Framework liefert eine strukturierte Methodik zur Risikosteuerung.

Welche konkreten Datenschutzprobleme entstehen beim Einsatz von Large Language Models in Behörden?

Laut der Handreichung der Bundesbeauftragten für den Datenschutz (BfDI), Prof. Dr. Louisa Specht-Riemenschneider, bestehen Unsicherheiten vor allem beim Umgang mit personenbezogenen Daten beim Training und Betrieb von LLMs. Hinzu kommen Risiken durch in LLMs memorisierte Daten sowie Anforderungen an Rechtmäßigkeit und Transparenz. Die KI-Verordnung und die DSGVO bilden dabei gemeinsam den maßgeblichen Rechtsrahmen.

Was empfiehlt die BfDI deutschen Bundesbehörden für datenschutzkonforme KI-Projekte?

Die BfDI veröffentlichte die Handreichung ‘KI in Behörden: Datenschutz von Anfang an mitdenken’. Sie soll öffentliche Stellen des Bundes dabei unterstützen, eine strukturierte und lösungsorientierte Herangehensweise an KI-Projekte zu entwickeln. Datenschutz soll demnach nicht nachträglich ergänzt, sondern von Beginn an in die Planung und Umsetzung integriert werden, im Sinne des Privacy-by-Design-Prinzips.

Kann das NIST Privacy Framework gemeinsam mit anderen Sicherheits-Frameworks genutzt werden?

Ja. Das NIST Privacy Framework Version 1.0 folgt bewusst der Struktur des ‘Framework for Improving Critical Infrastructure Cybersecurity’, um die parallele Nutzung beider Rahmenwerke zu erleichtern. Unternehmen können so Datenschutz- und Cybersicherheitsrisiken in einem integrierten Ansatz steuern, was besonders beim Enterprise-Einsatz von KI-Systemen wie LLMs praktisch relevant ist.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.