Das BSI und Bitkom haben 2024 und 2025 konkrete Leitfäden für den sicheren Einsatz generativer KI in Unternehmen veröffentlicht, die Maßnahmen zu Risikoklassifizierung, Datenschutz nach DSGVO und Compliance-Anforderungen gemäß EU AI Act bündeln. Für mittelständische Unternehmen, die generative KI einsetzen oder planen, sind diese Leitfäden von BSI und Bitkom zentrale Orientierungshilfen: Sie decken die Anforderungen des EU AI Acts ab, darunter Transparenzpflichten und Risikoklassifizierung, und verbinden diese mit datenschutzrechtlichen Vorgaben der DSGVO. Wer diese Grundschutz-Anforderungen nicht kennt und umsetzt, riskiert regulatorische Verstöße und Sicherheitslücken beim KI-Einsatz.

BSI-Grundschutz für Generative KI: Was Mittelständler jetzt konkret umsetzen müssen

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat spezifische Sicherheitsempfehlungen für den Einsatz generativer KI-Modelle in Organisationen veröffentlicht. Für mittelständische Unternehmen bedeutet das: Der Einsatz von Werkzeugen wie Chatbots oder KI-gestützten Textsystemen ist kein technisches Detail mehr, sondern eine Frage der Informationssicherheitsstrategie.

Was das BSI konkret fordert

Das BSI behandelt generative KI-Systeme in seiner Publikation “Sichere generative KI in Organisationen und Unternehmen” als eigenständige Risikoklasse. Der Fokus liegt auf drei Kernbereichen: der sicheren Beschaffung und Inbetriebnahme von KI-Diensten, dem kontrollierten Umgang mit Eingabedaten sowie der Absicherung von Schnittstellen zu Drittanbietersystemen. Besonders hervorgehoben wird das Risiko, dass vertrauliche Unternehmensdaten über Prompts an externe Modellbetreiber übermittelt werden, ohne dass Mitarbeiterinnen und Mitarbeiter sich dessen bewusst sind.

Parallel dazu beschreibt das BSI in seiner technischen Analyse “Generative KI-Modelle” spezifische Angriffsvektoren wie Prompt Injection, bei der externe Inhalte das Verhalten eines Modells gezielt manipulieren können, sowie das Risiko unerwünschter Datenweitergabe durch sogenannte Training-Data-Leakage.

Praktische Implikationen für den Mittelstand

1. Datenklassifizierung vor dem KI-Einsatz festlegen Bevor generative KI-Werkzeuge in Arbeitsprozesse integriert werden, empfiehlt das BSI, eine Klassifizierung der internen Daten vorzunehmen. Nur Informationen der niedrigsten Vertraulichkeitsstufe sollten in cloudbasierte, externe Modelle eingegeben werden. Für sensible Geschäftsdaten sind On-Premises-Lösungen oder vertraglich abgesicherte Verarbeitungsvereinbarungen erforderlich.

2. Mitarbeiterschulungen als Pflichtbestandteil Das BSI betont, dass technische Schutzmaßnahmen allein nicht ausreichen. Mitarbeiterinnen und Mitarbeiter müssen verstehen, welche Informationen sie in KI-Systeme eingeben dürfen und welche nicht. Der Bitkom-Leitfaden “Generative KI im Unternehmen” (2025) ergänzt dies um die datenschutzrechtliche Dimension: Eingaben in externe KI-Dienste können unter Umständen eine Übermittlung personenbezogener Daten in Drittstaaten darstellen, was DSGVO-Pflichten auslöst.

3. Vertragliche Absicherung bei der Beschaffung prüfen Der Bitkom-Leitfaden stellt eine aktualisierte Checkliste bereit, die Unternehmen bei der Auswahl und Implementierung generativer KI unterstützt. Dazu gehört die Prüfung, ob Anbieter Daten für das Nachtraining ihrer Modelle verwenden, welche Löschfristen gelten und ob Verarbeitungsverträge nach Art. 28 DSGVO vorliegen. Gerade im Mittelstand wird dieser Schritt häufig übersprungen.

4. EU AI Act als neuer Compliance-Rahmen Der Bitkom-Leitfaden 2025 weist ausdrücklich darauf hin, dass der EU AI Act neue regulatorische Anforderungen schafft, die Unternehmen beim Einsatz generativer KI beachten müssen. Konkret betroffen sind Transparenzpflichten gegenüber Nutzern, wenn diese mit KI-generierten Inhalten interagieren, sowie Risikoklassifizierungen, die bestimmen, welche Compliance-Maßnahmen im jeweiligen Anwendungsfall greifen.

Einordnung

Für den Mittelstand ergibt sich aus den Empfehlungen von BSI und Bitkom ein klarer Handlungsrahmen: Der sichere KI-Einsatz beginnt nicht mit der Technologieauswahl, sondern mit organisatorischen Vorarbeiten. Datenstrategie, Schulung und Vertragsprüfung sind keine optionalen Ergänzungen, sondern Grundvoraussetzungen für einen rechtskonformen und sicheren Betrieb.

Quellen

• Sichere generative KI in Organisationen und Unternehmen – BSI (PDF)
• Generative KI-Modelle – BSI (PDF)
• Generative KI im Unternehmen – Leitfaden 2025, Bitkom e. V.

Häufige Fragen

Welche konkreten Sicherheitsrisiken nennt das BSI beim Einsatz generativer KI im Unternehmen?

Das BSI weist in seiner Publikation zur sicheren generativen KI in Organisationen auf mehrere spezifische Risiken hin. Dazu zählen der ungewollte Abfluss vertraulicher Unternehmensdaten durch Eingaben in KI-Systeme, die Erzeugung sachlich falscher oder irreführender Ausgaben (sogenannte Halluzinationen) sowie die mögliche Manipulation von KI-Modellen durch gezielt präparierte Eingaben. Auch die Abhängigkeit von externen Anbietern und deren Infrastruktur wird als relevantes Risiko eingestuft.

Was empfiehlt das BSI mittelständischen Unternehmen als ersten Schritt vor der Einführung generativer KI?

Das BSI empfiehlt Unternehmen, vor dem Einsatz generativer KI-Systeme eine strukturierte Risikoanalyse durchzuführen. Dabei sollen die verarbeiteten Datenklassen, die Einbindung der KI in bestehende Geschäftsprozesse und die Kritikalität der jeweiligen Anwendungsfälle bewertet werden. Auf dieser Grundlage lassen sich geeignete technische und organisatorische Schutzmaßnahmen ableiten. Dieser Schritt ist auch Voraussetzung für eine spätere Compliance mit dem EU AI Act.

Wie regelt der EU AI Act die Nutzung generativer KI, und was bedeutet das konkret für den Mittelstand?

Der EU AI Act führt eine Risikoklassifizierung für KI-Systeme ein. Generative KI-Modelle, die als sogenannte Allzweck-KI eingestuft werden, unterliegen spezifischen Transparenzpflichten. Unternehmen, die solche Systeme einsetzen, müssen unter anderem sicherstellen, dass KI-generierte Inhalte als solche erkennbar sind, und bei höherem Risiko weitergehende Dokumentations- und Compliancepflichten erfüllen. Der Bitkom-Leitfaden 2025 enthält dazu eine aktualisierte Checkliste, die auch mittelständische Betriebe bei der Umsetzung unterstützt.

Welche datenschutzrechtlichen Anforderungen gelten gemäß DSGVO beim Einsatz generativer KI?

Beim Einsatz generativer KI sind die Grundsätze der DSGVO vollumfänglich einzuhalten. Besonders relevant sind die Zweckbindung und Datenminimierung: Personenbezogene Daten dürfen nur in dem Umfang in KI-Systeme eingegeben werden, wie es für den jeweiligen Verarbeitungszweck notwendig ist. Darüber hinaus sind Unternehmen verpflichtet zu prüfen, ob eine Datenverarbeitungs-Folgenabschätzung erforderlich ist, insbesondere wenn die KI-Anwendung besondere Datenkategorien verarbeitet. Der Bitkom-Leitfaden 2025 behandelt diese Anforderungen als zentralen Bestandteil des rechtssicheren KI-Einsatzes.

Wie können Unternehmen sicherstellen, dass Mitarbeitende generative KI verantwortungsvoll nutzen?

Sowohl das BSI als auch Bitkom empfehlen den Aufbau klarer interner Nutzungsrichtlinien für generative KI. Dazu gehören Vorgaben, welche Daten in externe KI-Systeme eingegeben werden dürfen, wie KI-generierte Ergebnisse zu kennzeichnen und zu überprüfen sind sowie welche Anwendungsfälle freigegeben sind. Ergänzend sollten Unternehmen Schulungsmaßnahmen etablieren, um das Bewusstsein für typische Risiken wie Halluzinationen oder Datenweitergabe zu schärfen. Eine regelmäßige Überprüfung der Richtlinien ist angesichts der schnellen technologischen Entwicklung ausdrücklich empfohlen.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.