Die Plattform Lernende Systeme bündelt sechs vom Bundesforschungsministerium geförderte KI-Kompetenzzentren, die als Teil der nationalen KI-Strategie Deutschlands Standards für Nachvollziehbarkeit, Sicherheit und verantwortungsvollen KI-Einsatz erarbeiten. Für Forschungseinrichtungen und Unternehmen wird die Frage, wie KI-Systeme geprüft, bewertet und konform eingesetzt werden, zunehmend zur Pflichtaufgabe. Die Plattform Lernende Systeme liefert mit Whitepapers zu erklärbarer KI, Impulspapieren zu Patientensicherheit und einem Fortschrittsbericht konkrete Orientierung. Wer Benchmarking- und Konformitätsanforderungen frühzeitig versteht, sichert Wettbewerbsfähigkeit und Rechtssicherheit im Rahmen des EU AI Act.
Plattform Lernende Systeme 2025: KI-Standardisierung, Konformitätsprüfung und Benchmarking für deutsche Forschungseinrichtungen
Deutschland verfügt laut der Plattform Lernende Systeme über sechs vom Bundesforschungsministerium geförderte KI-Kompetenzzentren, die als Teil der nationalen KI-Strategie die Grundlage für einheitliche Qualitäts- und Prüfstandards im Forschungsbereich bilden.
Standardisierung als strategische Voraussetzung
Die Plattform Lernende Systeme (PLS) fungiert als zentrales Koordinierungsgremium für den verantwortungsvollen Einsatz von KI in Deutschland. Ihr Fortschrittsbericht “KI verantwortlich gestalten” dokumentiert aktuelle Entwicklungen und Ergebnisse in diesem Bereich. Für Forschungseinrichtungen ist dieser Bericht eine der wenigen deutschsprachigen Referenzquellen, die Orientierungspunkte für Konformitätsfragen aus einer neutralen, staatlich geförderten Perspektive liefert.
Standardisierung bedeutet in diesem Kontext nicht nur technische Normierung. Die PLS betont ausdrücklich, dass die Nachvollziehbarkeit von KI-Ergebnissen eine zentrale Anforderung darstellt. Ein Whitepaper der Plattform beschreibt konkrete Methoden und Werkzeuge, die diese Nachvollziehbarkeit verbessern sollen, und richtet sich damit direkt an Akteure in Forschung, Lehre, Politik und Wirtschaft. Für Forschungseinrichtungen, die KI-Systeme evaluieren oder einsetzen, ist diese Anforderung an Transparenz und Erklärbarkeit eine praktische Vorgabe, keine theoretische Empfehlung.
Die sechs KI-Kompetenzzentren arbeiten dabei nicht isoliert. Sie sind international vernetzt und sollen als Knotenpunkte zwischen Grundlagenforschung und Anwendungstransfer dienen. Welche Projekte konkret aus diesen Zentren hervorgegangen sind, lässt die PLS auf ihrer Webpräsenz dokumentieren.
Konformitätsprüfung: Sicherheit und Regulierung im Fokus
Die PLS adressiert Fragen zur Sicherheit von KI-Systemen als eigenständiges Themenfeld. Neben technischen Aspekten stehen dabei auch regulatorische Anforderungen und Auswirkungen auf die Arbeitswelt im Mittelpunkt. Für Forschungseinrichtungen, die KI-Anwendungen entwickeln oder in Drittmittelprojekten einsetzen, ergeben sich daraus konkrete Prüfpflichten.
Besonders relevant ist ein Impulspapier der PLS zu KI im Gesundheitsbereich, das zentrale Anforderungen mit Blick auf Patientensicherheit und Innovationsfähigkeit beleuchtet. Es zeigt exemplarisch, wie Konformitätsprüfverfahren sektoral ausgestaltet werden müssen. Generalisierbare Prüfrahmen existieren zwar auf EU-Ebene über den AI Act, doch die sektorspezifische Ausgestaltung bleibt Aufgabe nationaler Fachgremien wie der PLS. Wer sich mit den Anforderungen des EU AI Acts für Hochrisiko-KI-Systeme vertraut machen möchte, findet dazu weiterführende Informationen in unserem Artikel zu EU AI Act: Konformitätsbewertung und Zertifizierungspflichten für Hochrisiko-KI.
Benchmarking-Richtlinien: Orientierung zwischen Forschung und Praxis
Benchmarking von KI-Systemen ist kein rein technisches Problem. Es berührt Fragen der Vergleichbarkeit, der Reproduzierbarkeit und letztlich der Glaubwürdigkeit von Forschungsergebnissen. Die PLS stellt dafür ein Monitoring-Instrument bereit, das anhand von zwölf Indikatoren Kennzahlen zu den Dimensionen Forschung, Kompetenzen und Anwendungstransfer erfasst. Diese Indikatoren bieten Forschungseinrichtungen einen Referenzrahmen, um den eigenen Entwicklungsstand im nationalen Vergleich einzuordnen.
Ergänzend dazu beschreibt die PLS in ihrem Webspecial zu KI und Demokratie, wie sich KI auf Meinungsbildung, Journalismus und Justiz auswirkt und wie Deepfakes erkannt werden können. Dies verdeutlicht, dass Benchmarking-Anforderungen nicht auf technische Leistungsmetriken beschränkt bleiben, sondern auch gesellschaftliche Wirkungsdimensionen umfassen müssen.
Für einen Überblick über aktuelle internationale Benchmarking-Methoden und deren Validität empfiehlt sich ergänzend unser Bericht zur HELM-Benchmark-Methodik und LLM-Evaluierungsverfahren.
Vier praktische Implikationen für Entscheider in Forschungseinrichtungen
1. Nachvollziehbarkeit als Dokumentationspflicht einplanen: Das PLS-Whitepaper zur Erklärbarkeit macht deutlich, dass Forschungseinrichtungen schon beim Design von KI-Projekten Mechanismen zur Nachvollziehbarkeit vorsehen müssen. Dies betrifft insbesondere Drittmittel- und EU-geförderte Vorhaben.
2. Sektorspezifische Konformitätsanforderungen frühzeitig prüfen: Wer KI in sensiblen Bereichen wie Medizin, Justiz oder Bildung einsetzt, muss über allgemeine EU-AI-Act-Vorgaben hinaus sektorale Anforderungen beachten, die von Gremien wie der PLS erarbeitet werden. Unser Artikel zu BSI-Richtlinien für KI-Evaluierung und Foundation Models liefert dazu ergänzende Informationen.
3. Monitoring-Indikatoren als internes Steuerungsinstrument nutzen: Die zwölf Indikatoren des PLS-Monitorings lassen sich als Vorlage für interne KPIs adaptieren, um den KI-Reifegrad einer Institution zu messen und gegenüber Fördergebern zu kommunizieren.
4. Generative KI gesondert bewerten: Die PLS hebt hervor, dass generative KI spezifische Fragen zu Vertrauen, Authentizität und menschlicher Kompetenz aufwirft. Forschungseinrichtungen sollten für diese Systemklasse eigene Bewertungsrahmen entwickeln, die über klassische Leistungsbenchmarks hinausgehen. Einen vertiefenden Einblick in die Benchmarking-Praxis für LLMs bietet unser Beitrag zu KI-Benchmarking-Standards und Zertifizierung für den Mittelstand 2025.
Quellen
- Plattform Lernende Systeme: KI in Deutschland
- Plattform Lernende Systeme: KI und Demokratie
- Plattform Lernende Systeme: Sicherheit von KI-Systemen
Häufige Fragen
Was ist die Plattform Lernende Systeme und welche Rolle spielt sie für die KI-Forschung in Deutschland?
Die Plattform Lernende Systeme ist Deutschlands zentrale Vernetzungsinstanz für Künstliche Intelligenz. Sie bündelt Expertise aus Wissenschaft, Wirtschaft und Politik und gibt Orientierung zu Fragen rund um Technik, Sicherheit, Regulierung und Arbeitswelt. Im Kern der nationalen KI-Strategie stehen sechs KI-Kompetenzzentren, die vom Bundesforschungsministerium gefördert werden und als institutionelle Anker der deutschen KI-Forschungslandschaft fungieren.
Wie unterstützt die Plattform Lernende Systeme Forschungseinrichtungen bei der Nachvollziehbarkeit von KI-Systemen?
Die Plattform hat ein Whitepaper veröffentlicht, das konkrete Methoden und Werkzeuge beschreibt, mit denen die Nachvollziehbarkeit von KI-Ergebnissen verbessert werden kann. Das Dokument richtet sich ausdrücklich an Akteure aus Forschung, Lehre, Politik und Wirtschaft und liefert praxisnahe Hinweise für den Umgang mit sogenannten Explainability-Anforderungen, die auch im Kontext von Konformitätsprüfungen zunehmend relevant werden.
Welche Grundlage bietet die Plattform Lernende Systeme für einen werteorientierten und sicheren KI-Einsatz?
Mit ihrem Fortschrittsbericht ‘KI verantwortlich gestalten’ dokumentiert die Plattform Lernende Systeme aktuelle Entwicklungen und zentrale Ergebnisse zum verantwortungsvollen Einsatz von KI. Ergänzend dazu gibt eine Broschüre konkrete Orientierung, wie ein werteorientierter Umgang mit KI in der Praxis gelingen kann. Für den Gesundheitsbereich beleuchtet ein Impulspapier spezifische Anforderungen und deren Auswirkungen auf Patientensicherheit und Innovation.
Wie beobachtet die Plattform Lernende Systeme den KI-Standort Deutschland systematisch?
Die Plattform betreibt ein strukturiertes Monitoring, das anhand von zwölf definierten Indikatoren den Stand Deutschlands in den Bereichen Forschung, Kompetenzen und Transfer in die Anwendung abbildet. Dieses Instrument dient als Standortbeschreibung und macht Stärken sowie Lücken im deutschen KI-Ökosystem sichtbar. Ergänzend zeigt eine interaktive Landkarte, wo KI-Technologien in Deutschland heute und in naher Zukunft eingesetzt werden.
Welche Anforderungen stellt die Plattform Lernende Systeme an einen menschenzentrierten KI-Einsatz in Unternehmen und Behörden?
Laut einem Impulspapier der Plattform Lernende Systeme verändert KI Prozesse, Aufgabenverteilungen und Strukturen in Organisationen grundlegend, insbesondere in den Bereichen Innovationskultur, Kommunikation und Zusammenarbeit. Die Plattform benennt konkrete Bedingungen, die für eine menschenzentrierte Umsetzung erfüllt sein müssen. Für den öffentlichen Sektor zeigt sie anhand von Praxisbeispielen, wie staatliches Handeln durch KI effizienter, zugänglicher und nutzerfreundlicher gestaltet werden kann.
Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.
