Forscher um Ken Huang (DistributedApps.AI, OWASP Top 10 für LLMs) haben mit AAGATE eine Kubernetes-native Governance-Plattform vorgestellt, die das NIST AI Risk Management Framework speziell für autonome, sprachmodellgesteuerte KI-Agenten in Produktivumgebungen operationalisiert. Klassische AppSec-Werkzeuge stoßen bei agentischen KI-Systemen an Grenzen, weil diese eigenständig und in Maschinengeschwindigkeit handeln. Mit zunehmendem Einsatz solcher Systeme in Unternehmen steigt auch der regulatorische Druck, etwa durch den EU AI Act. AAGATE zeigt, dass NIST AI RMF auch für kleine Teams praktisch umsetzbar ist: Ein sechsköpfiges Citizen-Science-Team bei radioastronomy.io betreibt ein vollständiges, board-geprüftes Governance-System mit über 130 Modellkarten auf Basis desselben Frameworks.

NIST AI RMF: Was europäische Unternehmen bei der Implementierung beachten müssen

Das NIST AI Risk Management Framework (AI RMF) gewinnt auch außerhalb der USA an Bedeutung. Neue Forschungsarbeiten und Open-Source-Projekte zeigen, wie Unternehmen und Teams das Framework konkret in den Betrieb überführen können, anstatt es als rein theoretisches Regelwerk zu behandeln.

Leitfakt: Von der Theorie zur operativen Praxis

Ein im Oktober 2025 auf arXiv veröffentlichtes Forschungspapier stellt mit AAGATE (Agentic AI Governance Assurance & Trust Engine) eine Kubernetes-native Steuerungsplattform vor, die das NIST AI RMF gezielt für autonome, sprachmodellgesteuerte KI-Agenten im Produktivbetrieb operationalisiert. Die Autoren, darunter Ken Huang (CEO von DistributedApps.AI, Co-Autor der OWASP Top 10 für LLMs und Contributor zu NIST GenAI) sowie Jerry Huang von Kleiner Perkins und Kyriakos Lambros (CEO von RockCyber, OWASP GenAI Agentic Security Initiative), argumentieren, dass klassische Application-Security-Werkzeuge für improvisatorische, maschinengeschwindigkeitsbasierte KI-Systeme strukturell ungeeignet sind.

Parallel dazu zeigt das Open-Source-Projekt “NIST AI RMF Cookbook” auf GitHub, wie ein sechsköpfiges Citizen-Science-Team aus dem Bereich Radioastronomie das Framework vollständig in seinen Betrieb integriert hat. Das Projekt dokumentiert über 130 Modellkarten sowie Richtlinien, die neben dem NIST AI RMF auch CIS Controls, CIS-RAM und den Colorado SB-24-205 abbilden. Die Verantwortlichen betonen: Die Implementierung erfolgte nicht aufgrund regulatorischer Vorgaben, sondern weil qualitativ hochwertige Ausgaben qualitativ hochwertige Prozesse voraussetzen.

Praktische Implikationen für Unternehmen

1. Governance beginnt im Betrieb, nicht im Compliance-Dokument

Beide Projekte belegen, dass eine wirksame KI-Governance nicht mit der Fertigstellung eines Rahmendokuments endet. Das NIST AI RMF Cookbook enthält nach eigenen Angaben ausschließlich Artefakte, die das Team tatsächlich im laufenden Betrieb einsetzt: versionskontrollierte, peer-reviewte und board-abgesegnete Dokumentation. Für europäische Unternehmen, die gleichzeitig den Anforderungen des EU AI Act begegnen, bietet dieser Ansatz einen Anknüpfungspunkt: Operative Governance-Nachweise können Überschneidungen mit Konformitätspflichten abdecken.

2. Agentenbasierte KI erfordert eigene Kontrollmechanismen

AAGATE adressiert explizit die Lücke, die entsteht, wenn autonome KI-Agenten in Produktion gehen. Herkömmliche AppSec-Werkzeuge, die auf statische oder regelbasierte Systeme ausgelegt sind, stoßen laut den Autoren bei dynamischen, auf Large Language Models basierenden Agenten an ihre Grenzen. Unternehmen, die agentenbasierte Systeme einsetzen oder planen, sollten ihre bestehenden Sicherheits- und Governance-Strukturen daraufhin prüfen, ob diese Systeme tatsächlich abgedeckt sind.

3. Skalierung ist kein Hindernis für rigorose Governance

Das Citizen-Science-Beispiel zeigt, dass selbst kleine Teams mit begrenzten Ressourcen ein vollständiges Governance-System aufbauen können. Das Projekt befindet sich nach eigenen Angaben in Version 0.2 und aktiver Entwicklung. Für KMU in Europa, die häufig auf externe Frameworks ohne Anpassung zurückgreifen, liefert dieses Beispiel konkrete Vorlagen und eine nachvollziehbare Skalierungslogik.

4. Transparenz als Qualitätsmerkmal

Das NIST AI RMF Cookbook wird unter dem Prinzip offener Wissenschaft veröffentlicht: Transparenz über die eigenen Governance-Entscheidungen gilt den Betreibern als Bestandteil der Qualitätssicherung, nicht als Mehraufwand. Für Unternehmen, deren KI-Ausgaben von Dritten weiterverwendet werden, etwa in Lieferketten oder bei Forschungskooperationen, kann eine vergleichbare Offenlegungspraxis Vertrauen schaffen und Haftungsrisiken reduzieren.

Weiterführende Artikel auf ecompanion.ai:

Quellen

• AAGATE: A NIST AI RMF-Aligned Governance Platform for Agentic AI (arXiv, v2)
• AAGATE: A NIST AI RMF-Aligned Governance Platform for Agentic AI (arXiv, v1)
• GitHub – vintagedon/nist-ai-rmf-cookbook: Practical governance for small teams

Häufige Fragen

Was ist das NIST AI Risk Management Framework und warum ist es für europäische Unternehmen relevant?

Das NIST AI RMF ist ein vom US-amerikanischen National Institute of Standards and Technology entwickelter Rahmen zur Steuerung von KI-Risiken. Es strukturiert Governance entlang der Funktionen Govern, Map, Measure und Manage. Europäische Unternehmen nutzen es zunehmend als operative Grundlage, da es praxisnah anwendbar ist und sich mit regulatorischen Anforderungen wie dem EU AI Act kombinieren lässt.

Wie lässt sich das NIST AI RMF konkret im Betrieb umsetzen, auch ohne großes Compliance-Team?

Kleine Teams können das Framework operativ einsetzen, ohne dass Regulierungspflichten den Anstoß geben müssen. Das Open-Source-Projekt NIST AI RMF Cookbook von radioastronomy.io zeigt dies: Ein sechsköpfiges Citizen-Science-Team dokumentiert KI-Governance mit Richtlinien, Risikoszenarien und über 130 Modellkarten, versionskontrolliert und peer-reviewed. Der Antrieb ist Qualitätssicherung, da die erzeugten Datensätze von anderen Forschern genutzt werden.

Welche Herausforderungen entstehen beim Einsatz agentenbasierter KI-Systeme aus Governance-Sicht?

Autonome, sprachmodellgesteuerte Agenten agieren mit hoher Geschwindigkeit und improvisieren Entscheidungen, was klassische AppSec-Werkzeuge an ihre Grenzen bringt. Das Forschungspapier AAGATE (arxiv.org/html/2510.25863) adressiert genau diese Lücke: Es beschreibt eine Kubernetes-native Steuerungsebene, die das NIST AI RMF für produktive Agentensysteme operationalisiert und dabei Sicherheit sowie Nachvollziehbarkeit auf Maschinengeschwindigkeit gewährleisten soll.

Wer hat das AAGATE-Framework entwickelt und welche institutionellen Hintergründe haben die Autoren?

AAGATE wurde von einem internationalen Autorenteam veröffentlicht. Ken Huang, CEO von DistributedApps.AI, ist Co-Autor der OWASP Top 10 für LLMs und Contributor zu NIST GenAI. Weitere Beteiligte kommen von Kleiner Perkins, dem SAS Institute, OWASP sowie verschiedenen Forschungs- und Beratungseinrichtungen in Deutschland, Australien und Kanada.

Kann das NIST AI RMF mit anderen Standards wie CIS Controls kombiniert werden?

Ja. Das NIST AI RMF Cookbook von radioastronomy.io verknüpft das Framework in der Praxis mit CIS Controls, CIS-RAM sowie dem US-Bundesstaatsgesetz Colorado SB-24-205. Dies zeigt, dass das NIST AI RMF als modulare Grundlage dienen kann, die sich je nach regulatorischem Umfeld und Risikolage um weitere Standards ergänzen lässt.