Laut Telekom AI Agent-Studie 2026, für die 123 KI-affine Entscheider aus deutschen Unternehmen befragt wurden, gelten acht Anwendungsfälle für Agentic AI als prioritär – darunter autonome Auftragsverarbeitung, Angebotserstellung und Lead Research. Mittelständische Unternehmen stehen vor der Frage, wie sie autonome KI-Agenten und Multi-Agenten-Systeme regelkonform einsetzen. Das Fraunhofer IESE warnt, dass generative KI-Modelle ihre Stärke erst dann entfalten, wenn Unternehmen die zugrundeliegenden Systeme und deren Risiken tiefgehend verstehen. Wer Agentic AI ohne klare Sicherheitsarchitektur einführt, riskiert unkontrollierte Automatisierungsketten in sensiblen Geschäftsprozessen.

BSI-Richtlinien 2025: Was Mittelständler bei Agentic AI und Multi-Agent-Systemen jetzt wissen müssen

Autonome KI-Agenten, die selbstständig recherchieren, entscheiden und Software bedienen, sind im deutschen Mittelstand angekommen. Damit steigen auch die Sicherheitsanforderungen: Das BSI hat seine Grundschutz-Vorgaben für KI-Systeme weiterentwickelt und adressiert dabei explizit agentenbasierte Architekturen. Wer Multi-Agent-Systeme (MAS) ohne entsprechende Sicherheitsmaßnahmen betreibt, riskiert Compliance-Lücken und Haftungsrisiken.

Was Agentic AI für Unternehmen bedeutet

Agentic AI bezeichnet KI-Systeme, die nicht nur auf Anfragen reagieren, sondern eigenständig Ziele verfolgen, Teilaufgaben planen und dabei mit anderen Agenten oder Softwaresystemen interagieren. Laut einer Analyse des Fraunhofer IESE beginnt die eigentliche Transformation generativer KI erst dann, wenn Modelle lernen, autonom zu agieren und miteinander zu kommunizieren. In Multi-Agenten-Systemen übernehmen spezialisierte Agenten unterschiedliche Rollen, koordinieren sich und treffen verkettete Entscheidungen ohne direkten menschlichen Eingriff.

Die Telekom AI Agent-Studie 2026, für die 123 KI-affine Entscheider aus deutschen Unternehmen mit 50 bis 2.500 Mitarbeitenden befragt wurden, zeigt: Der praktische Einsatz ist weniger spektakulär als der Hype vermuten lässt. Priorisiert werden vor allem wiederkehrende, mehrstufige Prozesse, darunter Auftrags- und Rechnungsverarbeitung, Angebotserstellung, E-Mail-Service, Einkauf und Beschaffung sowie Lead Research. Der Sweet Spot liegt zwischen einfacher Einzelschritt-Automatisierung und vollständiger End-to-End-Automatisierung.

Vier praktische Implikationen für Entscheider im Mittelstand

1. Sicherheitsarchitektur vor dem Rollout prüfen

Multi-Agent-Systeme vergrößern die Angriffsfläche erheblich. Jeder Agenten-Schnittstelle, jeder API-Aufruf und jede Kommunikation zwischen Agenten ist ein potenzieller Angriffspunkt. Das BSI empfiehlt, agentenbasierte Systeme bereits in der Planungsphase nach den Grundschutz-Bausteinen zu bewerten und Sicherheitsanforderungen verbindlich in die Systemarchitektur zu integrieren. Das betrifft insbesondere Zugriffskontrollen, Logging und die Nachvollziehbarkeit von Agenten-Entscheidungen. Weiterführende Anforderungen finden sich in den BSI-Grundschutz-Vorgaben für Agentic AI.

2. Risikoklassifizierung ist Pflicht, nicht Kür

Nicht jeder KI-Agent ist gleich riskant. Die Risikoklassifizierung hängt davon ab, auf welche Systeme ein Agent zugreift, welche Entscheidungen er autonom trifft und welche Auswirkungen Fehler haben. Agenten, die Bestellungen auslösen, Verträge vorbereiten oder auf Kundendaten zugreifen, unterliegen höheren Anforderungen als solche, die intern Texte zusammenfassen. Das BSI-Grundschutz-Framework sieht vor, dass Betreiber diese Klassifizierung dokumentieren und regelmäßig aktualisieren. Ergänzend dazu gelten die BSI-Sicherheitsanforderungen für KI-Systeme als Orientierungsrahmen.

3. Monitoring und Nachvollziehbarkeit als Daueraufgabe

Autonome Agenten handeln in Ketten: Ein Fehler in einem frühen Schritt pflanzt sich durch das gesamte System fort. Ohne lückenloses Logging und Monitoring ist eine nachträgliche Fehleranalyse kaum möglich. Das BSI fordert, dass Betreiber in der Lage sein müssen, Agenten-Aktionen vollständig zu rekonstruieren. Das setzt geeignete Protokollierungssysteme voraus, die auch bei komplexen MAS-Architekturen greifen. Anforderungen an Evaluierung und Monitoring von Foundation Models und KI-Systemen sind in den BSI-Richtlinien zur KI-Evaluierung und Monitoring näher beschrieben.

4. Schnittstellen zu Drittanbietern absichern

Viele produktive Agentic-AI-Anwendungen verbinden interne Systeme mit externen APIs, etwa für Datenbeschaffung, Kommunikation oder Softwaresteuerung. Jede externe Verbindung bringt zusätzliche Datenschutz- und Sicherheitspflichten mit sich. Der BSI C5-Kriterienkatalog definiert Mindestanforderungen an Cloud-Dienste, die in solchen Setups als Infrastruktur genutzt werden. Mittelständler sollten prüfen, ob ihre KI-Dienstleister diese Anforderungen erfüllen, bevor produktive Agenten auf externe Systeme zugreifen. Details zum C5-Katalog finden sich hier: BSI C5-Katalog und KI-Sicherheitsanforderungen.

Einordnung für den Mittelstand

Die Telekom-Studie zeigt, dass KI-affine Mittelständler Agentic AI bereits pragmatisch einsetzen, primär für strukturierte, repetitive Prozesse. Genau dort, wo der Einsatz am unkompliziertesten erscheint, entstehen aber auch die größten Sicherheitslücken, wenn Governance-Strukturen fehlen. Wer jetzt in MAS-Architekturen investiert, sollte BSI-Grundschutz und C5 nicht als nachgelagerte Compliance-Aufgabe verstehen, sondern als integralen Bestandteil der Systemplanung. Die Kombination aus EU AI Act und BSI-Anforderungen erhöht den Dokumentations- und Prüfaufwand weiter. Einen Überblick über die Schnittstellen beider Regelwerke bietet der Artikel zu BSI-Grundschutz und LLM-Sicherheitsanforderungen.

Quellen

• Agentic AI – Multi-Agenten-Systeme im Zeitalter generativer KI – Fraunhofer IESE
• Warum die spannendsten KI-Agenten ziemlich langweilige Aufgaben erledigen – t3n

Häufige Fragen

Was versteht man unter Agentic AI, und warum ist das Thema für mittelständische Unternehmen relevant?

Agentic AI bezeichnet KI-Systeme, die eigenständig Aufgaben planen, Entscheidungen treffen und dabei mit anderen KI-Agenten kommunizieren. Laut Fraunhofer IESE entfalten generative KI-Modelle ihre volle Stärke erst dann, wenn sie autonom agieren und in sogenannten Multi-Agenten-Systemen zusammenarbeiten. Für den Mittelstand bedeutet das: Wiederkehrende, mehrstufige Geschäftsprozesse lassen sich potenziell automatisieren, was den Druck erhöht, sich frühzeitig mit den Sicherheitsanforderungen dieser Systeme auseinanderzusetzen.

Für welche konkreten Aufgaben setzen deutsche Unternehmen KI-Agenten heute tatsächlich ein?

Die Telekom AI Agent-Studie 2026, für die 123 KI-affine Entscheider aus deutschen Unternehmen mit 50 bis 2.500 Mitarbeitenden befragt wurden, identifizierte acht priorisierte Anwendungsfälle: Auftrags- und Rechnungsverarbeitung, Angebotserstellung, E-Mail-Service, Einkauf und Beschaffung, Lead Research sowie telefonischer Service. Der Schwerpunkt liegt damit weniger auf visionären Szenarien, sondern auf strukturierten, wiederkehrenden Prozessen, die mehrere Systeme miteinander verbinden.

Wo liegt laut aktuellen Studien der sinnvolle Einsatzbereich für KI-Agenten im Unternehmen?

Laut der Telekom AI Agent-Studie 2026 liegt der sogenannte Sweet Spot zwischen einfachen Einzelschrittaufgaben und vollständiger End-to-End-Automatisierung. Besonders geeignet sind Prozesse, die mehrere Arbeitsschritte und IT-Systeme verknüpfen, sich regelmäßig wiederholen und klare Eingangs- sowie Ausgangsdaten haben. Vollautonome Komplettlösungen stehen im Mittelstand dagegen noch nicht im Vordergrund.

Warum reicht ein einfaches Sprachmodell allein nicht für den sicheren Unternehmenseinsatz?

Fraunhofer IESE betont, dass die Entwicklung effektiver Anwendungen auf Basis generativer KI-Modelle ein tiefgreifendes Verständnis der jeweiligen Modellarchitektur erfordert. Erst wer die Fähigkeiten und Grenzen eines Modells genau kennt, kann es sinnvoll in Agentensystemen einbetten. Ohne dieses Wissen steigt das Risiko unkontrollierbarer Aktionsketten, fehlerhafter Entscheidungen und damit auch sicherheitsrelevanter Schwachstellen im Gesamtsystem.

Was sollten Entscheider im Mittelstand als ersten Schritt tun, bevor sie KI-Agenten einführen?

Vor der Einführung empfiehlt sich eine nüchterne Bestandsaufnahme geeigneter Prozesse. Die Telekom-Studie zeigt, dass KI-affine Unternehmen zunächst konkrete, abgrenzbare Anwendungsfälle priorisieren, statt auf breite Automatisierung zu setzen. Parallel dazu sollten Verantwortliche klären, welche Daten Agenten zugreifen, welche Systeme sie steuern dürfen und welche Aufsichtsmechanismen greifen, wenn ein Agent eine unerwartete Entscheidung trifft.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.