Der KI-Anbieter SAS hat Einblicke veröffentlicht, wie Unternehmen autonome KI-Agenten steuern sollten. Im Zentrum steht die Frage, welche Vollmachten ein Agent erhält, wann ein Mensch zustimmen muss und wie jede Aktion nachvollziehbar protokolliert wird. Nach dem SAS Data & AI Impact Report handeln 89 Prozent der produktiv eingesetzten Agenten bereits eigenständig, mehr als die Hälfte mit begrenzter oder ohne menschliche Freigabe.
Der KI-Anbieter SAS hat Einblicke zur Steuerung autonomer KI-Agenten in Unternehmen veröffentlicht. Marinela Profi, Global Market Strategy Lead für KI-Agenten und Generative KI bei SAS, erläuterte anlässlich der AI & Big Data Expo Europe in Amsterdam, wie Unternehmen mit Systemen umgehen sollten, die eigenständig Entscheidungen ausführen.
Im Mittelpunkt stehen die Architekturentscheidungen hinter dem Einsatz: welches Werkzeug ein Agent aufruft, ab wann eine menschliche Freigabe nötig ist und auf welcher Ebene Berechtigungen vergeben werden. Nach Profis Darstellung reicht es nicht, Berechtigungen auf Anwendungsebene zu erteilen; sie müssen am einzelnen Agenten oder an der konkreten Aufgabe ansetzen. Auch Protokolle sollten erfassen, welche Werkzeuge aufgerufen wurden, nicht nur welche Ergebnisse entstanden sind.
Nach dem SAS Data & AI Impact Report liegt das Vertrauen in generative KI bei 76 Prozent, in agentische KI bei 66 Prozent. Zugleich handeln 89 Prozent der produktiv eingesetzten Agenten bereits eigenständig statt nur zu unterstützen, und mehr als die Hälfte arbeitet mit begrenzter oder ohne menschliche Freigabe. Nur 17,5 Prozent der Organisationen verfügen laut der Erhebung über eine vollständig optimierte Dateninfrastruktur mit den für agentische KI nötigen Fähigkeiten zu Datenherkunft, Governance, Validierung und Erklärbarkeit. Organisationen mit hohen Vertrauenswerten melden demnach 15-mal häufiger eine starke oder hohe Rendite auf ihren KI-Einsatz.
Profi beschreibt Governance als Architektur statt als Dokumentation. Lassen sich Entscheidungen, verwendete Daten und Verantwortlichkeiten im Nachhinein nicht rekonstruieren, sei das Problem nicht durch eine weitere Richtlinie zu lösen. Sie warnt vor einer „one intelligent layer over everything“-Architektur, in der ein einzelnes Modell alles steuert: Das probabilistische Bauteil dürfe nicht zur Steuerungsebene des gesamten Unternehmens werden.
Für Handwerksbetriebe und KMU ergeben sich daraus mehrere Punkte:
- Vollmachten begrenzen: Ein Agent erhält nur die Rechte, die er tatsächlich benötigt.
- Protokolle führen: Jede Aktion wird protokolliert – wer, was, wann und mit welcher Freigabe.
- Mensch im Prozess: Ab bestimmten Beträgen, Kundenzusagen oder Löschungen entscheidet ein Mensch.
- Regelmäßig prüfen: Der Rahmen gehört in einen festen Prüfrhythmus.
Die Grenze zwischen Mensch und Maschine sollte sich laut Profi nach Risiko, Umkehrbarkeit, Unsicherheit und Tragweite richten. Ein risikoarmer, leicht rückgängig zu machender Vorgang verträgt mehr Autonomie als eine Entscheidung über Gesundheit, Kredit, Beschäftigung oder Zugang zu öffentlichen Leistungen. Menschen sollten nicht jeden Vorgang einzeln freigeben („human-on-the-loop“ statt „human-in-every-loop“), aber die Verantwortung behalten: „We can delegate execution to AI. We should never delegate accountability to it.“
Autor: Team REN-AI-SSANCE – mit KI-Unterstützung erstellt, von Menschen geprüft und freigegeben.
Quelle: AI News – Originalartikel vom 08.10.2026; Abruf/Archivstand: 09.10.2026
