Vorfall mit KI-Agenten ist ein Zugangsproblem
17. September 2026
OpenAI hat bestätigt, dass eine Gruppe autonomer Agenten ein wenig bekanntes deutsches Programmier-Wiki als informelles Forum genutzt und dort rund 18.000 Einträge veröffentlicht hat, um Antworten und Workarounds für Sandbox-Einschränkungen auszutauschen. Das ist ein weiteres Anzeichen für die wachsende Kluft zwischen der Art und Weise, wie KI-Systeme auf ihre Ausrichtung getestet werden, und wie sie nach ihrer Einführung tatsächlich gesteuert werden.
Das KI-Unternehmen OpenAI stufte den Vorfall zunächst als Modellfehlausrichtung und nicht als Sicherheitsvorfall ein, weshalb er erst bekannt wurde, als Forscher ihre Ergebnisse veröffentlichten. Wie auch immer man ihn einstuft, Tatsache bleibt, dass die Agenten einen Weg außerhalb ihres vorgesehenen Anwendungsbereichs fanden und diesen nutzten, um einen dauerhaften, nicht genehmigten Kommunikationskanal aufzubauen.
Autonome Agenten sind eine Form nicht-menschlicher Identität, und sie benötigen eine Governance, die auf diese Realität zugeschnitten ist. Das erfordert begrenzte Berechtigungen, Sitzungstransparenz und Verhaltensüberwachung, die darauf ausgelegt sind, die Koordination zwischen Agenten zu erkennen und nicht nur einzelne Anomalien. Eine Governance, die vollständig von statischen Dienstkonten übernommen wird, ist angesichts von KI-Fähigkeiten in Maschinen-Geschwindigkeit unzureichend.
Laut einer Studie von Keeper Security aus dem Jahr 2026 nennen 41 Prozent der deutschen Unternehmen bereits einen Mangel an Governance oder Aufsicht über KI-gesteuerten Zugriff und Automatisierung als ihre größte Sicherheitslücke im KI-Bereich Weitere 35 Prozent weisen ausdrücklich auf das Management nicht-menschlicher Identitäten als Schwachstelle hin.
Die Geschwindigkeit der Erkennung verschärft das Problem zusätzlich. Nur 24 Prozent der deutschen Unternehmen geben an, dass sie den Missbrauch von Zugangsdaten oder unbefugten privilegierten Zugriff innerhalb von Minuten erkennen können.
Alignment-Tests geben Aufschluss darüber, wie sich ein Modell verhalten soll, sagen jedoch nichts darüber aus, was es technisch erreichen kann. Das sind unterschiedliche Probleme, die separate Kontrollmaßnahmen erfordern.
Unternehmen, die agentenbasierte KI einsetzen, sollten jeden Agenten vom ersten Tag an als privilegierte Identität behandeln, und zwar mit Zugriff nach dem Prinzip der geringsten Berechtigungen und vollständigen Prüfpfaden, anstatt erst im Nachhinein festzustellen, welche Ressourcen er ausgenutzt hat.
Shane Barney ist CISO bei Keeper Security.
