Unkontrollierte KI-Agenten und ausgeklügelte Deepfakes bedrohen Unternehmen

Autonome KI-Tools erweitern die Angriffsfläche von Unternehmen schneller, als Sicherheitsteams Schutzmaßnahmen implementieren können. Diese Aussage stammt aus dem Forschungsberichts „From Agentic Risk to Human Wins: Building a Culture of Security in the Era of Agentic AI“. Dabei zeigen die Ergebnisse der Studie, dass 48 Prozent der deutschen Unternehmen bereits autonome KI-Agenten einsetzen, die kaum oder gar nicht kontrolliert werden, während 55 Prozent der Mitarbeiter zugeben, dass sie Angriffe wie Deepfakes wahrscheinlich nicht erkennen könnten.

Agentic AI ist mittlerweile weit in den Arbeitsalltag integriert, deshalb berichten alle deutschen Cyber-Sicherheitsverantwortlichen, dass sie KI nutzen. 78 Prozent haben bereits KI-Agenten im Einsatz, die innerhalb der Arbeitsabläufe von Unternehmen Maßnahmen ergreifen, davon sogar 62 Prozent autonom.

Ein Mangel an Governance macht Organisationen jedoch angreifbar; der Bericht zeigt, dass erschreckende 48 Prozent der Organisationen angeben, dass ihre KI-Nutzung nicht genehmigt oder nicht geregelt ist. Diese unkontrollierte „Schatten-KI“ fungiert praktisch als unsichtbare Ebene von Schattenmitarbeitern, die sensible Unternehmensdaten ohne Aufsicht bearbeiten.

Zu den wichtigsten Ergebnisse des Berichts zählen:

• 87 Prozent der deutschen Beschäftigten geben an, dass Deepfake-Stimmen und -Videos mittlerweile so realistisch sind, dass man nicht mehr weiß, wem man vertrauen kann, und 55 Prozent geben offen zu, dass sie sich am Arbeitsplatz von einem Deepfake-Betrug täuschen lassen könnten.
• 62 Prozent der deutschen Cyber-Sicherheitsverantwortlichen gaben an, dass mangelndes Bewusstsein oder unklare Sicherheitsrichtlinien in den letzten 12 Monaten den größten Einfluss auf die Cyber-Sicherheit ihres Unternehmens hatten. Hinzu kommt, dass viele (64 Prozent) Beschäftigten anerkennen, dass Zeitdruck und Ablenkungen am Arbeitsplatz sie aktiv dazu verleiten, kritische Sicherheitsfehler zu begehen, selbst wenn sie die Sicherheitsvorschriften kennen.
• 46 Prozent der Cyber-Sicherheitsverantwortlichen in Deutschland identifizieren KI-gestützte Angriffe als einen der Hauptfaktoren für zukünftige, vom Menschen verursachte Cyber-Sicherheitsrisiken.
• 42 Prozent der Cyber-Sicherheitsverantwortlichen berichten, dass die Nutzung nicht genehmigter Software und KI-Apps ihre Sicherheitslage in den letzten 12 Monaten am meisten beeinträchtigt hat.

Der Bericht zeigt, dass vor allem jene Unternehmen Fortschritte erzielen, die Cyber-Sicherheit als Teil ihrer Unternehmenskultur betrachten und sicheres Verhalten nahtlos in den Arbeitsalltag integrieren. Diese Unternehmen schaffen ein Umfeld, in dem sich die Mitarbeiter sicher genug fühlen, um Fehler zu melden.

Methodik

Die Studie basiert auf einer weltweiten Umfrage von Vanson Bourne, an der 4.000 Fachkräfte teilnahmen, darunter 800 Entscheidungsträger im Sicherheitsbereich sowie 3.200 Mitarbeiter (250 aus Deutschland) aus den Regionen Nordamerika, EMEA und APJ. Die Befragten vertreten Unternehmen mit 250 oder mehr Mitarbeitern. (rhh)

KnowBe4