KI-Agenten: Bedrohung durch KI-automatisierte Phishing-Kampagnen steigt
5. Mai 2025
KI-Agenten werden als revolutionär und bahnbrechend beschrieben und sind der neue Eckpfeiler der Innovation im Jahr 2025. Doch wie bei jeder bahnbrechenden Technologie ist auch diese Entwicklung nicht ohne Fragezeichen. KI-Agenten stellen die nächste Stufe der künstlichen Intelligenz dar, denn sie gehen noch einen Schritt weiter, indem sie autonom Entscheidungen treffen und Maßnahmen ergreifen, um bestimmte Ergebnisse zu erzielen. Zu den Anwendungsfällen gehören Bots für den Kundendienst, persönliche Assistenten, Finanzberater und sogar selbstfahrende Fahrzeuge.
Wie die meisten revolutionären Fortschritte in der Technologie birgt auch dieser drastische Wechsel von reaktiver Unterstützung zu proaktiver Automatisierung eine Reihe von Risiken in sich. Am besorgniserregendsten ist vielleicht, wie sich dadurch die Angriffsfläche für Cyber-Kriminelle vergrößert. Agentic AI könnte die Raffinesse, die Personalisierung und das Ausmaß von Social-Engineering- und Phishing-Angriffen, insbesondere per E-Mail, erhöhen.
Generative KI hat die Phishing-Fähigkeiten bereits verbessert und ermöglicht gezielte und überzeugende Angriffe in großem Umfang. Nach Angaben von Egress Threat Intelligence wird in 75 Prozent der untersuchten Phishing-Toolkits auf KI Bezug genommen.
Agentic AI treibt diese Bedrohung noch einen Schritt weiter, indem sie ein Element der Automatisierung in diese Angriffe einführt. Dies könnte zu dynamischeren, anpassungsfähigeren und hartnäckigeren Phishing-Kampagnen führen, die vom Nutzerverhalten lernen und in Echtzeit darauf reagieren können.
Die autonome Natur dieser KI-Agenten könnte es Angreifern ermöglichen, groß angelegte Phishing-Operationen mit minimalem menschlichen Eingreifen durchzuführen und zu verwalten. Dies macht die Erkennung und Prävention noch schwieriger. Cybersecurity-Führungskräfte äußern sich besorgt darüber, dass Cyber-Kriminelle generative KI-Chatbots einsetzen, um ihre Phishing-Kampagnen zu verbessern.
Obwohl diese Risiken von Unternehmen ernst genommen werden sollten, ist es wichtig zu wissen, dass sie nicht völlig neu sind. Vielmehr handelt es sich in vielen Fällen um eine Weiterentwicklung bestehender Bedrohungen, die wir bereits bei früheren Formen der KI erlebt haben. Der Hauptunterschied liegt in der größeren Autonomie und Skalierbarkeit, die agentenbasierte KI mit sich bringt.
Unternehmen, die agentenbasierte KI einsetzen möchten, sollten das Gesamtrisiko bedenken und vor dem Einsatz eine gründliche Risikobewertung vornehmen. Zu diesen Maßnahmen kann die Implementierung einer starken Authentifizierung gehören, einschließlich einer Multi-Faktor-Authentifizierung, und die Gewährleistung, dass die Software regelmäßig aktualisiert und gepatcht wird.
Es ist klar, dass KI-Agenten erhebliche Vorteile und Risiken mit sich bringen. Daher ist ein vielseitiger Ansatz, der menschliches Fachwissen mit KI-gesteuerter intelligenter Technologie kombiniert, entscheidend. Insbesondere im Bereich der E-Mail-Sicherheit bietet eine Mischung aus umfassenden Schulungen und fortschrittlichen KI-gestützten Erkennungssystemen den umfassendsten Ansatz.
Durch die Nutzung der Fähigkeit von KI, subtile Muster zu erkennen, die auf KI-generierte Inhalte hindeuten sowie durch menschliche Wachsamkeit und kritisches Denken können Unternehmen selbst die raffiniertesten Phishing-Versuche abwehren. Auf dem Weg in diese neue Ära der agentenbasierten KI wird es entscheidend sein, dass Unternehmen informiert, anpassungsfähig und proaktiv bei ihren Sicherheitsmaßnahmen bleiben, um die Vorteile zu nutzen und gleichzeitig die Risiken zu minimieren. Aus verfahrenstechnischer Sicht sollten klare Richtlinien und ethische Rahmenbedingungen für den Betrieb von KI-Agenten festgelegt werden. Und nicht zuletzt sollten Unternehmen in kontinuierliche Mitarbeiterschulungen zum Thema KI-Security Awareness investieren.
Javvad Malik ist Lead Security Awareness Advocate bei KnowBe4.
