KI im Cybercrime: Zwischen Faszination und Existenzangst

Cyber-Kriminelle der künstlichen Intelligenz (KI) stehen nach wie vor ambivalent gegenüber. In Untergrund-Foren und Darknet-Marktplätzen wird KI nicht nur zunehmend als potenzieller Game-Changer thematisiert, sondern auch als potenzieller Killer für kriminelle Geschäftsmodelle. Zu dieser Erkenntnis kommen die Experten der Sophos Counter Threat Unit (CTU).

Ein zentraler Trend ist nach wie vor der Einsatz generativer KI für Social Engineering und Betrug. Bedrohungsakteure nutzen große Sprachmodelle (LLMs), um Phishing-E-Mails, SMS oder Chat-Nachrichten in Echtzeit zu personalisieren, Sprachbarrieren zu überwinden und sogar realistische Sprachbots für Vishing-Angriffe (Voice-Phishing) zu erstellen.

Ein Bedrohungsakteur beispielsweise wirbt mit einem KI-gestützten Telegram-Bot, der Tonfall, Sprechrhythmus und Gesprächsverlauf natürlicher Personen imitieren kann, um Opfer in betrügerische Dialoge zu verwickeln. Noch einen Schritt weiter geht ein Dienst namens „AI OnlyFans Models“, der mithilfe von KI fiktive, aber glaubwürdige Profile für Romance-Scams generiert – inklusive synthetischer Bilder und individuell angepasster Konversationen. Solche Tools ermöglichen es Cyber-Kriminellen, ihre Angriffe skalierbarer, konsistenter und schwerer erkennbar zu gestalten.

Wenn Algorithmen die Angriffe übernehmen

Doch KI wird nicht nur für Täuschung, sondern auch für technische Angriffe eingesetzt. In den Foren werden zunehmend KI-gestützte Malware- und Hacking-Tools beworben, deren Fähigkeiten oft noch nicht validiert sind, die aber bereits jetzt eine neue Qualität der Bedrohung andeuten. Beispiele dafür sind:

• Leak Bazaar, eine Plattform für den Handel mit gestohlenen Unternehmensdaten, nutzt angeblich maschinelles Lernen, um große Datenmengen automatisch zu analysieren, irrelevante Inhalte herauszufiltern und gezielt wertvolle Informationen zu extrahieren – ein Service, der die Monetarisierung von Datendiebstahl beschleunigen soll.
• Apex AI wird als Allzweck-Tool für „Carding, Hacking und Malware-Erstellung“ beworben und soll unter anderem automatisch Schadcode generieren, Logs analysieren und Ausweichtechniken gegen Sicherheitssoftware optimieren.
• Metatron, ein KI-Assistent für Penetrationstests, nutzt Sprachmodelle, um Schwachstellen zu identifizieren, Exploits vorzuschlagen und sogar Gegenmaßnahmen zu empfehlen – ein Tool, das eigentlich für legitime Sicherheitsanalysen gedacht war, nun aber in kriminellen Kreisen diskutiert wird.

Viele dieser Tools basieren auf legitimen KI-Diensten wie ChatGPT, Claude oder Grok, deren API-Schlüssel in Untergrund-Foren gehandelt werden. Da kommerzielle KI-Angebote oft mit Sicherheitsvorkehrungen ausgestattet sind, experimentieren Cyber-Kriminelle mit „Jailbreaking“-Techniken, um diese Einschränkungen zu umgehen.

Skepsis in der Szene: Wird KI Cyber-Kriminelle überflüssig machen?

Gleichzeitig zeigt sich in der Szene eine gespaltene Haltung gegenüber KI. Neben der Begeisterung und Neugier existiert auch Skepsis: Viele fürchten, dass traditionelle Dienstleistungen wie Malware-Programmierung oder Social Engineering überflüssig werden könnten. In Foren wird diskutiert, ob KI langfristig „Arbeitsplätze“ in der Cybercrime-Branche vernichten wird.

Die Analyse der Sophos-Forscher zeigt, dass KI bereits heute von Cyber-Kriminellen genutzt wird – wenn auch oft noch in experimenteller Form. Die Kombination aus Automatisierung, Skalierbarkeit und Anpassungsfähigkeit macht KI zu einem zunehmend mächtigen Werkzeug für Angreifer, das bestehende Bedrohungen verschärft und neue Angriffsszenarien ermöglicht. Gleichzeitig deutet die Skepsis in der Szene darauf hin, dass nicht alle Akteure sofort auf KI setzen werden – was Unternehmen etwas Zeit gibt, sich noch besser vorzubereiten.

Was Unternehmen jetzt tun sollten

Organisationen sollten jetzt handeln, um sich gegen KI-gestützte Angriffe zu wappnen. Die Sophos CTU empfiehlt:

• Strikte Cyber-Hygiene: Regelmäßige Updates, Multi-Faktor-Authentifizierung (MFA) und der Einsatz von Passkeys reduzieren das Risiko, Opfer von automatisierten Angriffen zu werden.
• Monitoring und Anomalie-Erkennung: Da KI die Angriffe schneller und unvorhersehbarer machen kann, ist eine Echtzeit-Überwachung der IT-Infrastruktur entscheidend.
• Aufklärung und Schulungen: Mitarbeiter müssen für neue Betrugsmethoden (z. B. KI-generierte Phishing-Mails oder Deepfake-Voice-Calls) sensibilisiert werden. (rhh)

Sophos