„Dark LLMs“ für die Automatisierung von Cyber-Attacken

Dark LLMs verändern die Planung und Durchführung von Cyber-Angriffen rasant. Bei den Dark LLMs handelt es sich um Large Language Models, die modifiziert oder entwickelt wurden, um Sicherheitsbeschränkungen zu entfernen und bösartige Aktivitäten zu ermöglichen. Diese Erkenntnisse liefert ein Report des Unit 42-Team von Palo Alto Networks.

Ein aktuelles Beispiel zeigt, wie gefährlich die Instrumentalisierung von generativer KI ist: Mit China in Verbindung gebrachte Bedrohungsakteure nutzten beispielsweise ein kommerzielles LLM, um eine gesamte Cyber-Kampagne zu automatisieren. Der Report von Unit 42 analysiert aktive Dark LLMs sowie die Kanäle, über die sie verbreitet werden.

Die Ergebnisse zeigen, wie diese Modelle entwickelt, vermarktet und eingesetzt werden, um Phishing-Inhalte, Malware-Gerüste und automatisierte Angriffsskripte zu generieren – was sowohl den Zeitaufwand als auch die erforderlichen Fachkenntnisse für umfangreiche Operationen deutlich reduziert. Die wichtigsten Erkenntnisse im Überblick:

• Dark-LLM-Ökosysteme: Speziell angepasste Modelle wie WormGPT und FraudGPT werden über Telegram und Dark-Web-Foren vermarktet und bieten Funktionen von Phishing und Malware-Generierung bis hin zur Datenextraktion.
• Kommerzialisierung: Entwickler verkaufen den Zugang über monatliche Abonnements und versprechen „unzensierte“ Ergebnisse sowie Kundensupport – ähnlich wie bei legitimen SaaS-Plattformen.
• Einfache Bereitstellung: Open-Source-Varianten wie KawaiiGPT können in wenigen Minuten lokal installiert werden, ohne dass fortgeschrittene Programmierkenntnisse erforderlich sind.
• Weiterentwicklung der Angriffstechniken: Diese Modelle erzeugen sprachlich einwandfreie, fehlerfreie Phishing-Köder und funktionsfähigen Malware-Code, wodurch Angreifer hochkomplexe Operationen in noch nie dagewesenem Umfang durchführen können.
• Konsequenzen für die Cyber-Abwehr: Die breite Verfügbarkeit dieser Tools markiert den Übergang von isolierten Experimenten zu einem entstehenden Schwarzmarkt, der auf LLM-Automatisierung aufbaut. (rhh)

Palo Alto Networks