Sicherheitsanalyse zu ChatGPT4: Szenarien für beschleunigte Cyber-Kriminalität
21. März 2023
Trotz der Sicherheitsvorkehrungen in ChatGPT4 lassen sich einige Beschränkungen leicht umgehen, sodass Hacker ihre Ziele ohne große Hindernisse erreichen können. Zu diesem Ergebnis kommen Sicherheitsforscher von Check Point.
Eine erste Analyse von ChatGPT4 hat die Forschungsabteilung von Check Point Software Technologies Ltd., Check Point Research (CPR), veröffentlicht. Darin zeigen die Sicherheitsforscher verschiedene Szenarien, die es Hackern ermöglichen, ihre bösartigen Bemühungen und Vorbereitungen zu verbessern, was zu schnelleren und präziseren Ergebnissen führt.
In einigen Fällen können auch technisch unwissende Akteure schädliche Tools erstellen. Die vorgestellten Szenarien umfassen die Imitation von Banken, Reverse Shells, C++-Malware und mehr. CPR warnt vor dem Potential von ChatGPT4, die Ausführung von Cyber-Kriminalität zu beschleunigen und wird seine Analyse der Plattform in den kommenden Tagen fortsetzen.
CPR stellt fünf Szenarien der möglichen bösartigen Nutzung von ChatGPT4 vor:
- C++ Malware, die PDF-Dateien sammelt und sie an FTP sendet.
- Phishing: Missbrauch der Identität von Banken.
- Phishing: E-Mails an Mitarbeiter.
- PHP Reverse Shell sowie
- Java-Programm, das Putty herunterlädt und ausführt, welches als versteckte Powershell gestartet werden kann.
ChatGPT4 verändert die Bedrohungslandschaft
Das Wesen der Cyber-Kriegsführung besteht darin, Cyber-Waffen zu entwickeln, um Schwachstellen auszunutzen. Mit ChatGPT4 werden die Herausforderungen bei der Waffenentwicklung drastisch reduziert und die Fähigkeit zur Durchführung von Cyber-Attacken beschleunigt. Das wird die Zahl der Cyber-Angriffe im Allgemeinen erhöhen, denn die Zeit, die zum Erstellen, Testen und Ausführen bösartiger Tools benötigt worden ist, wird sich erheblich verkürzen.
CPR hat Fälle beobachtet, in denen selbst technisch nicht versierte Personen schädliche Tools erstellt haben, da der Prozess des Kodierens, Kompilierens und Verpackens des Codes durch den Einsatz von ChatGPT vereinfacht wurde.
„Nachdem wir mehrere Möglichkeiten gefunden haben, wie ChatGPT von Hackern genutzt werden kann, und auch Fälle, in denen dies tatsächlich geschah, haben wir 24 Stunden damit verbracht, um zu prüfen, ob sich in der neuen Version von ChatGPT etwas geändert hat“, erläutert Oded Vanunu, Head of Products Vulnerabilities Research bei Check Point. „Obwohl die neue Plattform auf vielen Ebenen eindeutig verbessert wurde, können wir dennoch berichten, dass es Szenarien gibt, in denen die Hacker-Angriffe mit ChatGPT4 beschleunigt werden können.“
ChatGPT4 könne böswilligen Akteuren, auch solchen, die keine technischen Kenntnisse haben, Werkzeuge an die Hand geben, mit denen sie ihre Aktivitäten beschleunigen und validieren können. „Die Verbrecher können sogar die schnellen Antworten von ChatGPT4 nutzen, um technische Herausforderungen bei der Entwicklung von Malware zu überwinden“, fügt Vanunu hinzu. „Wir sehen, dass ChatGPT4 sowohl guten, als auch bösen Nutzern dienen kann. Gute Nutzer können ChatGPT verwenden, um Code zu entwickeln und zu programmieren, der für die Gesellschaft nützlich ist. Gleichzeitig können aber auch Hacker diese KI-Technologie für die schnelle Ausführung von Attacken missbrauchen.“
Da KI eine bedeutende und wachsende Rolle bei Cyber-Angriffen und -Verteidigung spielt, geht man bei CPR davon aus, dass diese Plattform von Hackern genutzt wird. (rhh)
