Echtzeit-Deepfakes für Video und Audio

In diversen Untergrundforen haben die Kaspersky-Experten des Global Research and Analysis Team (GReAT) Anzeigen entdeckt, die Echtzeit-Deepfakes für Video und Audio anbieten – und das deutlich günstiger als in der Vergangenheit. Die aktuellen Offerten starten bei 30 Dollar für gefälschte Sprachnachrichten; manipulierte Videos sind bereits ab 50 Dollar zu haben.

Früher lagen die Angebote für Deepfakes zwischen 300 und 20.000 Dollar pro Minute. Damit ermöglichen die aktuellen Anzeigen eine Echtzeit-Erzeugung von Fake-Audio und -Video zu einem Bruchteil der früheren Preise. Zugleich ist es wahrscheinlich, dass viele dieser Anzeigen Betrugsversuche sind und Interessenten lediglich um ihr Geld bringen sollen.

Eigener Aussage nach bieten Cyber-Kriminelle unterschiedliche Dienstleistungen an:

• Echtzeit-Gesichtstausch während Video-Calls – etwa auf Videokonferenzplattformen oder in Messengern,
• Gesichtsersetzung für Verifizierungsprozesse,
• Austausch des Kamerafeeds auf Geräten,
• Software zur Mimik- und Lippensynchronisation aus Text, auch in Fremdsprachen,
• Stimmenklone mit anpassbarer Tonlage und Stimmfarbe, um gezielt Emotionen zu transportieren.

Die Kosten steigen je nach Komplexität und Dauer der Inhalte.

In Bezug auf die Anzeigen für ‚Deepfake-as-a-Service‘ besteht auch eine klare Nachfrage. Cyber-Kriminelle experimentieren aktiv mit KI und binden sie in ihre Aktivitäten ein. Einige Plattformen werben mit weiterentwickelten Fähigkeiten – zum Beispiel lokal laufenden, von Grund auf neu erstellten schädlichen LLMs, die unabhängig von öffentlich verfügbaren Modellen sind.

Diese Technologien sind per se keine neuen Bedrohungen, können die Fähigkeiten von Angreifern aber deutlich erweitern. Cyber-Sicherheitsexperten müssen entsprechend gegenhalten. Vielversprechend ist der Einsatz von KI, um die Produktivität von Sicherheitsteams zu erhöhen und die Wirksamkeit von Schutzmaßnahmen zu verbessern.“

Von Experten gibt es dazu folgendeEmpfehlungen zum Umgang mit Deepfakes im Unternehmensumfeld:

• Bewusstsein zum Thema Deepfakes entwickeln. Mitarbeitende regelmäßig schulen, etwa über Mikro-Lerneinheiten der Kaspersky Automated Security Awareness Platform.
• Mitarbeitern die Hauptmerkmale von Deepfakes näherbringen; dazu zählen unter anderem ruckartige Bewegungen, inkonsistente Beleuchtung zwischen Frames, unnatürliche Hauttöne, ungewöhnliches oder fehlendes Blinzeln, Bildartefakte sowie absichtlich niedrige Videoqualität/Beleuchtung.
• Schutz organisatorisch und technisch aufstellen. Neben Schutzlösungen sind qualifizierte IT-Spezialisten erforderlich. Kaspersky Threat Intelligence hilft, potenziell relevante Bedrohungen zu identifizieren.

Dmitry Galov ist Sicherheitsforscher im Kaspersky Global Research and Analysis Team.

Kaspersky