KI-Betrug im Netz: Nur ein Fünftel überprüft die Quelle

Fast die Hälfte der Internet-Nutzer in Deutschland fühlt sich zwar in der Lage, KI-generierte Inhalte zu erkennen. Tatsächlich schaut jedoch kaum jemand genauer hin: Nur eine Minderheit hat schon einmal etwa nach Unstimmigkeiten im Bild gesucht oder die Quelle überprüft (28 bzw. 19 Prozent). Der Cyber-Sicherheitsmonitor des Bundesamts für Sicherheit in der Informationstechnik (BSI) und des Programms Polizeiliche Kriminalprävention der Länder und des Bundes (ProPK) zeigt, wie hoch das Risiko ist, Opfer digitaler Betrugsmaschen zu werden.

KI-generierte Inhalte sind längst im Alltag von Verbraucherinnen und Verbrauchern angekommen. Um Risiken und Falschinformationen zu identifizieren, ist es daher unverzichtbar, zu erkennen, welche Inhalte, Beiträge und Darstellungen in der Online-Welt KI-generiert sind. Hier setzt der Verbraucherschutz des BSI an: Er bietet Orientierung und sensibilisiert dafür, was mit KI möglich ist, wie KI-generierte Inhalte erkannt und welche Maßnahmen ergriffen werden können.

Eine Straftat, die im Polizeialltag aktuell häufig vorkommt, ist der sogenannte Cybertrading-Fraud. Dabei versprechen Kriminelle schnelle Gewinne und hohe Rendite beim Online-Trading. Oft erstellen sie hierfür mithilfe von KI interessante Videos, in denen Prominente für lukrative Anlagemöglichkeiten zu werben scheinen. Wer im Internet auf solche Anlagemöglichkeiten stößt, sollte im ersten Schritt überlegen, ob das Angebot überhaupt realistisch ist – oder zu gut, um wahr zu sein.

Im Cyber-Sicherheitsmonitor hat rund ein Drittel der Befragten noch keine einzige der gängigen Maßnahmen zur Erkennung von KI-generierten Inhalten ergriffen (32 Prozent). Immerhin: 40 Prozent haben schon einmal überlegt, ob eine dargestellte Szene realistisch ist. Nur 28 Prozent haben nach Unstimmigkeiten, etwa fehlerhaften Schatten oder Gliedmaßen, gesucht. 19 Prozent haben zudem die Seriosität der jeweiligen Quelle recherchiert.

Auch das Wissen rund um mögliche Betrugsszenarien ist gering: Nur 38 Prozent halten es für möglich, dass Cyber-Kriminelle zum Beispiel ein KI-Programm manipulieren, damit dieses sensible Daten weitergibt. Auch dass Kriminelle unsichtbare Anweisungen für KI-Systeme in Dokumente einfügen, halten nur 40 Prozent für denkbar. Tatsächlich sind beide Szenarien technisch möglich.

Verbraucher finden beim BSI eine Checkliste mit Erkennungszeichen KI-generierter Bilder. Informationen rund um Online-Anlagebetrug stellt das ProPK bereit. Die Kooperationspartner bieten auch eine gemeinsame „Checkliste für den Ernstfall: Betrug beim Onlinebanking“. (rhh)

Bundesamt für Sicherheit in der Informationstechnik (BSI)

Polizeiliche Kriminalprävention der Länder und des Bundes (ProPK)