Schadsoftware

Telegram-Bot generiert illegale Fake-Nacktbilder von Frauen

Lesedauer: 3 Minuten
Im Messenger-Dienst Telegram ist ein Zusatzprogramm aufgetaucht, mit dem sich Fotos von Frauen ohne deren Zustimmung mit wenigen Klicks in Nacktbilder umwandeln lassen.

Im Messenger-Dienst Telegram ist ein Zusatzprogramm aufgetaucht, mit dem sich Fotos von Frauen ohne deren Zustimmung mit wenigen Klicks in Nacktbilder umwandeln lassen.

Foto: Sergei Konkov / imago/ITAR-TASS

Innerhalb von Telegram ist ein Programm entdeckt worden, dass aus normalen Fotos Nacktbilder generiert – ohne Zustimmung.

Amsterdam. Der Messengerdienst Telegram ist aktuell in Deutschland als Plattform für Verschwörungstheoretiker bekannt. Die niederländische IT-Sicherheitsfirma Sensity hat nun ein Zusatzprogramm für Telegram entdeckt, mit dem Fotos von Frauen zu Nacktbildern umgewandelt werden können. Die Einverständniserklärung der Frauen braucht es dafür laut Sensity nicht. Allein bis zum Juli sollen mit dem Zusatzprogramm über 100.000 Bilder von Frauen manipuliert worden sein.

Die Technik, Bilder- und Videoaufnahmen automatisiert und realistisch zu verfälschen, ist als Deepfake bekannt und wurde in den vergangenen Jahren stark verbessert. Das Deepfake-Zusatzprogramm ist ein sogenannter Bot. Telegram bietet fremden Entwicklern mit der Bot-Funktion die Möglichkeit an, eigene Zusatzprogramme für den Messengerdienst bereit zu stellen. Den Nutzern steht es frei, diese zu installieren.

Deepfakes: Künstliche Intelligenz nur auf Frauenkörper programmiert

Um die Deepfake-Nacktbilder zu erstellen, schicken Nutzer ein Foto des Opfers über den Messenger-Dienst an das automatisierte Zusatzprogramm, dass dieses dann manipuliert und zurücksendet. Das Programm arbeitet dabei mit künstlicher Intelligenz, die darauf programmiert ist, Frauenkörper zu erfassen, die Kleidung zu entfernen und stattdessen einen nackten Körper darzustellen. Laut dem Bericht von Sensity ist das Programm dabei ausschließlich für Frauenkörper konzipiert und lernt selbstständig, besser zu werden.

Der Dienst lasse sich kostenlos nutzen, schicke die Fotos dann aber mit Wasserzeichen oder nur teilweise manipuliert zurück, wie das Technikmagazin „The Verge“ berichtet. Gegen eine Gebühr von umgerechnet 1,26 Euro entfallen die Wasserzeichen und die Bearbeitungszeit wird verkürzt. Die Qualität der Fotos ist nach der Einschätzung von „The Verge“ sehr unterschiedlich. Manche seien eindeutig als Fake zu erkennen, andere könnten leicht als echt wahrgenommen werden.

Sicherheitsexperten warnen vor Erpressungen und Kinderpornografie

Rund 70 Prozent der benutzten Fotos seien privater Herkunft oder von Social-Media-Plattformen, schreibt Sensity in seinem Bericht. Das Sicherheitsunternehmen befürchtet, dass die manipulierten Fotos außerhalb von Telegram weiterverbreitet werden könnten. Zum Beispiel um Frauen öffentlich bloßzustellen oder sogar zu erpressen.

Weitere Straftaten scheinen noch konkreter zu sein: Für einen limitierten Teil der Nacktbilder seien laut den IT-Experten Fotos von Kindern benutzt worden.

Wer hinter dem Bot steckt, ist bisher unklar. Allerdings gibt es mehrere Hinweise, die auf eine russische Herkunft schließen lassen. So stammen nach den Untersuchungen von Sensity 70 Prozent der weltweit rund 101.000 registrierten Nutzer aus Russland oder ehemaligen Sowjetunion-Staaten. Zudem sei der Bot besonders über die größte russische Social-Media-Website VK beworben worden.

Telegram-Bot macht gefährliche Technologie für die breite Masse zugänglich

Bisher waren Deepfakes aufgrund dafür benötigten Programme, Kenntnisse und Hardware nicht für die breite Masse zugänglich. Das ändere sich durch den Telegram-Bot „dramatisch“ heißt es im Bericht von Sensity. Das Unternehmen Telegram hat laut Aussage des Unternehmens nicht auf Anfragen zu dem Bot reagiert. „The Verge“ schreibt dies ebenfalls.

Die Deepfake-Technologie löst bei vielen IT-Sicherheitsexperten Bedenken aus. Denn damit können theoretisch auch Videos von Politikern mit Falschaussagen erzeugt oder Videokonferenzen von Unternehmen für Betrügereien manipuliert werden.

(jasc)