"DeepNude"-App zieht Frauen aus

Quelle: motherboard
Quelle: motherboardBild: Screenshot
Mit nur einem Klick lässt sich das Foto jeder Frau ausziehen. Die erschreckende App hatte bereits 500.000 Downloads, als sie entfernt wurde.
Sexismus und sexuelle Belästigung scheinen salonfähig zu werden. Mit der App eines Programmierers lassen sich Fotos von Frauen in Nacktbilder umwandeln. Dabei handelt es sich um täuschend realistische Fälschungen. Erschreckend ist auch wie populär die App bereits war. 500.000 Menschen hatten sie downgeloadet, ehe sie nach nur einem Tag im Netz entfernt wurde.

Die Funktionsweise der App basiert auf einem neuronalen Netzwerk, wie sie auch "DeepFake" verwendet, das darauf trainiert wurde, Körperformen zu erkennen. Ein System raffinierter Algorithmen verbirgt sich dahinter.

Programmierer gibt an, moralische Bedenken zu haben

Nachdem am 26. Juni das Medium Motherboard darüber berichtet hatte und zahlreiche Berichte folgten, nahm der Programmierer, der unter dem Pseudonym Alberto aktiv war, die App schließlich von der Website. Motherboard war darauf aufmerksam geworden, weil er die Software für 50 Dollar zum Verkauf angeboten hatte. Via Email teilte er mit, er hätte moralische Bedenken. Jetzt verweist die Website deepnude.com nur mehr auf ein Twitter-Profil. "Die Welt ist noch nicht bereit für deepnude", ergänzte er.

CommentCreated with Sketch.4 zu den Kommentaren Arrow-RightCreated with Sketch.


Problematisch ist, dass sich die App bereits im Umlauf befindet und sie dennoch weitere Verbreitung finden kann. Ein erster Kanal, wo eine Version davon verkauft wurde, wurde bereits gesperrt. Bei reddit fanden sich ebenfalls Adressen. Bei einigen Angeboten handelt es sich jedoch um betrügerische Seiten und malware. Es ist unklar, wie viele Versionen im Umlauf sind.

Missbräuchliche Verwendung von künstlicher Intelligenz



Bei "DeepFake" wird ein ähnliches Modell verwendet, bei dem künstliche Intelligenz dazu missbraucht wird, das Gesicht einer Person durch eine andere zu ersetzen und Fake-Videos zu erstellen.

Es ist keine strafbare Handlung, das Programm herunterzuladen und zu installieren. Lediglich die Verbreitung von Nacktaufnahmen Betroffener ohne deren Zustimmung ist illegal und kann strafrechtlich verfolgt werden. Die Motherboard-Redaktion hat die App getestet und dabei festgestellt, dass die Fotos durchaus realistisch sein können, je nachdem wie stark die Auflösung war und wie gut die Körperformen zu erkennen waren.

(GA)

Nav-AccountCreated with Sketch. GA TimeCreated with Sketch.| Akt:
LoveSexVergewaltigung

ThemaCreated with Sketch.Mehr zum Thema