In den letzten Tagen sah sich Twitter mit einer Flut von sexualisierten Deepfakes von Taylor Swift konfrontiert, die offenbar mithilfe eines Microsoft-Dienstes erstellt wurden. Der Vorfall löste Empörung aus, sowohl bei den Fans des Superstars als auch bei Menschen, die nicht unbedingt Musik von Swift mögen. Im Gegensatz zu früheren Fällen stößt die Veröffentlichung dieser gefälschten Bilder auf breite Ablehnung. Sogar das Weiße Haus äußerte sich „besorgt“ über diese Entwicklung, und viele rufen nach strengeren Gesetzen und Strafen für solche Fälschungen.

Die Bilder gelangten von dunklen Ecken des Internets wie 4Chan und Telegram auf die Social-Media-Plattform X (ehemals Twitter). Dort sammelten sie Millionen von Klicks, bevor die Plattform Stunden später in der Lage war, sie zu entfernen. Die Fans von Swift ließen jedoch nicht locker und meldeten die Verbreiter der Fakes, während sie echte Bilder ihres Stars massenhaft verbreiteten.

Der Fall an sich ist nicht neu, da Fachleute seit Jahren vor den Risiken von sogenannten Deepfakes warnen, insbesondere im Kontext nicht-einvernehmlicher sexualisierter Bilder, die sich wie eine Epidemie im Netz verbreiten. Foren und Chat-Gruppen tauschen Werkzeuge und Tricks aus, verfeinern Fähigkeiten und teilen „Face Sets“ bekannter Persönlichkeiten. Was neu ist, sind die ständig fortschreitenden technologischen Möglichkeiten, die es selbst Laien erleichtern, täuschend echte Bilder und Videos zu erstellen.

Im Fall der Swift-Fake-Bilder wurden Technologien wie Microsofts Text-zu-Bild-Generator Designer und das Modell DALL-E 3 von OpenAI genutzt. Die Nutzung dieser Werkzeuge führt zu einer verstärkten Kritik an Twitter und Microsoft. Obwohl beide Unternehmen betonen, Richtlinien zu haben, übernehmen sie keine Verantwortung für den Missbrauch ihrer Dienste.

Die Verbreitung sexualisierter Deepfakes ist nicht mehr auf eine Nische beschränkt und hat sich zu einem florierenden Geschäftszweig entwickelt. Gesellschaftliche Mainstream-Akzeptanz und die Möglichkeit der anonymen Veröffentlichung verschärfen die Problematik. Eine mögliche Antwort darauf könnte in schärferen Gesetzen liegen, wie sie in der geplanten EU-Richtlinie zu Gewalt an Frauen vorgesehen sind. Diese soll explizit das Erstellen und Teilen nicht-einvernehmlicher sexualisierter Deepfakes unter Strafe stellen.

Trotzdem bleibt die Herausforderung bestehen, die Verantwortlichen zur Rechenschaft zu ziehen, und die Gesellschaft wird weiterhin genau beobachten, wie die Gesetzgebung auf diese neuen Entwicklungen reagiert.