«Sonst hätten diese Männer gewonnen»

Die dunkle Seite künstlicher Intelligenz zeigt sich in anonymen Chatgruppen. Der «Tages-Anzeiger» hat in einer Recherche pornografische Deepfakes von jungen Frauen identifiziert. Dabei handelt es sich um Bilder und Videos, die unbekannte Nutzer mithilfe künstlicher Intelligenz erstellt und in Telegram- oder Reddit-Foren hochgeladen haben. Im Artikel wird aufgedeckt, dass unter den Betroffenen dieser gefälschten Fotos und Videos mindestens 14 Schweizer Frauen sind. Die meisten von ihnen sind Influencerinnen. 

Acht von ihnen wehrten sich und erstatteten Anzeige wegen Identitätsmissbrauchs und Ehrverletzung. Fünf gingen an die Öffentlichkeit, um auf den systematischen Missbrauch durch Deepfakes hinzuweisen. Für ihren Mut nominiert der Beobachter sie für den Prix Courage.

Schlimm sei für sie gewesen, dass die Polizei sie zunächst nicht ernst genommen habe, sagt Franny gegenüber dem Beobachter. Sie ist eine der Frauen, die Anzeige erstatteten. Zusammen mit der Influencerin Nathi erzählt sie selbstbewusst von ihrem Kampf gegen die Inhalte. «Bevor wir zu fünft auf den Polizeiposten gingen, rief ich dort an und schilderte, was mir passiert war. Der Beamte fragte nur, warum ich überhaupt anrufe. Das war richtig frech.» 

Daraufhin wandte sie sich an eine andere Dienststelle. Der dort zuständige Polizist sei «mega nett» gewesen. «Mit ihm zusammen erstatteten wir dann die Anzeige», sagt die 22-Jährige. «Er sagte, es sei super, dass wir uns meldeten.» 

Deepfakes von Influencerinnen: Wer steckt dahinter?

In den zwei Telegram-Gruppen, in denen die Deepfakes kursierten, gab es 380 Mitglieder. Die Gruppen waren für alle zugänglich. Franny hat die Inhalte nie gesehen. Nathi hingegen schon. «Das Krasse war: Die haben nicht nur Deepfakes gepostet, sondern sich gegenseitig angestachelt, kommentiert und Bilder zur Bearbeitung geschickt», sagt die 25-Jährige. «Da gab es überhaupt keine Scham. Es wirkte, als wäre das etwas komplett Normales.» 

Beide Frauen hätten sich zunächst machtlos gefühlt, als sie von den Deepfakes erfuhren. «Und dann waren wir sehr wütend», fügt Franny hinzu. «Wütend darüber, dass die Welt für uns Frauen immer noch so funktioniert.» Gleichzeitig habe sie sich stärker mit anderen Frauen verbunden gefühlt. 

Dass sie als Influencerinnen in der Öffentlichkeit stehen und dadurch eher sexualisiert werden, sei ihnen bewusst, sagen die beiden. Nathi hat auf Instagram über 75’000 Follower, Franny sogar eine Million. Heute überlegen sie genauer, wie viel Haut sie auf Fotos zeigen. Wobei das eigentlich keine Rolle spiele, fügt Nathi hinzu. «Diese Männer würden dich auch im Astronautenanzug sexualisieren.» Ein Bikinibild könne man zwar einfacher fälschen, aber: «Die nehmen dafür auch ein Selfie.»

Expertinnen fordern schärfere Gesetze

Die Gesetze in der Schweiz würden dem Missbrauch durch Deepfakes nicht gerecht, sagen die Rechtsexpertinnen Sarah von Hoyningen-Huene und Jutta Oberlin dem «Tages-Anzeiger». Einen Artikel im Strafgesetzbuch, der einzig die Erstellung und Verbreitung von sexualisierten Deepfakes abdeckt, gibt es nicht. Nach Einschätzung von Oberlin jedoch ist das Verbreiten solcher Inhalte eindeutig ein Sexualdelikt. 

Allerdings ist die Wahrscheinlichkeit gross, dass die Täter entweder nicht gefunden werden oder mit einer kleinen Geldstrafe davonkommen. «Je nach Umstand muss man für einen Deepfake kaum mehr als für eine mittlere Verkehrsbusse bezahlen», sagt von Hoyningen-Huene. Die beiden Expertinnen fordern deshalb schärfere Gesetze. 

Eine Möglichkeit wäre, bestehende Straftatbestände auf sexualisierte Deepfakes auszuweiten. «Man könnte zum Beispiel im Artikel zur Rachepornografie Deepfakes ebenfalls erfassen. Oder beim Identitätsmissbrauch einen Unterartikel formulieren, der genau auf diese Deepfakes abzielt und dafür ein höheres Strafmass androht», schlägt Hoyningen-Huene vor. 

Unwohlsein in vollen Zügen

Für die betroffenen Frauen bleibt das Erlebte präsent. Im Zug fragt sich Franny häufig, ob womöglich einer der Männer aus den Foren im gleichen Abteil sitzt. «Wenn der Zug voll ist, gehe ich in die erste Klasse», sagt sie. 

Nathi empfindet es als besonders unheimlich, wenn Fremde auf Social Media schreiben, sie hätten sie im echten Leben gesehen. «Da fühle ich mich beobachtet. Mir wird dann bewusst: Theoretisch könnten mich die Männer aus den Chatgruppen live aufspüren. Für mich bleiben sie anonym, aber sie kennen mich. Das ist sehr unangenehm.» 

Trotzdem lassen sich beide Frauen nicht einschüchtern. «Es wird immer Missbrauch unserer Inhalte geben. Das Internet ist zu schnell und die Möglichkeiten, das einzuschränken, zu gering», sind sie sich einig. «Das Einzige, was wir machen könnten, wäre, uns aus der Öffentlichkeit zurückzuziehen. Und dann hätten die Männer gewonnen.»