Die deutsche Schauspielerin und Moderatorin Collien Fernandes klagt an: «Du hast mich virtuell vergewaltigt.» Gerichtet ist der Satz an den ehemaligen Partner und Vater einer gemeinsamen Tochter, Christian Ulmen. Der Schauspieler soll laut Fernandes jahrelang Fake-Accounts unter ihrem Namen und mit ihrem Gesicht erstellt haben, mit denen er unter anderem gefälschte Pornos – sogenannte Deepfakes – ins Internet hochgeladen haben soll.

Partnerinhalte
 
 
 
 

Ulmen bestreitet die Vorwürfe. Sein Anwalt kündigte rechtliche Schritte gegen die Berichterstattung an. Gegenüber der «Zeit» sagte er, es würden «unwahre Tatsachen aufgrund einer einseitigen Schilderung verbreitet». Es gilt die Unschuldsvermutung.

Der Fall, über den der «Spiegel» berichtete, sorgt über die deutschen Landesgrenzen hinaus für Entsetzen. Das hat auch mit der Bekanntheit sowie der sozialen Nähe zwischen der Betroffenen, Collien Fernandes, und dem mutmasslichen Täter Ulmen zu tun.

Denn eine verbreitete Annahme lautet, dass sexualisierte Gewalt – Erpressung, Demütigung oder Stalking – von Unbekannten ausgeübt werde. Fakt ist jedoch: Die überwiegende Mehrheit sexualisierter Gewalt wird von Partnern, Ex-Partnern, Kollegen oder Bekannten verübt.

Beratung mit Chatbot

Vor allem Frauen betroffen

Der Fall löst auch darum grosse Betroffenheit aus, weil Deepfake-Pornografie jede treffen kann. Entsprechende Inhalte sind mittels KI oft in Sekunden generiert, und 99 Prozent der Betroffenen sind Frauen. Das hat eine Studie des Cybersicherheitsunternehmens Security Heroes im Jahr 2023 analysiert. Es geht also nicht «nur» um Promis, sondern um ein strukturelles, gesellschaftliches Problem.

Der Beobachter hat über einen Fall im Berner Oberland berichtet, wo Instagram-Fotos einer Frau von Unbekannten dafür missbraucht wurden, um damit eine gefälschte Pornoseite zu bewerben. Die Folgen für die Betroffene waren gravierend, die Frau wurde beschimpft und verspottet.

Was tun bei missbrauchten Nacktfotos oder Deepfakes?
  • Melden Sie sich umgehend beim betreffenden Seiteninhaber und verlangen Sie, die Inhalte zu löschen.
  • Opfer können Anzeige bei der Polizei erstatten. Seit September 2023 macht sich strafbar, wer eine fremde Identität verwendet.
  • Wenn Kinder und Jugendliche Opfer sexualisierter Gewalt werden – etwa durch Nacktfotos, die jemand von ihnen im Internet teilt –, können sie sich an die Online-Beratungsstelle Clickandstop.ch wenden sowie an das international tätige Meldesystem Take It Down.
  • Erwachsene Deepfake- oder Revenge-Porn-Opfer können den Fall über die Seite Stop Non-Consensual Intimate Image Abuse (StopNCII) melden. Sie wird von einer international tätigen Stiftung betrieben, die auch die Revenge Porn Helpline betreibt.
  • Ausserdem können die Opfer versuchen, KI-generierte Bilder aus dem Internet entfernen zu lassen. Bei Google gibt es dazu ein Meldeformular. Eine Hürde ist, dass jedes Bild oder Video pro URL gemeldet werden muss – also einzeln. Wenn das klappt, dann tauchen die Bilder bei Google nicht mehr in der Suche auf.
     

Bei Deepfakes handelt es sich um eine neue Form digitaler Gewalt, auf die Gerichte kaum vorbereitet sind, wie der «Spiegel» schreibt. Leitplanken für künstliche Intelligenz beschäftigen darum nicht nur die Justiz, sondern auch die Politik. 

Bundesgerichtsurteil: Höhere Strafen möglich

In diesen Tagen entscheidet das EU-Parlament über ein explizites Verbot KI-generierter Deepfakes mit sexualisiertem Inhalt. Grossbritannien hat die Erstellung und die Verbreitung solcher Inhalte bereits verboten. China hat das weltweit strengste Gesetz implementiert. Nicht nur die Erstellung und Veröffentlichung, sondern auch die Verbreitung steht dort unter Strafe.

Und die Schweiz? Hier kann ein Bundesgerichtsurteil Opfern Hoffnung machen, über das der Beobachter im Januar berichtet hat. Digitaler Psychoterror und Cyberstalking können demnach als einfache Körperverletzung gelten. Das ermöglicht deutlich höhere Strafen. Ein Mann, der seine Ex-Partnerin blossstellte, indem er mit KI-gefälschten Profilen unter ihrem Namen intime Bilder und Chatverläufe verschickte, wurde zu elf Monaten bedingter Freiheitsstrafe und einer bedingten Geldstrafe von über 13’000 Franken verurteilt. 

Trotz solcher juristischen Etappensiege weigern sich die Tech-Konzerne oft, illegale Inhalte rasch zu löschen. Sie berufen sich dabei – wie Elon Musk mit seiner Plattform X – auf die Meinungsäusserungsfreiheit. Nicht die Plattformen seien verantwortlich, sagt Musk, sondern die User, welche KI-Bots wie Grok zur Herstellung sexualisierter Inhalte benutzten. 

Der Beobachter unterstützt deshalb die Internet-Initiative. Sie fordert, die Betreiber von Tech-Plattformen gesetzlich zur Verantwortung zu ziehen und die Opfer besser zu schützen.