Harmlose Bilder sollen nicht zu Pornos werden

Es war der bisher grösste Fall von manipulierten Videos und Bildern in der Schweiz. Männer hatten in einer Telegram-Gruppe mit 350 Mitgliedern pornografisch manipulierte, täuschend echt wirkende Bilder von Frauen geteilt.

Betroffen waren laut einer Recherche des «Tages-Anzeigers» neben Influencerinnen und Podcasterinnen auch weitgehend unbekannte Frauen. Zu den Tätern zählen Schweizer Männer, teils aus dem persönlichen Umfeld der Opfer. Fünf Frauen erstatteten Anzeige.

Pornos erstellen mit einem Klick 

Der Fall steht für eine alarmierende Entwicklung: KI ermöglicht es inzwischen jedem, aus harmlosen Fotos sexualisierte Deepfakes zu erstellen. Sogenannte Nudifier-Apps machen es möglich. 

Der Bundesrat soll handeln. Am 16. Juni überwies der Nationalrat eine entsprechende Motion, die auch die Regierung unterstützt. Demnächst dürfte der Ständerat folgen.

Für Angela Müller, Geschäftsleiterin von Algorithmwatch Schweiz, ist dies ein erster wichtiger Schritt, um Anbieter solcher KI-Tools und Verbreiter des Materials zur Verantwortung zu ziehen. Die NGO kritisiert seit langem, wie KI Grundrechte einschränkt. «Das Erstellen von sexualisierten Deepfakes ist schon verwerflich. Doch die Opfer leiden vor allem, wenn diese dann auf Social Media oder in Messengers verbreitet werden», sagt Müller zum Beobachter.

Die Täter können zwar wegen Identitätsmissbrauchs oder unbefugter Weitergabe sexueller Inhalte belangt werden. Doch bei Letzterem bezweifeln Fachleute, ob das Gesetz künstlich generierte Deepfakes überhaupt erfasst. Zudem scheitert die Strafverfolgung oft an der mangelnden Kooperation der Plattformen.

KI-Anbieter in die Pflicht nehmen

«Selbst wenn Täter strafrechtlich verfolgt werden, ist der Schaden ja meist schon angerichtet», warnt Müller von Algorithmwatch. Um das zu verhindern, müsse man auch bei den Anbietern ansetzen.

Der Bundesrat plant, sich am Europarat zu orientieren und dessen KI-Konvention zu ratifizieren. Eine Vernehmlassung steht noch aus.
Das EU-Parlament hat kürzlich bereits ein Verbot für Nudifier-Anwendungen beschlossen. Betroffen sind «KI-Systeme, die ohne Einwilligung intime Bilder oder Videos einer identifizierbaren Person erstellen». Solche Tools sollen vom EU-Markt verschwinden – es sei denn, technische Schutzmassnahmen verhindern die Erstellung der Deepfakes.

Das Problem: Ausserhalb der EU bleiben die Tools verfügbar und können weiter genutzt werden – auch von Tätern aus der EU oder der Schweiz. Vom EU-Verbot betroffen ist auch Grok, die KI von Elon Musk. Er hatte vor Monaten angekündigt, missbräuchliche Deepfakes zu stoppen. Doch das US-Magazin «Wired» entdeckte vor kurzem noch Dutzende solcher Bilder auf der Grok-Website.

Deepfake-Opfer brauchen mehr Hilfe 

Opfer sexualisierter Deepfakes wird es wohl weiterhin geben, auch in der Schweiz. «Betroffene – es sind mehrheitlich Frauen – tun sich oft schwer, die Existenz solcher Bilder überhaupt anzusprechen. Sie schämen sich», sagt Angela Müller. Es brauche jetzt dringend niederschwellige Beratungsangebote, die zeigen, wie man sich wehren kann.