Schon 2024 im ZDF: Collien Fernandes ist Deepfake-Pornos auf der Spur
Die Recherche zeigt, wie schwer Betroffene sich wehren können.
Die Debatte um digitale Gewalt und Deepfake-Pornos ist nicht neu – zumindest nicht für Collien Fernandes. Bereits im Jahr 2024 begab sich die Moderatorin und Schauspielerin für die ZDF-Dokumentation „Die Spur: Deepfake-Pornos“ auf eine Recherche durch die dunklen Ecken des Internets. Sie wollte verstehen, wer hinter den Clips steckt, die vermeintlich die Moderatorin in sexuellen oder gar menschenverachtenden Situationen zeigen.
Fake-Profile und KI-Pornos mit Prominenten
In der zweiteiligen Doku, die derzeit auch in der ZDF Mediathek kostenlos zum Streamen bereitsteht, untersuchte Fernandes, wie KI-generierte Pornografie entsteht. Sie stellte dabei fest, dass auch von ihr im Netz ein KI-Modell erhältlich ist, das es Menschen per Download ermöglicht, fremde Bilder mit dem Gesicht der Moderatorin zu versehen. Während der Recherche stoßen Fernandes und die investigative Journalistin Marie Bröckling auf etliche Anbieter, die gegen Geld Content zum Ausleben sexueller Fantasien oder zur Demütigung von Frauen wie der Ex-Partnerin oder anderen Bekannten herstellen.
Gute Deepfakes zu erstellen, erfordert den Recherchen der Journalistin zufolge Zeit, technische Kenntnisse und passende Bilddaten. Entsprechend haben sich manche Nutzer darauf spezialisiert. In Chatgruppen und Internetforen bieten sie ihre Dienste offen an.
Fernandes ist mit dem Problem nicht allein. Auf einschlägigen Deepfake-Pornoseiten tauchen regelmäßig manipulierte Videos von Prominenten auf. Zu finden sind beispielsweise Inhalte, die eine vermeintliche Emma Watson, Taylor Swift oder auch deutsche Moderatorinnen wie Mareile Höppner und Lola Weippert zeigen.
Das Unrechtsbewusstsein ist oft gering
Viele Konsumenten und sogar einige Hersteller glauben, niemandem zu schaden, da die Aufnahmen technisch generiert sind und keine realen Handlungen zeigen. Für Betroffene fühlt sich das jedoch völlig anders an. In der Dokumentation berichten sie, dass sie sich für die manipulierten Inhalte schämen und sich sogar im privaten Umfeld dafür rechtfertigen mussten. Auch in den Kommentaren unter den Videos schreibern User wüste Beschimpfungen. Das wirkt so, als könnten sie nicht Realität von Deepfake unterscheiden.
Auch Fernandes beschreibt in der Doku, wie belastend es sei, wenn täuschend echte pornografische Bilder mit dem eigenen Gesicht im Internet kursieren. Und genau deshalb wird das Thema von Opfern drastisch beschrieben. Der Begriff „virtuelle Vergewaltigung“ soll verdeutlichen, wie tiefgreifend der Eingriff in die persönliche Würde empfunden wird.
Kann man gegen Deepfakes vorgehen?
Juristisch ist die Lage kompliziert. Das Bundesjustizministerium verwies damals auf Anfrage des ZDF zwar darauf, dass solche Inhalte unter bestimmten Umständen verfolgt werden können. In der Praxis werden Verfahren jedoch häufig eingestellt – unter anderem, weil es sich eben nicht um reale Aufnahmen handelt. Die ZDF-Doku kommt daher zu einem ernüchternden Fazit: Für viele Betroffene ist es extrem schwierig, gegen die Herstellung von Deepfake-Pornos vorzugehen. Wenn man Glück hat, lassen sich diese wenigstens von einschlägigen Portalen löschen.
