Nacktbilder: Deepfakes überfluten das Internet aufgrund von Gesetzeslücken

Nacktbilder, auch von Minderjährigen, treten im Internet immer häufiger auf, da die Methoden zur Erstellung dieser Fotos immer leichter zugänglich sind. Doch die Gesetzgebung hinkt bei der Regulierung solchen Bildmaterialien noch hinterher.

Deepfakes, ein Begriff, der sich auf visuell täuschend echte Inhalte bezieht, bei denen die Identität der abgebildeten Personen vertauscht oder verändert wird, können zu vielen Zwecken erstellt werden, angefangen bei Entertainment bis hin zur Verbreitung von Desinformationen.

Im September kursierte ein gefälschtes Video im Netz, in dem der Gouverneur von Florida, Ron DeSantis, seinen Rückzug aus dem Präsidentschaftswahlkampf 2024 ankündigte. Im Oktober teilte der Hollywood-Schauspieler Tom Hanks seinen Instagram-Followern mit, dass es ein „Video gibt, das für eine Zahnbehandlung mit einer KI-Version von mir wirbt. Ich habe damit nichts zu tun.“

Für die Opfer, deren Identitäten ohne Zustimmung in sexuellen Inhalten verwendet wurden, kann diese Erfahrung jedoch besonders traumatisierend sein und ihr Leben verändern.

Im Mai musste Muharrem Ince, einer der wichtigsten Präsidentschaftskandidaten in der Türkei, aufgrund eines gefälschten pornografischen Videos seine Kandidatur zurückziehen. Das Video wurde mit Material von einer israelischen Pornoseite erstellt.

Die Auswirkungen des Missbrauchs dieser Technologie sind noch gravierender, wenn Minderjährige betroffen sind.

Im selben Monat erhielten mehr als 20 Mädchen im Teenageralter in Spanien KI-generierte Nacktbilder von sich selbst. Verwendet wurden Bildern von ihren Instagram-Konten, auf denen sie vollständig bekleidet waren.

Einem im Oktober von der britischen Internet Watch Foundation (IWF) veröffentlichten Forschungsbericht zufolge wird künstliche Intelligenz zunehmend zur Erstellung von Deepfakes mit Material über sexuellen Kindesmissbrauch (CSAM) eingesetzt.

„Sie sind sozusagen überall“ und sind „relativ leicht herzustellen“, sagte Matthew Green, außerordentlicher Professor an der Johns Hopkins Whiting School of Engineering, Abteilung für Informatik, gegenüber Euracitv.

„Überall“ können auch KI-Websites sein, die nicht speziell für diese Art von Inhalten gemacht sind, sagte Green.

Susie Hargreaves, Geschäftsführerin der IWF, sagte ebenfalls, dass „wir Anfang des Jahres davor gewarnt haben, dass KI-Bilder bald nicht mehr von realen Bildern von Kindern, die sexuell missbraucht werden, zu unterscheiden sind und dass sich diese Bilder immer weiter verbreiten könnten“.

„Jetzt haben wir diesen Punkt erreicht“, sagte sie.

Ist das illegal?

Während die Verbreitung pornografischer Inhalte mit Minderjährigen illegal ist, ist das Einfügen von Merkmalen eines Minderjährigen in ein pornografisches Bild, das von einwilligenden Erwachsenen gemacht wurde, eine rechtliche Grauzone, die die Flexibilität der nationalen Strafgesetze auf die Probe stellt.

Im niederländischen Strafgesetzbuch gibt es „einen Begriff, mit dem man sowohl reale als auch nicht-reale Kinderpornographie abdecken kann“, sagte Evert Stamhuis, Professor für Recht und Innovation an der Erasmus School of Law in Rotterdam gegenüber Euractiv. Es sei eine „breite und umfassende Beschreibung des Verbrechens“, sagte er.

Stamhuis erklärte, dass die niederländischen Gerichte immer versuchen, die Begriffe so zu interpretieren, dass sie neue Phänomene abdecken, wie zum Beispiel Deepfakes von Material über sexuellen Kindesmissbrauch, „bis es nicht mehr geht. Und es gibt immer einen Punkt, an dem das nicht mehr geht“.

Seiner Erfahrung nach ist dies jedoch selten der Fall. Auch wenn ein Gesetz veraltet sein mag, „tritt derselbe Schaden auf, gegen den der Gesetzgeber mit dem traditionellen Ansatz vorgehen wollte, auch unter den neuen Umständen auf“.

In Spanien wurden einige der KI-generierten Fotos von den Klassenkameraden der Mädchen gemacht. Stamhuis zufolge macht es für die begangene Straftat jedoch keinen Unterschied, ob ein Jugendlicher oder ein Erwachsener solches Material erstellt. Aber es macht einen Unterschied im Hinblick auf die Strafverfolgung.

Dennoch könnte das niederländische Strafgesetzbuch eher die Ausnahme als die Regel sein, was die Möglichkeiten zur Bewältigung dieses Problems angeht. Manuel Cancio, Professor für Strafrecht an der Autonomen Universität Madrid, erklärte im September gegenüber Euronews, dass die Problematik in Spanien und vielen anderen europäischen Rechtssystemen unklar sei.

„Da es sich um ein Deepfake handelt, ist die eigentliche Privatsphäre der betreffenden Person nicht betroffen. Die Auswirkungen [auf das Opfer] können einem echten Nacktfoto sehr ähneln, aber das Gesetz hinkt hinterher“, sagte Cancio.

Deborah Denis, Geschäftsführerin der Lucy Faithfull Foundation, einer britischen Wohltätigkeitsorganisation, die sich gegen den sexuellen Missbrauch von Kindern einsetzt, sagte, dass „einige Leute vielleicht versuchen, ihr Handeln zu rechtfertigen, indem sie sich einreden, dass KI-generierte sexuelle Bilder von Kindern weniger schädlich sind, aber das ist nicht wahr“.

„Die Weitergabe von KI-generiertem Material über sexuellen Kindesmissbrauch ist in den meisten Mitgliedsstaaten eine Straftat“, sagte die EU-Strafverfolgungsbehörde Europol gegenüber Euractiv und fügte hinzu, dass sie von den spanischen Behörden über den Fall informiert worden, aber nicht um Unterstützung gebeten worden sei.

Auf EU-Ebene diskutieren die Abgeordneten derzeit über das KI-Gesetz, das Transparenzverpflichtungen für Systeme, die Deepfakes erzeugen, enthalten könnte, wie beispielsweise Wasserzeichen, die deutlich anzeigen, dass ein Bild bearbeitet wurde.

Problem der Strafverfolgung

Die Strafverfolgungsbehörden haben es jedoch schwer, die verdächtigen Inhalte unter den Milliarden von Bildern und Videos, die täglich online geteilt werden, zu erkennen.

„Die Verbreitung von KI-generierten Nacktbildern von Minderjährigen gibt den Strafverfolgungsbehörden schon seit einiger Zeit Anlass zur Sorge, und es wird immer schwieriger, dagegen vorzugehen“, so Europol.

Europol fügte hinzu, dass KI-generiertes Material mithilfe von KI-Klassifizierungssystemen erkannt werden muss. Im Moment sind sie jedoch nicht befugt, Klassifizierungssysteme für diesen speziellen Zweck zu verwenden.

Professor Green wies jedoch darauf hin, dass Technologien zur Erkennung von Material über sexuellen Kindesmissbrauch nur zu etwa 80 Prozent treffsicher sind. Es wird erwartet, dass die Erfolgsquote mit der Zunahme von Deepfakes sinkt.

Stamhuis zufolge liegt „die Kompetenz für die Entwicklung und Erstellung von Softwares bei den großen Technologieunternehmen“, die auch große Social-Media-Plattformen betreiben und somit indirekt von der Verbreitung dieses Materials profitieren könnten.

[Bearbeitet von Luca Bertuzzi/Nathalie Weatherald/Kjeld Neubert]