Musks Grok-Modus für „pikante“ Inhalte schürt Forderungen nach EU-Maßnahmen

Der KI-Assistent Grok von Elon Musk war von Anfang an darauf ausgelegt, provokativ – sogar politisch inkorrekt – zu sein. Doch nun hat das umstrittene Tool weltweite Empörung ausgelöst, nachdem es sexuell eindeutige Bilder von Frauen und Kindern generiert hat. Dies verdeutlicht die langsame Durchsetzung von Maßnahmen gegen betrügerische KI-Deepfake-Inhalte mit sexuellem Missbrauch.

Seit August verfügt der Chatbot, der in Musks Social-Media-Plattform X integriert ist und somit Millionen von Nutzern zur Verfügung steht, über einen sogenannten „Spicy”-Modus, mit dem Nutzer explizite KI-Inhalte generieren können. In den letzten Wochen hat diese Pornifizierungsfunktion dazu geführt, dass Grok sexuell eindeutige Bilder von Frauen, darunter auch Minderjährige, veröffentlicht hat.

EU-Länder und Gesetzgeber haben mit Empörung reagiert und Brüssel aufgefordert, die Strafverfolgung gegen Groks Entwickler xAI zu beschleunigen, da der Skandal weiter wächst.

„Das ist nicht pikant. Das ist illegal”

„Das ist nicht pikant. Das ist illegal”, warnte der digitale Sprecher der Kommission, Thomas Regnier, am Montag. Er erklärte außerdem, dass die Kommission die Funktion im Rahmen der Durchsetzung des Digital Services Act (DSA) der EU prüfe, und fügte hinzu: „X ist sich sehr wohl bewusst, dass wir es mit der Durchsetzung des DSA ernst meinen.”

Da Grok zu X gehört, unterliegt es dem DSA, der den Social-Media-Dienst als sogenannte sehr große Online-Plattform (Very Large Online Platform, VLOP) einstuft. Das bedeutet, dass er den strengsten Vorschriften des Gesetzes unterliegt und mit Geldstrafen von bis zu 6 % des weltweiten Jahresumsatzes belegt werden kann.

„Diese Inhalte sind in den meisten EU-Ländern illegal“, sagte die grüne Abgeordnete Alexandra Geese gegenüber Euractiv und sprach dabei über die Pornografiefunktion von Grok. „Die Kommission sollte sich mit den DSCs [nationalen Behörden, die ebenfalls für die Durchsetzung des DSA zuständig sind] abstimmen und schnell handeln.“

„Industrialisierung der sexuellen Belästigung“

Frankreich und Deutschland haben die Kommission bereits aufgefordert, das DSA gegen Grok durchzusetzen. Am Dienstag forderte der deutsche Kulturminister Wolfram Weimer die EU-Exekutive auf, die DSA auf der Plattform rigoros durchzusetzen. „Was wir derzeit auf X beobachten, sieht nach einer Industrialisierung der sexuellen Belästigung aus“, sagte er.

Letzte Woche bat auchdie französische Hochkommissarin für Kinder, Sara El Haïry, die französische Medienaufsichtsbehörde Arcom, die Inhalte von Grok im Rahmen der DSA zu untersuchen. Unabhängig davon haben französische Gesetzgeber die Staatsanwaltschaft in Paris gebeten, eine strafrechtliche Untersuchung gegen Musks KI-Chatbot einzuleiten.

Geese argumentiert, dass eine von der Kommission geleitete DSA-Untersuchung gegen Grok „sehr schnell“ erfolgen sollte – und deutet an, dass dies aufgrund des „enormen Schadens“, den die Opfer der Pornografisierung erlitten haben, zu einer „sehr hohen Geldstrafe“ für die Plattform führen könnte. Das Gesetz könnte auch dazu genutzt werden, den regionalen Zugang zu X zu sperren, „wenn sie nicht sofort nachkommen”, schlug sie außerdem vor.

Geldstrafe in Höhe von 120 Millionen Euro

Die Durchsetzungsbilanz der Kommission in Bezug auf X – und auf die DSA im Allgemeinen – ist jedoch alles andere als schnell. Im Dezember verhängte sie nach zweijährigen Ermittlungenschließlich eine Geldstrafe in Höhe von 120 Millionen Euro gegen Musks Plattform wegen Verstoßes gegen die Transparenzvorschriften der DSA. Unterdessen bleiben eine Reihe schwerwiegenderer Bedenken hinsichtlich Musks Plattform, mit denen sich die Kommission ebenfalls bereits im Dezember 2023 zu befassen begann, weiterhin ungeklärt.

Der Entwickler von Grok, xAI, reagierte auf den Aufruhr um die Pornografisierung mit einem Beitrag auf X und behauptete, die sexualisierten Ergebnisse seien auf eine Lücke in den Sicherheitsvorkehrungen seines KI-Systems zurückzuführen.

Seltsamerweise ist der Beitrag aus der Ich-Perspektive geschrieben, wobei Grok sich selbst als „ich“ bezeichnet – als ob ein digitales Tool die Schuld für technische Fehler übernehmen könnte und nicht die Menschen, die es entwickelt haben.

Eine völlig vorhersehbare Episode

Für den EPP-Abgeordneten Jeroen Lenaers, Berichterstatter des Parlaments für die bevorstehende Überarbeitung der Richtlinie über sexuellen Kindesmissbrauch (CSA), war diese Episode völlig vorhersehbar. Seiner Ansicht nach ist das Versagen bei der Verhinderung von Missbrauch ein Merkmal dafür, dass Plattformen wie X sich dafür entscheiden, ernsthafte Risiken nicht proaktiv selbst zu regulieren, und nicht das Ergebnis eines einmaligen Sicherheitsversagens.

„Wenn KI-Plattformen die Erstellung erotischer Inhalte zulassen, müssen im Voraus robuste, wirksame und unabhängig überprüfbare Sicherheitsvorkehrungen getroffen werden“, argumentierte er und warnte, dass „KI-generierte erotische Inhalte den Weg für missbräuchliches Material, einschließlich CSAM [Material über sexuellen Kindesmissbrauch], ebnen“.

Lenaers hofft, den Besitz, die Erstellung und die Verbreitung von KI-generiertem CSAM in der bevorstehenden Überarbeitung der CSA-Richtlinie unter Strafe zu stellen.

Strengere Maßnahmen gegen digitale Tools

Die in Großbritannien ansässige Kinderrechtsorganisation Internet Watch Foundation fordert ebenfalls weitaus strengere Maßnahmen gegen digitale Tools, die für sexuellen Missbrauch genutzt werden. „Es ist von entscheidender Bedeutung, dass alle Formen des sexuellen Missbrauchs von Kindern im Internet unter Strafe gestellt und strafrechtlich verfolgt werden, unabhängig davon, wie oder warum sie entstanden sind“, erklärte ein Sprecher gegenüber Euractiv und forderte ein EU-weites Verbot von Apps, mit denen Bilder von Menschen „entkleidet“ werden können.

Laut einem diese Woche veröffentlichten Bericht von AI Forensics, einer unabhängigen europäischen Nichtregierungsorganisation, enthielt die Mehrheit (53 %) der von Grok generierten Bilder „Personen in minimaler Bekleidung“ – davon waren 81 % Frauen und 2 % schienen jünger als 18 Jahre zu sein. „Wären die Opfer mächtige Männer, wäre X inzwischen offline“, vermutete Geese.

Während X behauptet, alle potenziell illegalen CSAM-Inhalte, die von Grok generiert wurden, entfernt zu haben, hält Lenaers daran fest, dass die Risiken bei sexualisierten Inhalten so hoch sind, dass ein standardmäßiges Verfahren zur Meldung und Entfernung „keine Lösung darstellt, da der Schaden für die Opfer bereits angerichtet ist und nicht rückgängig gemacht werden kann”.

(nl, aw)