Kommission untersucht Elon Musks Grok nach Deepfake-Skandal

Die Europäische Kommission kündigte am Montag eine formelle Untersuchung des umstrittenen KI-Chatbots Grok von Elon Musk gemäß dem Gesetz über digitale Dienste (DSA) an. Grund dafür war, dass das Tool dazu verwendet wurde, Musks Social-Media-Plattform X mit unbekleideten Bildern von realen Personen, darunter Frauen und Kinder, zu überschwemmen.

Auf Grok kann über X zugegriffen werden, das den strengsten Regeln des DSA unterliegt. Die Kommission erklärte heute, dass im Rahmen der Untersuchung geprüft werde, ob die Social-Media-Plattform die gesetzlichen Anforderungen zur Minderung der mit den Ergebnissen der KI verbundenen Risiken erfüllt habe.

Die DSA-Vollzugsbehörden werden laut einer Pressemitteilung der EU die Nutzung des KI-Tools zur Verbreitung illegaler Inhalte in der EU untersuchen – darunter sexuell eindeutige Bilder und Material über sexuellen Kindesmissbrauch (CSAM).

Geldstrafen von bis zu 6 % des weltweiten Jahresumsatzes

Bestätigte Verstöße gegen die DSA können mit Geldstrafen von bis zu 6 % des weltweiten Jahresumsatzes geahndet werden.

In ihrer Ankündigung vom Montag gab die Kommission außerdem bekannt, dass sie eine laufende Untersuchung der Empfehlungssysteme von X ausweitet, die die EU bereits im Dezember 2023 gegen X eingeleitet hatte.

Bei der Einleitung der Untersuchung erklärte die Kommission, dass geprüft werden solle, ob X die mit seinen Empfehlungsalgorithmen verbundenen Risiken mindert. Die Kommission hat nun mitgeteilt, dass die Untersuchung auch die Auswirkungen der kürzlich von X angekündigten Umstellung auf Grok-basierte Empfehlungssysteme untersuchen wird.

Ein EU-Beamter sagte, X habe letzte Woche Änderungen an seinen Empfehlungssystemen angekündigt, durch die diese „stärker unter die Kontrolle von Grok“ gestellt würden.

Das Unternehmen habe der Kommission keine Risikobewertung vorgelegt, so der Beamte. Die Änderungen könnten „kritische Auswirkungen auf bestimmte Risiken“ haben, fügte er hinzu und verwies auf Bedenken, die zur Verlängerung der Untersuchung geführt hätten.

Empörung wegen Pornoskandal

In den letzten Wochen hat der Grok-Deepfake-Pornoskandal weltweite Empörung ausgelöst. Kommissionspräsidentin Ursula von der Leyen äußerte sich sogar öffentlich dazu und bezeichnete die sexualisierten Inhalte als „entsetzlich”.

Wie Euractiv bereits berichtet haben,wurde die Entscheidung der Kommission,eine DSA-Untersuchung zu Grok einzuleiten,in einer politisch aufgeladenen Atmosphäre im Berlaymont-Gebäude getroffen, in der es um die Frage ging, wie mit dem KI-Tool umgegangen werden soll.

Anfang dieses Monats forderte die Kommission X auf, alle internen Unterlagen zu Grok aufzubewahren, während die DSA-Vollzugsbehörden ihre Optionen prüften. Andere Regulierungsbehörden schritten jedoch mit ihren Untersuchungen voran – im Falle des Vereinigten Königreichs – oder blockierten sogar das umstrittene KI-Tool.

Im Dezember verhängte die EU gegen X eine Geldstrafe in Höhe von 120 Millionen Euro im Zusammenhang mit einer früheren DSA-Untersuchung zu Transparenzbestimmungen. Weitere Untersuchungen sind noch anhängig. Die Durchsetzung löste eine aggressive Gegenreaktion aus Washington und von Musk selbst aus, der zu Vergeltungsmaßnahmen aufrief und die Abschaffung der Union forderte.

(nl)