Elon Musk gibt dem Druck wegen des Deepfake-Pornoskandals um Grok nach

Elon Musk scheint sich dem regulatorischen Druck gebeugt zu haben, der auf die umstrittenen Fähigkeiten seines KI-Tools Grok abzielt, das in den letzten Wochen seine Social-Media-Plattform X mit sexualisierten Inhalten überschwemmt hat.

In einer am Donnerstag auf X veröffentlichten Ankündigung erklärte Musks Unternehmen, dass es den Nutzern untersagen werde, mit Grok Bilder von „echten Menschen” zu generieren, die digital entkleidet werden.

„Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass mit dem Grok-Konto Bilder von echten Menschen in freizügiger Kleidung wie Bikinis bearbeitet werden können”, heißt es in der Erklärung, bevor präzisiert wird: „Diese Einschränkung gilt für alle Nutzer, einschließlich zahlender Abonnenten”.

Sexualisierte Bilder von Frauen und Kindern

Grok sah sich weltweit mit Ausfällen und behördlichen Untersuchungen konfrontiert, unter anderem in der EU, nachdem das KI-Tool sexualisierte Bilder von Frauen und Kindern produziert hatte – Inhalte, die die Kommission letzte Woche als „illegal” bezeichnete.

Musks Unternehmen reagierte zunächst auf die Empörung mit der Ankündigung, die Entkleidungsfunktion von Grok auf zahlende Abonnenten zu beschränken. Am Donnerstag schien xAI jedoch noch einen Schritt weiter zu gehen und offenbar auch zahlenden Nutzern die Verwendung des Tools zum digitalen Entkleiden von Frauen und Kindern zu untersagen.

In der Erklärung von xAI wird ausdrücklich darauf hingewiesen, dass die erweiterte Einschränkung der Bildbearbeitungsfunktionen von Grok „über das Grok-Konto auf der X-Plattform” gilt.

Es werden weder Änderungen an der eigenständigen App von Grok erwähnt, über die ebenfalls auf das Tool zugegriffen werden kann, noch wird klargestellt, ob dort neue Einschränkungen gelten. X teilte Euractiv jedoch mit, dass es die Funktion für eigenständige Grok-Nutzer „in den Ländern, in denen dies illegal ist”, geografisch sperrt.

Als Reaktion auf die Änderungen erklärte der digitale Sprecher der Kommission, Thomas Regnier, gegenüber Euractiv: „Wir nehmen die zusätzlichen Maßnahmen zur Kenntnis, die X ergreift, um Grok daran zu hindern, sexualisierte Bilder von Frauen und Kindern zu generieren.” Zuvor hatte Musk am Mittwoch behauptet, dass Grok keine Nacktbilder von Kindern produziere.

„Null Toleranz“ gegenüber jeder Form der sexuellen Ausbeutung von Kindern

In der offiziellen Erklärung von X wurde nicht auf Musks Äußerungen eingegangen, sondern erneut betont, dass die Plattform „null Toleranz“ gegenüber jeder Form der sexuellen Ausbeutung von Kindern habe. Es wurde hinzugefügt, dass „Maßnahmen zur Entfernung“ solcher Inhalte ergriffen werden, einschließlich Material über sexuellen Kindesmissbrauch (CSAM), das in der Regel illegal ist.

Bislang hat die Kommission X aufgefordert, alle internen Aufzeichnungen im Zusammenhang mit Grok bis Ende 2026 aufzubewahren, aber keine formelle Untersuchung unter Anwendung ihrer Befugnisse gemäß dem Digital Services Act (DSA) eingeleitet. Währenddessen bestätigte die britische Regulierungsbehörde Ofcom am Donnerstag, dass sie ihre Untersuchung des KI-Tools gemäß dem Online Safety Act des Landes fortsetzen wird.

Dennoch hat die Kommission angedeutet, dass sie Grok weiterhin aufmerksam beobachten wird. „Sollten diese Änderungen nicht wirksam sein, wird die Kommission nicht zögern, alle Durchsetzungsinstrumente des DSA einzusetzen“, sagte Regnier.

(nl)

Aktualisiert um 10:18 Uhr am 15. Januar mit der Antwort von X.