NGO: Instagram und TikTok kennzeichnen KI-Inhalte unzureichend

Eine neue Untersuchung zeigt: TikTok und Instagram kennzeichnen KI-generierte Inhalte kaum – und könnten damit gegen EU-Transparenzregeln wie den Digital Services Act (DSA) verstoßen. 

Die rasante Verbreitung generativer KI-Tools hat die Erstellung von Bildern und Videos auf Knopfdruck ermöglicht. Prominente Beispiele sind ein KI-generiertes Video mit dem Titel „Trump Gaza“, das Anfang des Jahres sogar vom Weißen Haus geteilt wurde, oder der „Balenciaga-Papst“ aus dem Jahr 2023.

Doch KI-Werkzeuge kommen zunehmend auch subtiler zum Einsatz – etwa zur Erstellung fotorealistischer Fake-Ärzte, die zweifelhafte medizinische Ratschläge verbreiten.

Laut exklusiven Recherchen der europaweit tätigen NGO AI Forensics, die Euractiv vorliegen, sind nahezu 25 Prozent der auf TikTok kursierenden Videos KI-generiert.

Kennzeichnungspflicht wird ignoriert

AI Forensics stellte zudem fest: Weder TikTok noch das zu Meta gehörende Instagram kennzeichnen KI-generierte Inhalte systematisch als solche.

Die Untersuchung analysierte Suchergebnisse in Spanien, Deutschland und Polen – über 13 Hashtags hinweg, darunter #trump, #zelensky, #health und #pope –, um zu prüfen, ob entsprechende Inhalte klar als KI-generiert gekennzeichnet sind.

Ein Beispiel: Ein Instagram-Reel zeigte synthetisch erzeugte Bilder von vermeintlichen Interviews mit Bürgern im Iran nach einem angenommenen Regime-Sturz. Zwar war der Clip in der Beschreibung als Satire deklariert und mit dem Hashtag „#ai“ versehen – das von Meta vorgeschriebene KI-Label fehlte jedoch, so die Forscher.

Auf TikTok stießen die Ermittler auf irreführende Gesundheitsinhalte, die mithilfe KI-generierter Stockfotos von Ärzten fragwürdige Produkte und Ratschläge verbreiteten.

Mehr als 80 Prozent der identifizierten synthetischen Inhalte waren fotorealistisch, also visuell kaum von echten Aufnahmen zu unterscheiden. Das erhöhe laut AI Forensics die Gefahr, dass User getäuscht werden.

Rechtliche Verpflichtungen 

Beide Plattformen unterliegen in der EU dem Digital Services Act, der sie verpflichtet, gesellschaftliche Risiken zu minimieren – darunter auch Desinformation.

Die EU-Kommission hat bereits im April ein förmliches DSA-Verfahren gegen Meta eingeleitet. Geprüft wird unter anderem, ob Facebook und Instagram gegen Transparenzpflichten bei politischer Werbung und Desinformationskampagnen verstoßen.

Auch TikTok steht wegen seines Umgangs mit wahlbezogenen Inhalten unter Beobachtung. Hintergrund sind unter anderem russische Desinformationsversuche im Vorfeld der Präsidentschaftswahlen in Rumänien.

Darüber hinaus laufen Ermittlungen gegen beide Plattformen wegen möglicher Verstöße gegen den Schutz Minderjähriger – ebenfalls Teil der DSA-Vorgaben. TikTok und Meta hatten sich zuvor freiwillig dem EU-Verhaltenskodex gegen Desinformation verpflichtet, der inzwischen eng mit den Anforderungen des DSA verknüpft ist.

AI Forensics betont: Die Kennzeichnung von KI-generierten Inhalten sei essenziell, um Risiken für die Gesellschaft zu reduzieren – eine Anforderung, die im DSA ausdrücklich genannt wird. Zudem würden beide Plattformen mit der mangelnden Kennzeichnung auch gegen ihre eigenen Richtlinien verstoßen, in denen die Labelpflicht für synthetische Medien festgeschrieben ist.

(nl, aw)