Algorithmen: Kommission befragt YouTube, TikTok und Snapchat

Die Europäische Kommission möchte von YouTube, Snapchat und TikTok wissen, inwiefern Algorithmen ihre Empfehlungssysteme kontrollieren. Im Fokus der übermittelten Fragen steht der Nutzerschutz vor schädlichen Inhalten.

Diese Anfragen vom Mittwoch (2. Oktober) fallen unter das Gesetz über digitale Dienste (Digital Services Act, DSA), die wegweisende Verordnung der EU zur Moderation von Inhalten.

Die Algorithmen für die Empfehlungen von Inhalte seien das „Herzstück“ der systemischen Risiken, die Plattformen den Nutzern vorschlagen, sagte ein hochrangiger Kommissionsbeamter am Mittwoch.

Empfehlungsalgorithmen gelten allgemein als potenziell schädlich. Organisationen für digitale Rechte und Forschung verweisen auf Beispiele, die von Extremismus bis hin zu Impfstoff-Desinformation reichen.

Die Antworten sollen das Verständnis der Kommission für diese Systeme vertiefen und erweitern. Zusätzlich sollen sie ihre zugrunde liegenden Struktur untersuchen, um herauszufinden, ob sie die Nutzer zu schädlichen Inhalten führen, erklärte der Beamte.

YouTube und Snapchat werden Fragen zu den Parametern, die von den Empfehlungsalgorithmen verwendet werden und zu ihrer Rolle bei der Verstärkung systemischer Risiken, wie im Zusammenhang mit Wahlen und psychischer Gesundheit, sowie zum Schutz von Minderjährigen, beantworten, so die veröffentlichte Pressemitteilung der Kommission vom Mittwoch. Im Rahmen des Gesetzes über digitale Dienste sollten den Nutzern Optionen bezüglich der empfohlenen Algorithmen gegeben werden, führte der Beamte weiter aus.

TikTok wird auch aufgefordert werden, Informationen darüber vorzulegen, ob seine Systeme von böswilligen Akteuren manipuliert werden können, sowie über die Auswirkungen auf den gesellschaftlichen Diskurs, sagte der Beamte. In einer zuvor eingeleiteten Untersuchung seien Risiken im Zusammenhang mit dem Schutz von Minderjährigen, wie selbstmordbezogene Inhalte, untersucht worden.

„Bei Snapchat stellen wir Fragen dazu, ob die empfohlenen Systeme illegale Drogen und Inhalte empfehlen“, schrieb die Kommission.

Die Kommission befasst sich nicht mit Meta, dem Mutterunternehmen von Facebook und Instagram, da die gleichen Fragen bereits in dem formellen Verfahren behandelt werden, das vor dem Sommer gegen das Unternehmen eingeleitet wurde, erklärte der Kommissionsbeamte.

Die EU-Kommission hat einige ihrer Spitzenbeamten mit dem Fall betraut, sagte ein anderer Beamter. „Jeder, der den Antrag verfasst hat, hat entweder einen Doktortitel in Informatik oder in algorithmischem Missbrauch.“

Die Unternehmen müssen die Informationen bis zum 15. November vorlegen. Danach kann die Kommission die nächsten Schritte bewerten.

TikTok und Snapchat haben die Anfrage erhalten und werden mit der Kommission zusammenarbeiten, teilten Sprecher Euractiv separat mit. YouTube hat zum Zeitpunkt der Veröffentlichung nicht auf die Bitte von Euractiv um einen Kommentar geantwortet.

[Bearbeitet von Rajnish Singh/Kjeld Neubert]