EU-Abgeordneter möchte Risikobewertung zum Schutz von Kindern verschärfen

Der Berichterstatter des Europäischen Parlaments für den Entwurf eines EU-Gesetzes zur Bekämpfung des sexuellen Missbrauchs von Kindern hat neue Kompromissänderungsanträge vorgelegt. Diese sehen eine Verschärfung der Verpflichtungen zur Risikobewertung für Kommunikationsdienste vor.

Die Verordnung zur Bekämpfung von Material über sexuellen Kindesmissbrauch (CSAM) hat eine Kontroverse ausgelöst. Hauptgrund ist, dass der Gesetzesvorschlag es Justizbehörden ermöglichen würde, Aufdeckungsanordnungen zu erlassen, die Plattformen wie WhatsApp und Gmail dazu verpflichten, private Nachrichten zu scannen, um mutmaßlich illegale Inhalte aufzuspüren.

Im April erklärte der spanische Konservative Javier Zarzalejos (EPP), der für das Gesetz verantwortliche EU-Abgeordnete, gegenüber EURACTIV, er wolle sich darauf konzentrieren, dass die Plattformen ihre Sorgfaltspflicht auf der Grundlage interner Risikobewertungen erfüllen.

Es überrascht nicht, dass der Mitte-Rechts-Abgeordnete unter seinen ersten Vorschlägen, die von Contexte veröffentlicht wurden, zur Überbrückung der Differenzen mit den anderen Fraktionen, Spezifikationen zur Rolle von Dienstleistern und zwischenmenschlichen Kommunikationsdiensten bei der Risikobewertung einführte.

Verpflichtende Risikobewertung

Interpersonelle Kommunikationsdienste müssen eine Risikobewertung durchführen, „die speziell auf die von ihnen angebotenen Dienste zugeschnitten ist und die in einem angemessenen Verhältnis zum Risiko steht, wenn man dessen Schwere und Wahrscheinlichkeit berücksichtigt.“

Online-Plattformen, die im Rahmen von ‚Gesetz über digitale Dienste‘ (DSA) als ‚sehr groß‘ eingestuft werden, müssen bereits eine Risikobewertung durchführen, um systemische Risiken zu ermitteln und abzumildern. Der Kompromiss sieht vor, dass die vorgeschlagene und die bereits verpflichtende Risikobewertung zu einer einzigen zusammengeführt werden könnten.

Zu den Elementen, welche die Dienstleistungsanbieter berücksichtigen müssen, gehören dem Text zufolge „ihre Empfehlungssysteme und alle relevanten algorithmischen Systeme“ und das Geschäftsmodell. Ebenso wäre die Art der Nutzer, auf die sie abzielen, beispielsweise in Bezug auf die Altersgruppen, mit einbezogen.

Darüber hinaus müssten die Plattformen prüfen, ob Suchmaschinen außerhalb des Dienstes nach anderen Nutzern, insbesondere Erwachsene nach Kindern, suchen und direkt „unaufgeforderten Kontakt“ herstellen könnten.

Zusätzlich sollte von Anbietern überprüft werden, ob Nutzernamen Informationen über das Alter oder den Aufenthaltsort des kindlichen Nutzers enthalten könnten.

Die Anbieter von Dienstleistungen können ein angedachte zentrale Fachstelle für die Regulierung von CSAM bitten, ihre Methodik für die Risikobewertung zu analysieren, einschließlich „eines Tests mit Datenproben, die dem EU-Zentrum zur Verfügung gestellt werden.“ Dies kann zur Unterstützung des Prozesses geschehen, entbindet den Anbieter aber nicht davon, die Risikobewertung selbst durchzuführen.

Der Anbieter muss auch die ihm zur Verfügung stehenden „personellen und finanziellen Ressourcen“ berücksichtigen. Darüber hinaus muss er „Sensibilisierungskampagnen zur Aufklärung und Warnung der Nutzer“ durchführen.

Umstrittene Altersüberprüfung

In Bezug auf die Altersüberprüfung, ein umstrittener Teil des Dossiers, heißt es im Text, dass diese unbeschadet anderer Mechanismen ermöglicht werden sollte, um den Zugang von Minderjährigen zu Websites mit Altersbeschränkungen und den Zugang zu ungeeigneten Inhalten oder Diensten zu verhindern. Dabei sind die möglichen Auswirkungen dieser Maßnahmen auf die Grundrechte zu berücksichtigen.

In den Kompromissänderungsanträgen wird auch die Verwendung „altersgerechter elterlicher Kontrollen“ befürwortet, ohne zu präzisieren, was dies in der Praxis bedeuten könnte.

Der Text des Berichterstatters bezieht sich auch auf leicht erkennbare, zugängliche, altersgerechte, kinder- und benutzerfreundliche Instrumente. Dazu gehören anonyme Meldewege, die bereits vorhanden sind, und die Möglichkeit für die Opfer, selbst Meldung zu erstatten.

Die Verwendung von Instrumenten der künstlichen Intelligenz zur Unterstützung von altersgerechter elterliche Kontrolle und die Selbstmeldung der Opfer wurde aus dem Text gestrichen.

Audiokommunikation, Verschlüsselung und allgemeine Überwachung

Während der Text besagt, dass die Verordnung nicht für Audiokommunikation gilt, genau wie in den vorherigen Versionen des Dossiers, wird nicht spezifiziert, was unter Audiokommunikation zu verstehen ist, wie etwa ein Telefonanruf oder eine Sprachnachricht.

Letzten Monat berichtete EURACTIV, dass die meisten Mitgliedstaaten die Einbeziehung von Audiokommunikation in den Geltungsbereich des Gesetzentwurfs befürworteten.

Die Änderungsanträge betonen, dass es Anbietern nicht verboten werden sollte, Ende-zu-Ende verschlüsselte Dienste anzubieten und dass die Verschlüsselung nicht verboten, geschwächt oder untergraben werden sollte.

Zuvor hatte Spanien Ende Mai vorgeschlagen, die Verschlüsselung gänzlich zu verbieten.

Darüber hinaus heißt es in den Änderungsanträgen, dass die Verordnung weder die Vorschriften des Gesetzes über künstliche Intelligenz beeinträchtigen noch das Verbot der allgemeinen Überwachung privater Kommunikation untergraben soll.

Hotlines und Helplines

In den Änderungsanträgen wird zwischen Hotlines und Helplines (Beratungsstellen) unterschieden.

Dem Text zufolge ist unter einer Hotline eine vom Gastgeberland offiziell anerkannte Organisation zu verstehen, die nicht zu den offiziellen Meldestellen der Polizeibehörden gehört, die anonyme Beschwerden von Opfern und der Öffentlichkeit entgegennehmen.

Im Gegensatz dazu bezieht sich eine Helpline auf eine Organisation, die „Dienste für Kinder in Not anbietet und die von dem Mitgliedstaat, in dem sie niedergelassen ist, offiziell anerkannt ist.“

Nach den neuen Änderungsanträgen sollten ausreichende Informationen über Hotlines, Beratungsstellen und nationale Strafverfolgungsbehörden zur Verfügung stehen, damit Kinder Hilfe in Anspruch nehmen können.

Interpersonelle Kommunikationsdienste

Bereits im April hatte der Abgeordnete Zarzalejos angedeutet, dass er offen für eine Diskussion darüber sei, ob der Anwendungsbereich der Verordnung auf nummernunabhängige interpersonelle Kommunikationsdienste beschränkt werden sollte. Dies war eine Forderung aus dem Telekommunikationssektor.

Instant-Messaging-Apps wie Messenger und WhatsApp sind Beispiele für Dienste, die nicht Teil eines Nummerierungsplans sind und daher weniger reguliert werden.

Zwar wurde kein konkreter Änderungsantrag zur Änderung des Anwendungsbereichs in den Text aufgenommen, doch wurde eine Definition des nummernunabhängigen interpersonellen Kommunikationsdienstes im Rahmen von Spielen eingeführt. Dies scheint darauf hinzudeuten, dass das Thema noch zur Diskussion steht.

Freiwillige Maßnahmen

Den Anbietern wird der Zugang zur freiwilligen Nutzung spezifischer Technologien für die Verarbeitung personenbezogener und anderer Daten gestattet, jedoch nur zur Aufdeckung, Meldung und Entfernung von Material über sexuellen Kindesmissbrauch.

[Bearbeitet von Luca Bertuzzi/Nathalie Weatherald/Kjeld Neubert]