Online-Material zu Kindesmissbrauch: Kommissionsvorschlag erntet Kritik
Die Folgenabschätzung des Europäischen Parlaments zum Vorschlag für Material über sexuellen Kindesmissbrauch (CSAM) im Internet, die EURACTIV vorliegt, wirft erhebliche Bedenken hinsichtlich der Privatsphäre und der technischen Auswirkungen des Gesetzentwurfs auf.
Die Folgenabschätzung des Europäischen Parlaments zum Vorschlag für Material über sexuellen Kindesmissbrauch (CSAM) im Internet, die EURACTIV vorliegt, wirft erhebliche Bedenken hinsichtlich der Privatsphäre und der technischen Auswirkungen des Gesetzentwurfs auf.
Der Vorschlag der Europäischen Kommission zur Bekämpfung der Verbreitung von Inhalten, die den sexuellen Missbrauch von Kindern zum Gegenstand haben, ist aufgrund seiner Auswirkungen auf die Privatsphäre auf starken Widerstand gestoßen.
In seiner jetzigen Form würde der Vorschlag die Justizbehörden ermächtigen, Erkennungsanordnungen für Messaging-Apps oder Mailing-Dienste zu erlassen, bei denen ein erhebliches Risiko besteht, dass sie diese Art illegaler Inhalte verbreiten.
Nach Erhalt einer Aufdeckungsanordnung müsste ein Kommunikationsdienstleister automatische Werkzeuge einrichten, um bekannte CSAM, aber auch neues missbräuchliches Material und alles, was mit Grooming in Verbindung gebracht werden kann, zu erkennen.
Das Europäische Parlament hat eine zusätzliche Folgenabschätzung in Auftrag gegeben, um die Bedenken gegen den Vorschlag zu bewerten, der am Donnerstag dem Parlamentsausschuss für bürgerliche Freiheiten, Justiz und Inneres vorgelegt wurde. Die Folgenabschätzung wurde EURACTIV zugespielt.
Das wichtigste Ergebnis der Untersuchung ist, dass die derzeitige Technologie nicht fortschrittlich genug ist, um neue CSAM und Grooming zu erkennen, ohne dass es zu einer hohen Fehlerquote kommt. Die Fehlerquote wäre besonders hoch, da potenziell alle Nachrichten auf einer Plattform gescannt werden könnten.
Eine weitere Sorge im Zusammenhang mit dem EU-Vorschlag ist, dass er im Widerspruch zur Ende-zu-Ende-Verschlüsselung stehen würde. Diese Technologie sorgt dafür, dass nur der Empfänger der Kommunikation die Nachricht lesen kann.
Laut der vom Parlament in Auftrag gegebenen Studie gibt es derzeit keine technologische Lösung, die das Scannen privater Kommunikation, wie es durch Detektionsanordnungen gefordert wird, ermöglichen würde, ohne die Ende-zu-Ende-Verschlüsselung zu untergraben.
In der Folgenabschätzung heißt es außerdem, dass es unwahrscheinlich ist, dass solche technischen Lösungen in den kommenden zwei bis fünf Jahren entwickelt werden, also zu dem Zeitpunkt, an dem die neue Verordnung in Kraft treten würde.
Falsche Positivmeldungen
Der Gesetzesentwurf überträgt einem neuen EU-Zentrum die Aufgabe, Falschmeldungen auszusortieren, um zu verhindern, dass unschuldige Inhalte wie Tauschbörsen für Erwachsene in die Hände der Strafverfolgungsbehörden gelangen.
In der Folgenabschätzung wird argumentiert, dass es unwahrscheinlich ist, dass das geplante EU-Zentrum „die Qualität der Erkennung wesentlich verbessern würde, wenn man bedenkt, dass jahrzehntelange Forschung und Entwicklung bisher nicht zu einem hohen Genauigkeitsgrad bei der Erkennung von neuem CSAM und Grooming geführt haben.“
Selbst wenn man die Ende-zu-Ende-Verschlüsselung außer Acht lässt, stellt die Folgenabschätzung fest, dass „nur die Erkennung bekannter CSAM auf offenen Kommunikationskanälen zum jetzigen Zeitpunkt mit relativ hoher Genauigkeit erfolgen kann.“
Mit anderen Worten: Neues Material wäre schwieriger zu erkennen, und selbst bekanntes Material könnte so verändert werden, dass es den Erkennungsalgorithmen entgehen würde.
Obwohl die Ende-zu-Ende-Verschlüsselung in Kommunikationsdiensten wie WhatsApp immer weiter verbreitet ist, sind die Autoren der Studie der Ansicht, dass die EU-Gesetzgebung die Entwicklung dieser Art von Technologie bremsen könnte.
Darüber hinaus würde das Scannen von zuvor geschützten Nachrichten diese nicht nur für den Dienstanbieter vollständig zugänglich machen, sondern im Falle einer Sicherheitsverletzung oder eines Hackerangriffs auch die Daten der Nutzer potenziell offenlegen.
Ross Creelman, Public Policy Manager der European Telecommunications Network Operators‘ Association, erklärte gegenüber EURACTIV, man sei sich einig, dass „das Risiko für die Verschlüsselung das Vertrauen in solche Technologien und die Grundrechte untergräbt – und das in einem Ausmaß, das über das politische Ziel hinausgeht.“
Abgesehen von den Bedenken bezüglich der Verschlüsselung hebt die Studie hervor, dass sich Minderjährige unwohl fühlen könnten, wenn „einvernehmlich geteilte Bilder als CSAM eingestuft werden könnten.“
Zu den weiteren Herausforderungen gehören die Tatsache, dass die Erkennung von Material im Dark Web noch komplexer ist und dass es eine Sprachbarriere gibt, da die meisten Technologien derzeit nur in englischer Sprache funktionieren, und dass mit dem technischen Fortschritt auch die Umgehungsmöglichkeiten zunehmen. Die Folgenabschätzung, in der diese Herausforderungen ebenfalls angesprochen wurden, nimmt Bezug auf das „technologische Wettrüsten.“
Emily Slifer, Direktorin für Politik bei der Kinderschutzorganisation Thorn, erklärte gegenüber EURACTIV, dass die Studie der „tatsächlichen Funktionsweise der Technologie“ nicht genug Aufmerksamkeit schenke.
Sowohl Slifer als auch die Geschäftsführerin der Internet Watch Foundation, Susie Hargreaves, erklärten, dass sie offen für einen Austausch mit den Autoren der Studie gewesen wären und ihre Expertise angeboten hätten.
Laut der Studie wäre eine aussichtsreichere Lösung zum jetzigen Zeitpunkt die Analyse des Nutzerverhaltens und der Metadaten, wie beispielsweise der Netzsignale. Diese Lösung wird bereits weitgehend von großen Plattformen wie WhatsApp genutzt.
[Bearbeitet von Luca Bertuzzi/Nathalie Weatherald]
