Snapchat-Chatbot: Großbritannien besorgt über Datenschutzrisiken

Die britische Datenschutzbehörde ICO hat am vergangenen Freitag (6. Oktober) eine vorläufige Vollstreckungsmitteilung gegen Snapchat herausgegeben. Die Plattform steht im Verdacht, die Datenschutzrisiken von ihrem AI-Bot „My AI“ nicht bewertet zu haben.

„My AI“ ist der generative Chatbot von Snapchat, der in diesem Jahr eingeführt wurde. Er läuft über ChatGPT, das zuvor auch in der Europäischen Union Datenschutzbedenken ausgelöst hatte.

Der Chatbot von Snapchat ist die erste generative KI einer großen Messaging-Plattform, die im Vereinigten Königreich verfügbar ist.

Einem ihrer Blogbeiträge zufolge bedeutet die vorläufige Mitteilung, die das ICO in diesem Fall herausgegeben hat, dass das Büro des Datenschutzbeauftragten das Unternehmen auffordern könnte, Maßnahmen zu ergreifen. Sollte die Durchsetzungsmitteilung endgültig sein, könnte Snapchat gezwungen werden, die Verarbeitung von Daten im Zusammenhang mit „My AI“ einzustellen.

Das Büro des Informationskommissars stellte fest, dass die von Snapchat vor der Einführung von „My AI“ durchgeführte Risikobewertung „die von der generativen KI-Technologie ausgehenden Datenschutzrisiken, insbesondere für Kinder, nicht angemessen bewertet hat“, heißt es in dem Blogbeitrag.

„Die vorläufigen Ergebnisse unserer Untersuchung deuten auf ein besorgniserregendes Versäumnis von Snapchat hin, die Datenschutzrisiken für Kinder und andere Nutzer vor dem Start von ‚My AI‘ angemessen zu identifizieren und zu bewerten“, so der britische Informationsbeauftragte John Edwards.

Ein Sprecher von Snapchat erklärte jedoch gegenüber Euractiv, dass sie vor der Veröffentlichung von „My AI“ einen „robusten rechtlichen und datenschutzrechtlichen Überprüfungsprozess“ durchgeführt hätten.

Im Vergleich zu ChatGPT hat „MyAI“ „zusätzliche Sicherheitsverbesserungen und Kontrollen, die es nur bei Snapchat gibt.“

So berücksichtigt „My AI“ beispielsweise das Alter der Nutzer während der Konversation. Wer das Familienzentrum von Snapchat nutzt, kann sehen, ob seine Kinder mit „My AI“ kommuniziert haben.

„Alle mit ‚My AI‘ geteilten Inhalte werden gespeichert, bis du sie löschst“, heißt es im Blogpost von Snapchat.

„Wir haben deutlich gemacht, dass Unternehmen neben den Vorteilen auch die mit KI verbundenen Risiken berücksichtigen müssen. Die heutige vorläufige Vollstreckungsmitteilung zeigt, dass wir Maßnahmen ergreifen werden, um die Datenschutzrechte der britischen Verbraucher zu schützen“, fügte Edwards am vergangenen Freitag hinzu. Damit bezog er sich möglicherweise auf eine Mahnung des ICO vom Juni an Unternehmen, die generative KI einsetzen, auf die Datenschutzverpflichtungen zu achten.

Snapchat sagte gegenüber Euractiv, dass sie „die vorläufige Entscheidung des ICO genau prüfen. Wie das ICO sind wir verpflichtet, die Privatsphäre unserer Nutzer zu schützen.“

„Wir werden weiterhin konstruktiv mit der ICO zusammenarbeiten, um sicherzustellen, dass sie mit unseren Risikobewertungsverfahren einverstanden ist.“

Obwohl es möglich ist, bedeutet die aktuelle Bekanntmachung nicht, dass mit Sicherheit ein Verstoß gegen das Datenschutzrecht vorliegt oder dass eine endgültige Bekanntmachung zur Durchsetzung des Datenschutzes zwangsläufig folgen wird.

Ob die Europäische Kommission einen ähnlichen Schritt plant, ist derzeit nicht bekannt. Auf eine Anfrage von Euractiv hatte die Kommission bis zur Veröffentlichung des Artikels nicht reagiert.

[Bearbeitet von Alice Taylor]