Datenschutzgruppe Noyb reicht Beschwerde gegen OpenAI ein

Die Datenschutzorganisation Noyb hat eine Beschwerde gegen OpenAI eingereicht. Der Vorwurf: Das Unternehmen habe zugelassen, dass sein ChatGPT-Modell eine „verleumderische“ Geschichte über einen norwegischen Nutzer erfindet, der des Mordes an seinen eigenen Kindern beschuldigt wird.

Noyb reichte die Beschwerde bei der norwegischen Datenschutzbehörde ein und wirft OpenAI vor, gegen die Datenschutz-Grundverordnung (DSGVO) der EU zu verstoßen. Konkret kritisiert die Organisation, dass OpenAI Nutzern keine Möglichkeit biete, falsche persönliche Informationen über sich im großen Sprachmodell von ChatGPT zu korrigieren.

Es ist bereits die zweite Beschwerde dieser Art von Noyb. In einem früheren Fall hatte die Datenschutzgruppe OpenAI aufgefordert, fehlerhafte persönliche Daten über eine bekannte Persönlichkeit zu berichtigen oder zu löschen. Das Unternehmen erklärte jedoch, dass dies nicht möglich sei, und bot stattdessen an, bestimmte Daten für spezifische Anfragen zu blockieren. Zudem weist ChatGPT Nutzer mit einem Haftungsausschluss darauf hin, dass einige Antworten fehlerhaft sein können.

Diesmal betrifft der Vorfall den Norweger Arve Hjalmar Holmen. Er beschwerte sich, dass ChatGPT eine Geschichte erfunden habe, nach der er seine eigenen Kinder ermordet und dafür zu einer langjährigen Haftstrafe verurteilt wurde. Besonders problematisch: Teile dieser erfundenen Geschichte basierten auf echten persönlichen Daten, darunter die Anzahl und das Geschlecht seiner Kinder sowie der Name seines Wohnorts.

Generative KI-Chatbots wie ChatGPT erzeugen Antworten, indem sie auf Basis statistischer Wahrscheinlichkeiten das wahrscheinlichste nächste Wort berechnen. Dabei besteht das Risiko, dass falsche Informationen verbreitet oder fiktive Geschichten erstellt werden – ein Phänomen, das als „Halluzinationen“ bezeichnet wird.

Die Vermischung von wahren und falschen Informationen kann erfundene Geschichten besonders glaubwürdig erscheinen lassen. „Halluzinationen können katastrophale Folgen für das Leben von Menschen haben“, heißt es in der Pressemitteilung von Noyb.

Da die Antwort von ChatGPT personenbezogene Daten enthält, hätten Nutzer das Recht, eine Korrektur zu verlangen, argumentiert Noyb. „Die DSGVO ist eindeutig: Personenbezogene Daten müssen korrekt sein. Und wenn sie es nicht sind, haben Nutzer das Recht, sie berichtigen zu lassen, um die Wahrheit widerzuspiegeln“, erklärte Noyb-Datenschutzanwalt Joakim Söderberg.

Seit dem Vorfall wurde ChatGPT aktualisiert und kann mittlerweile das Internet durchsuchen- Das reduziert die Wahrscheinlichkeit, dass falsche Informationen erfunden werden. Dennoch existieren weiterhin fehlerhafte Daten im System. Laut Noyb fließen Nutzerdaten in das Training des Modells ein, was das Problem verstärkt.

„Am meisten erschreckt mich die Vorstellung, dass jemand diese falsche Geschichte liest und sie für wahr hält“, sagte Hjalmar Holmen.