Künstliche Intelligenz: G7-Länder suchen gemeinsame Lösung

Die Datenschutzbeauftragten der G7-Länder werden laut einem Entwurf für eine Erklärung, der EURACTIV vorliegt, eine gemeinsame Vision der datenschutzrechtlichen Herausforderungen generativer KI-Modelle wie ChatGPT darlegen.

Die Datenschutzbehörden der Vereinigten Staaten, Frankreichs, Deutschlands, Italiens, des Vereinigten Königreichs, Kanadas und Japans haben sich am Dienstag und Mittwoch (20./21. Juni) in Tokio zu einem G7-Rundtischgespräch getroffen. Dabei sollten der freie Datenverkehr, die Zusammenarbeit bei der Durchsetzung und neue Technologien diskutiert werden.

Die Risiken generativer KI-Modelle aus Sicht der Datenschutzbeauftragten im Zusammenhang mit ihrer raschen Verbreitung in verschiedenen Kontexten und Bereichen stehen dabei im Mittelpunkt, heißt es im Entwurf der Erklärung.

„Wir erkennen an, dass es wachsende Bedenken gibt, dass generative KI Risiken und potenzielle Schäden für die Privatsphäre, den Datenschutz und andere grundlegende Menschenrechte mit sich bringen kann, wenn sie nicht angemessen entwickelt und reguliert wird“, erklärt der Entwurf.

Generative KI ist eine hochentwickelte Technologie, die in der Lage ist, auf der Grundlage der Eingaben eines Nutzers menschenähnliche Text-, Bild- oder audiovisuelle Inhalte zu liefern. Seit dem rasanten Aufstieg von ChatGPT hat diese aufkommende Technologie große Begeisterung, aber auch massive Ängste vor ihrem möglichen Missbrauch ausgelöst.

Im April haben die Digitalminister der G7-Staaten den so genannten „Hiroshima-Prozess“ ins Leben gerufen, um sich bei einigen dieser Themen abzustimmen. Dazu gehören Governance, Schutz der Rechte an geistigem Eigentum, Förderung der Transparenz, Verhinderung von Desinformation und Förderung eines verantwortungsvollen Umgangs mit der Technologie.

Der „Hiroshima-Prozess“ soll die Grundlage für einen freiwilligen Verhaltenskodex für generative KI bilden, den die Europäische Kommission zusammen mit den Vereinigten Staaten und anderen G7-Partnern entwickelt.

Zeitgleich steht die EU kurz vor der Verabschiedung der weltweit ersten umfassenden Gesetzgebung zur künstlichen Intelligenz, die einige Bestimmungen speziell zur generativen KI enthalten soll.

Dennoch weisen die Datenschutzbehörden auf eine Reihe von Risiken hin, die generative KI-Tools aus Sicht des Datenschutzes mit sich bringen.

Ausgangspunkt ist die rechtliche Befugnis der KI-Entwickler zur Verarbeitung personenbezogener Daten, insbesondere von Minderjährigen, in den Datensätzen, die zum Trainieren der KI-Modelle verwendet werden. Außerdem wird darauf hingewiesen, wie die Interaktionen der Nutzer in die Tools eingegeben werden und welche Informationen dann als Ergebnis erzeugt werden.

In der Erklärung werden auch Sicherheitsvorkehrungen gefordert, um zu verhindern, dass die generativen KI-Modelle dazu verwendet werden, personenbezogene Daten zu extrahieren oder zu reproduzieren. Zudem soll verhindert werden, dass die Datenschutzvorkehrungen durch sorgfältig ausgearbeitete Eingabeaufforderungen umgangen werden können.

Die Behörden fordern die KI-Entwickler außerdem auf, dafür zu sorgen, dass personenbezogene Daten, die von generativen KI-Tools verwendet werden, korrekt, vollständig und aktuell gehalten werden. Sie dürfen keine diskriminierenden, ungesetzlichen oder anderweitig ungerechtfertigten Auswirkungen haben.

Darüber hinaus verweisen die G7-Regulierungsbehörden auf „Transparenzmaßnahmen zur Förderung von Offenheit und Erklärbarkeit beim Einsatz generativer KI-Tools. Dies gilt insbesondere für Fälle, in denen solche Tools eingesetzt werden, um Entscheidungen über Personen zu treffen oder zu unterstützen“.

Die Bereitstellung einer technischen Dokumentation über den gesamten Entwicklungszyklus, Maßnahmen zur Gewährleistung eines angemessenen Maßes an Verantwortung unter den Akteuren der KI-Lieferkette und der Grundsatz, die Erhebung personenbezogener Daten auf das unbedingt erforderliche Maß zu beschränken, werden ebenfalls genannt.

Schließlich werden die Anbieter generativer KI in der Erklärung aufgefordert, technische und organisatorische Maßnahmen zu ergreifen, um sicherzustellen, dass Personen, die von diesen Systemen betroffen sind und mit ihnen interagieren, weiterhin ihre Rechte ausüben können. Dazu gehören die Rechte auf Zugang, Berichtigung und Löschung personenbezogener Daten. Außerdem haben sie die Möglichkeit, sich zu weigern, ausschließlich automatisierten Entscheidungen zu unterliegen, die erhebliche Auswirkungen haben.

In der Erklärung wurde der Fall Italiens hervorgehoben, wo die Datenschutzbehörde das Programm ChatGPT wegen möglicher Verstöße gegen den Datenschutz vorübergehend aussetzte. Der Dienst wurde jedoch nach Verbesserungen durch OpenAI wieder in Betrieb genommen.

Die Behörden erwähnen mehrere laufende Maßnahmen, darunter die Untersuchung generativer KI-Modelle in ihren jeweiligen Rechtsvorschriften, die Bereitstellung von Leitlinien für KI-Entwickler zur Einhaltung des Datenschutzes und die Unterstützung innovativer Projekte wie Regulatorische „Sandkästen.“

Auch die Förderung der Zusammenarbeit, insbesondere durch die Einrichtung einer speziellen Taskforce, wird erwähnt. Die EU-Behörden haben eine solche Taskforce eingerichtet, um die Durchsetzung von ChatGPT nach der Entscheidung der italienischen Regulierungsbehörde in Bezug auf den berühmtesten Chatbot der Welt zu straffen.

Laut einer mit der Angelegenheit vertrauten Quelle kommt die Arbeit dieser Task Force jedoch nur sehr langsam voran. Dies ist vor allem auf den Verwaltungsprozess und die Koordinierung zurückzuführen. Die europäischen Regulierungsbehörden erwarten nun von OpenAI, dass sie bis zum Ende des Sommers Klarheit schaffen.

„Entwickler und Anbieter sollten den Datenschutz in den Entwurf, die Konzeption, den Betrieb und die Verwaltung neuer Produkte und Dienste, die generative KI-Technologien nutzen, auf der Grundlage des Konzepts des ‚Privacy by Design‘ einbeziehen. Ihre Entscheidungen und Analysen sollten sie in einer Datenschutz-Folgenabschätzung dokumentieren“, heißt es in der Erklärung weiter.

Außerdem werden die KI-Entwickler aufgefordert, die Unternehmen, die das Modell einsetzen oder anpassen, zur Einhaltung der Datenschutzverpflichtungen anzuhalten.

Weitere Diskussionen darüber, wie die Herausforderungen des Datenschutzes bei generativer KI angegangen werden können, werden in einer Arbeitsgruppe für neue Technologien der G7-Datenschutzbehörden stattfinden.

[Bearbeitet von Nathalie Weatherald/Kjeld Neubert]