OpenAI hält Kennzeichnung von KI-Inhalten zurück
OpenAI, der Entwickler von ChatGPT, hat ein Tool für die Kennzeichnung von KI-Inhalten entwickelt, das dabei helfen könnte, das europäische Gesetz über künstliche Intelligenz einzuhalten. Das Unternehmen hat es jedoch noch nicht veröffentlicht, da es Berichten zufolge befürchtet, Nutzer zu verlieren.
OpenAI, der Entwickler von ChatGPT, hat ein Tool für die Kennzeichnung von KI-Inhalten entwickelt, das dabei helfen könnte, das europäische Gesetz über künstliche Intelligenz einzuhalten. Laut Berichten fürchtet das Unternehmen bei Einführung jedoch, Nutzer zu verlieren.
Das EU-KI-Gesetz verlangt von Anbietern von KI-Systemen wie ChatGPT, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, dass sie die Ausgaben des Systems als künstlich erzeugt oder manipuliert kennzeichnen.
Die Verordnung ist am 1. August in Kraft getreten, die verpflichtende Kennzeichnung gilt aber erst ab dem 2. August 2026.
Am Sonntag (4. August) zitierte das Wall Street Journal (WSJ) Quellen, die sagten, OpenAI sei seit einem Jahr bereit, ein Wasserzeichen-Tool für KI-Texte einzusetzen. Es zögere jedoch, dies einzuführen, da es befürchte, Nutzer zu verlieren.
In einem am Sonntag aktualisierten Blogbeitrag bestätigte OpenAI, dass es ein „hochpräzises“ Textwasserzeichen-Tool entwickelt hat, das es „weiterhin in Betracht zieht, während wir nach Alternativen suchen“.
Das Unternehmen erklärte jedoch, dass es derzeit die Risiken eines solchen Tools abwäge, zum Beispiel „unsere Untersuchungen deuten darauf hin, dass die Textwasserzeichen-Methode das Potenzial hat, einige Gruppen unverhältnismäßig stark zu beeinträchtigen“, wie etwa Nutzer, die Englisch nicht als Muttersprache erlernten.
Sie bezweifeln auch die Wirksamkeit gegen globalisierte Manipulationen, wie beispielsweise Übersetzungssysteme und Neuformulierung mit einem anderen generativen Modell, was es „für böswillige Akteure trivial macht, das System zu umgehen“.
Nach Angaben des Wall Street Journal hat OpenAI seit November 2022 diskutiert und Umfragen durchgeführt, um zu entscheiden, ob das Wasserzeichen-Tool eingesetzt werden soll.
In einer Umfrage gaben fast 30 Prozent der treuen ChatGPT-Nutzer an, dass sie den Chatbot weniger nutzen würden, wenn OpenAI Wasserzeichen einsetzt und ein Konkurrent dies nicht tut. Eine andere von OpenAI durchgeführte Umfrage ergab jedoch, dass vier von fünf Personen weltweit die Idee eines KI-Erkennungstools unterstützen.
Wasserzeichen als Werkzeug
Das Tool würde alle von ChatGPT erstellten Inhalte mit einem digitalen Stempel versehen, um den Missbrauch von KI-generierten Inhalten oder deren Verwendung zum Betrug zu erschweren. Die missbräuchliche Verwendung solcher Inhalte hat Arbeitgebern, Lehrern und Professoren große Probleme bereitet, die nach Möglichkeiten zur Eindämmung dieser Problematik gerufen haben.
Das Wall Street Journal berichtet, dass das Wasserzeichen-Tool keine sichtbaren Spuren im geschriebenen Text hinterlässt, aber wenn dieser Text von einem KI-Erkennungstool überprüft wird, wird er als KI-generierter Inhalt gekennzeichnet.
Die derzeitigen KI-Erkennungstools sind unzuverlässig und können unterschiedliche Ergebnisse liefern, was es Lehrern und Fachleuten erschwert, KI-generierte Inhalte zu erkennen.
Das KI-Gesetz
Wasserzeichen werden im Entwurf des KI-Pakts erwähnt, einer Reihe von freiwilligen Verpflichtungen, die Unternehmen eingehen können, um sich auf die Einhaltung des europäischen KI-Gesetzes vorzubereiten. Die Kommission hofft, im September eine Veranstaltung zur Unterzeichnung von Verpflichtungserklärungen abzuhalten, bei der sich Unternehmen öffentlich zum Pakt bekennen.
„Die Organisationen können sich verpflichten, […] soweit möglich, generative KI-Systeme so zu gestalten, dass KI-generierte Inhalte durch technische Lösungen wie Wasserzeichen und Metadaten-Identifikatoren gekennzeichnet sind“, heißt es in dem Paktentwurf.
Erst letzte Woche hat OpenAI öffentlich erklärt, dass es sich zur Einhaltung des KI-Gesetzes der EU verpflichtet hat, das von Anbietern generativer KI-Modelle wie ChatGPT verlangt, „sicherzustellen, dass die Ergebnisse des KI-Systems in einem maschinenlesbaren Format gekennzeichnet werden und als künstlich erzeugt oder manipuliert erkennbar sind“.
Was jedoch die Frage betrifft, wie das Wasserzeichen-Tool OpenAI bei der Einhaltung des KI-Gesetzes helfen kann, verwies ein Sprecher des Unternehmens Euractiv auf den Blogbeitrag vom 4. August.
Die Kommission hat zum Zeitpunkt der Veröffentlichung nicht auf Euractivs Anfrage nach einem Kommentar geantwortet.
[Bearbeitet von Rajnish Singh/Alice Taylor/Kjeld Neubert]
