EU-Kommission veröffentlicht interne Leitlinien zu ChatGPT
Die Europäische Kommission hat am Dienstag (30. Mai) interne Leitlinien für Mitarbeiter zur Nutzung und Interaktion mit online verfügbaren generativen KI-Modellen herausgegeben und dabei insbesondere auf deren Grenzen und Risiken eingegangen.
Die Europäische Kommission hat am Dienstag (30. Mai) interne Leitlinien für Mitarbeiter zur Nutzung und Interaktion mit online verfügbaren generativen KI-Modellen herausgegeben und dabei insbesondere auf deren Grenzen und Risiken eingegangen.
Das Dokument „Guidelines for staff on the use of online available generative Artificial Intelligences tools“ und die dazugehörige Notiz, die EURACTIV einsehen konnte, wurden im internen Informationssystem der Kommission zur Verfügung gestellt.
Der Lenkungsausschuss für Informationsmanagement der Kommission hat die Leitlinien am 27. April angenommen.
„Die Leitlinien beziehen sich auf öffentlich zugängliche Tools von Drittanbietern, wie beispielsweise ChatGPT. Sie sollen den Mitarbeitern der Europäischen Kommission dabei helfen, die Risiken und Einschränkungen zu verstehen, die online verfügbare Tools mit sich bringen können, und sie bei der angemessenen Nutzung dieser Tools unterstützen“, heißt es in der Begleitnotiz.
Insbesondere soll das Dokument die Mitarbeiter beim Umgang mit den Risiken und Grenzen von generativer KI wie ChatGPT, Bard und Stable Diffusion unterstützen, die Inhalte auf der Grundlage von Benutzeranweisungen generieren.
Die Kommission stellt fest, dass diese Tools das Potenzial haben, die Effizienz zu steigern und die Qualität der Produktivität in den Büros zu verbessern. Denn sie können dabei helfen, Briefings zu schreiben und Computercode zu entwickeln.
In den Leitlinien wird darauf hingewiesen, dass die „erörterten Risiken und Einschränkungen nicht unbedingt für intern entwickelte generative KI-Tools der Kommission relevant sind. Interne Tools, die von der Kommission entwickelt und/oder kontrolliert werden, werden von Fall zu Fall im Rahmen der bestehenden Corporate Governance für IT-Systeme bewertet.“
Darüber hinaus wird betont, dass es sich um ein „lebendes Dokument“ handelt, das auf der Grundlage technologischer Entwicklungen und neuer gesetzlicher Regelungen, insbesondere des KI-Gesetzes der EU, auf dem neuesten Stand gehalten werden sollte.
Das erste skizzierte Risiko ist die Offenlegung sensibler Informationen oder persönlicher Daten für die Öffentlichkeit, da die Leitlinien darauf hinweisen, dass alle Eingaben, die einem generativen Online-KI-Modell zur Verfügung gestellt werden, an den KI-Anbieter übermittelt werden, was bedeutet, dass sie anschließend in zukünftige generierte Ergebnisse einfließen können.
Daher ist es den EU-Mitarbeitern untersagt, „Informationen, die nicht bereits öffentlich zugänglich sind, oder personenbezogene Daten mit einem online verfügbaren generativen KI-Modell zu teilen.“
Der zweite Punkt bezieht sich auf die potenziellen Mängel des KI-Modells, die aufgrund eines unvollständigen Datensatzes oder des Designs des Algorithmus, über das die KI-Entwickler nicht immer transparent sind, zu falschen oder verzerrten Antworten führen könnten.
Die Regel lautet daher, dass EU-Beamte „jede Antwort, die von einem online verfügbaren generativen KI-Modell erzeugt wird, stets kritisch auf mögliche Verzerrungen und sachlich ungenaue Informationen prüfen sollten.“
Darüber hinaus fügt das Dokument hinzu, dass dieser Mangel an Transparenz auch das Risiko einer Verletzung der Rechte des geistigen Eigentums, insbesondere des Urheberrechts, birgt, da geschützte Inhalte zum Trainieren des KI-Modells verwendet werden könnten. Da in den erzeugten Ergebnissen das verwendete Material nicht genannt wird, ist es für die Nutzer fast unmöglich, die erforderliche Genehmigung von den Rechteinhabern zu erhalten.
Daher werden die Mitarbeiter aufgefordert, stets kritisch zu prüfen, ob der von der KI erzeugte Output die Rechte des geistigen Eigentums und insbesondere das Urheberrecht verletzt, und „den Output eines generativen KI-Modells niemals direkt in öffentlichen Dokumenten zu reproduzieren, wie etwa bei der Erstellung von Kommissionstexten, insbesondere von rechtsverbindlichen Texten.“
Schließlich wird in dem Dokument betont, dass generative KI-Modelle eine lange Reaktionszeit haben oder nicht immer verfügbar sein können. Daher ist es den Mitarbeitern der Kommission untersagt, sich bei kritischen und zeitkritischen Aufgaben auf diese Werkzeuge zu verlassen.
[Bearbeitet von Alice Taylor]
