"Umstrittenes kalifornisches KI-Gesetz kann europäisches KI-Gesetz inspirieren"

Experten sehen in einem umstrittenen kalifornischen Gesetzentwurf zur Regulierung der leistungsstärksten KI-Modelle eine Inspiration und Stärkung der KI-Regulierung in der EU. Der Gesetzentwurf stößt nun jedoch kurz vor Abschluss bei der Industrie und Politikern auf Widerstand.

Der Senatsentwurf (SB) 1047 würde vorschreiben, dass Entwickler von Modellen künstlicher Intelligenz (KI), die mit Rechenressourcen im Wert von mehr als 100 Millionen Dollar trainiert werden, einen Sicherheitsplan (SSP) befolgen und veröffentlichen müssen. Damit soll verhindert werden, dass ihre Modelle „kritische Schäden“ verursachen, die als Massenverluste oder Sachschäden von mehr als 500 Millionen Dollar definiert sind.

„Es ist ein hervorragender Gesetzentwurf“ und die EU sollte sich von diesem „inspirieren lassen“, wenn sie mit der Umsetzung vom europäischen KI-Gesetz, voranschreitet, meinte Yoshua Bengio, preisgekrönter Turing-Professor und Vorsitzender des Internationalen Expertenbeirats für fortgeschrittene KI-Sicherheit, gegenüber Euractiv.

Er lobte den Gesetzentwurf dafür, dass er „keine bestimmte Art und Weise vorschreibt, wie die KI-Sicherheit zu bewerten und abzumildern ist“, da dies ein sich entwickelnder Bereich sei, an dem Unternehmen und Akademiker noch arbeiteten.

Das KI-Büro der Europäischen Kommission habe „den kalifornischen Gesetzentwurf über das Kommissionsbüro in San Francisco genau verfolgt“ und sich im Frühsommer mit Vertretern des Senats getroffen, um „Meinungen auszutauschen und das KI-Gesetz der EU zu erläutern“, erklärte ein Kommissionsbeamter gegenüber Euractiv.

Sacramento kann Brüssel „stärken“ und „ergänzen“

Der Tech-Hotspot Kalifornien hat bereits andere Bundesstaaten mit seinem eigenen Datenschutzgesetz als Reaktion auf den festgefahrenen US-Kongress sowie mit einem von OpenAI unterstützten Gesetzesentwurf für KI-Wasserzeichen, der ebenfalls Fortschritte macht, inspiriert. Durch eine frühe Vorreiterrolle bei der KI-Regulierung könnte Kalifornien auch in diesem Bereich einen ähnlichen „Sacramento-Effekt“ hervorrufen.

Sollte SB 1047 verabschiedet werden, würde es „das Blatt der EU“ bei der Regulierung von KI stärken, indem es das Argument entkräftet, dass „Europa nur hinter US-Firmen her ist“, erklärte Pierre Larouche, Professor für Recht und Innovation an der Université de Montréal und wissenschaftlicher Mitarbeiter am Centre on Regulation in Europe (CERRE), gegenüber Euractiv.

Darüber hinaus würde der Gesetzentwurf „die Ausgleiche auf EU-Seite verringern“, meinte Simeon Campos, Experte für KI-Risikomanagement und Geschäftsführer von SaferAI, gegenüber Euractiv. Wenn die kalifornische Gesetzesvorlage bereits Kosten für die Einhaltung der Vorschriften für KI-Unternehmen verursacht, die in diesem Bundesstaat tätig sind, „wäre der Kostensprung zur Einhaltung des KI-Gesetzes geringer“, erklärte er.

Das KI-Gesetz trat am 1. August in Kraft. Das KI-Büro der EU-Kommission leitet nun einen Prozess mit mehreren Interessengruppen, um einen Verfahrenskodex für Allzweck-KI (GPAI) zu entwickeln, der detailliert beschreibt, was in der EU tätige Entwickler tun müssen, um die Verordnung einzuhalten.

„Die Transparenzanforderungen von SB 1047 sind detaillierter als die des KI-Gesetzes“, sagte Campos. Außerdem werde die in Kalifornien vorgeschriebene Entwicklung von Sicherheitsplänen „zu produktiveren Gesprächen“ bei der Ausarbeitung des EU-Verfahrenskodex führen. Diese könnten wiederum zu besseren Sicherheitsplänen führen, so Campos.

Das KI-Gesetz könnte durch den Gesetzentwurf auch in anderer Hinsicht ergänzt werden. „Die EU kann die Dimension [der nationalen Sicherheit] nicht so stark hervorheben, wie es SB 1047 tut“, sagte Larouche. Aber „wenn ich in Paris oder Berlin wäre, würde ich mir das sicher genau ansehen“, fügte er hinzu.

Heftiger Widerstand

Meta, der ChatGPT-Entwickler OpenAI und Google haben sich gegen den Gesetzentwurf ausgesprochen. In Schreiben an die Regulierungsbehörden heißt es jeweils, der Entwurf werde „die Open-Source-[KI-Entwicklung] gefährden„, „das Wachstum bedrohen“ und „KI-Innovationen aus Kalifornien vertreiben.“

SB 1047 sei „gut gemeint, aber schlecht informiert“, meinte Khara Boender, State Policy Director für Kalifornien bei der Computer and Communications Industry Association (CCIA), gegenüber Euractiv. Sie sagte, der Gesetzesentwurf „reguliere eher die Technologie als ihre Nutzung.“ Sie verglich den Ansatz damit, Telefonunternehmen für Telefonbetrug haftbar zu machen.

Die KI-Industrie ist jedoch nicht vollkommen einer Meinung. Nachdem der Gesetzentwurf viele der von ihnen vorgeschlagenen Änderungen aufgenommen hatte, erklärte das KI-Labor Anthropic letzte Woche, dass „die Vorteile des Gesetzes wahrscheinlich die Kosten überwiegen.“ Elon Musk, Geschäftsführer von xAI, schrieb am Dienstag (27. August) auf X, dass Kalifornien das Gesetz „wahrscheinlich verabschieden sollte.“

Meta, Google, Anthropic und OpenAI antworteten entweder nicht rechtzeitig zur Veröffentlichung dieses Artikels oder verwiesen auf frühere Stellungnahmen als Antwort auf Euractivs Anfrage nach Kommentaren.

Der letzte Schritt

Der kalifornische Gesetzesentwurf muss bis Sonntag (31. August) die Versammlung passieren und nach mehreren Änderungen erneut vom Senat des Bundesstaates Kalifornien genehmigt werden. Erst dann gelangt er auf den Schreibtisch von Gouverneur Gavin Newsom.

Die Demokraten im Kongress, darunter die frühere Parlamentspräsidentin Nancy Pelosi und die US-Handelskammer, bevorzugen eine Gesetzgebung auf Bundesebene. Sie forderten Newsom auf, sein Veto einzulegen, falls das Gesetz auf seinem Tisch landen sollte.

Das Gesetz hat den Senat bereits mit einer Mehrheit von 32 zu einer Stimme passiert und ist durch verschiedene Ausschussabstimmungen mit starker öffentlicher Unterstützung – 77 Prozent laut Befürwortern – durchgekommen. Daher könnte Newsom am Ende tatsächlich der entscheidende Faktor sein.

Das Veto eines Gouverneurs kann durch eine Zwei-zu-Eins-Mehrheit, die sowohl in der Versammlung als auch im Senat benötigt wird, überstimmt werden. Das ist in Kalifornien jedoch seit 1979 nicht mehr passiert.

[Bearbeitet von Martina Monti/Théophane Hartmann/Kjeld Neubert]