US-KI-Riesen finden es offenbar in Ordnung, dass ihre Technologie zur Überwachung von Europäern eingesetzt wird

Die US-amerikanischen KI-Giganten OpenAI und Anthropic scheinen sich laut jüngsten öffentlichen Äußerungen nicht daran zu stören, dass ihre Technologien zur Massenüberwachung von Nicht-Amerikanern, darunter auch Europäern, eingesetzt werden.

Die Kommentare wurden im Zusammenhang mit einem Streit zwischen Anthropic – das sich als das ethischste der großen KI-Labore positioniert hat, dessen Gründer OpenAI aus Sicherheitsbedenken verlassen haben – und dem US-Verteidigungsministerium oder dem „Kriegsministerium“, wie Präsident Donald Trump es lieber nennt, abgegeben.

Der Chatbot Claude von Anthropic wird vom US-Militär häufig als Entscheidungshilfe eingesetzt, zuletzt bei dem Angriff auf den Iran am Samstag. In den jüngsten Vertragsverhandlungen mit dem Verteidigungsministerium hielt das Unternehmen jedoch an einer angeblichen roten Linie fest und verlangte die Zusicherung, dass seine Modelle nicht für die Massenüberwachung im Inland oder zur Steuerung vollautonomer Waffen verwendet werden.

Die Gespräche sollen letzte Woche gescheitert sein. Am Freitag kündigte US-Verteidigungsminister Pete Hegseth nicht nur die Verträge seines Ministeriums mit Anthropic, sondern stufte den „Large Language Model“ (LLM)-Hersteller auch als Risiko für die Lieferkette ein – was bedeutet, dass andere Unternehmen Anthropic nicht mehr nutzen können, wenn sie an Projekten mit dem US-Militär arbeiten.

Das ist eine sehr strenge Beschränkung, die normalerweise Unternehmen aus Ländern wie China vorbehalten ist. In diesem Fall scheint der Grund für diese harte Grenze die Abneigung der Trump-Regierung gegen ein Unternehmen zu sein, das sie als voller „woke“ Liberaler wahrnimmt.

Europäer sind keine Amerikaner!

Was jedoch den Einsatz von KI zur Spionage angeht, betrafen die von Anthropic geforderten Sicherheitsvorkehrungen nur die Massenüberwachung im Inland – das Unternehmen hatte keine Einwände gegen die rechtmäßige Massenüberwachung von Nicht-Amerikanern, einschließlich Europäern.

„Wir unterstützen den Einsatz von KI für rechtmäßige ausländische Geheimdienst- und Spionageabwehrmissionen”, schrieb Dario Amodei, CEO von Anthropic, letzte Woche. „Die Verwendung dieser Systeme für die Massenüberwachung im Inland ist jedoch mit demokratischen Werten unvereinbar.”

Am Samstag gab OpenAI bekannt, dass es eingeschritten sei und eine Vereinbarung mit dem Verteidigungsministerium getroffen habe – das seiner Meinung nach bessere Sicherheitsvorkehrungen als Anthropic getroffen habe. Was die Überwachung angeht, konzentrieren sich die Sicherheitsvorkehrungen von OpenAI jedoch ebenfalls ausschließlich auf US-Bürger.

„Das KI-System darf nicht für die uneingeschränkte Überwachung der privaten Daten von US-Bürgern im Einklang mit diesen Befugnissen verwendet werden“, heißt es in einem Auszug aus dem Vertrag zwischen OpenAI und dem Verteidigungsministerium, der in einem Blogbeitrag auf der Website des KI-Entwicklers veröffentlicht wurde.

Weitere Sicherheitsvorkehrungen hinzufügen

Nach einigen negativen Reaktionen im Inland schrieb Sam Altman, CEO von OpenAI, am Dienstag, dass das Unternehmen seinen Vertrag mit dem Ministerium ändern werde, um weitere Sicherheitsvorkehrungen hinzuzufügen, die verhindern sollen, dass sein KI-System für die „inländische Überwachung von US-Bürgern und Staatsangehörigen“ verwendet wird.

Altman schrieb auch, dass OpenAI die Zusicherung erhalten habe, dass seine Dienste nicht von US-Geheimdiensten unter dem Verteidigungsministerium, wie beispielsweise der National Security Agency, genutzt werden würden.

Zwar ist KI nicht das einzige Instrument, mit dem personenbezogene Daten zusammengetragen werden können, um detaillierte Profile von Personen zu erstellen, doch Robin Staab, der an der ETH Zürich in der Schweiz zu KI und Datenschutz forscht, weist darauf hin, dass moderne KI-Systeme diese Aufgabe viel kostengünstiger erledigen können als weniger fortschrittliche Ansätze.

„Man bekommt es für ein Hundertstel – ein Tausendstel – der finanziellen und zeitlichen Investition oder sogar noch weniger“, sagte er gegenüber Euractiv.

Staab ist auch nicht davon überzeugt, dass es technisch möglich ist, KI-Modelle so zu trainieren, dass sie nicht für die Massenüberwachung eingesetzt werden, insbesondere weil sie dafür entwickelt wurden, Daten logisch zu kombinieren. Technische Sicherheitsvorkehrungen würden jemanden, der motiviert ist, ein KI-Tool für die Massenüberwachung einzusetzen, auch nicht davon abhalten, genau das zu tun, warnte Staab.

Es können die Bedingungen der EU gelten

Natürlich bedeutet die grundsätzliche Zustimmung von Anthropic oder OpenAI, dass die US-Regierung ihre KI-Modelle für die Massenüberwachung von Nicht-Amerikanern einsetzen darf, nicht zwangsläufig, dass eine US-Behörde dies auch tut.

Es gibt auch einige Regeln darüber, wie die USA die Daten von Europäern verwenden dürfen. Insbesondere das EU-US-Datenschutzrahmenwerk (DPF) schafft Verpflichtungen für teilnehmende US-Organisationen, die personenbezogene Daten von EU-Bürgern verarbeiten, wenn diese in die Vereinigten Staaten übertragen werden.

Frühere hochrangige transatlantische Datenübertragungsabkommen scheiterten jedoch gerade wegen der Massenüberwachungsprogramme der USA, die sich gegen Nicht-Amerikaner richteten. Zwar gibt es im Rahmen des DPF Spielraum für US-Geheimdienste, auf Daten von EU-Bürgern zuzugreifen, doch soll ein im Rahmenwerk enthaltener Beschwerdemechanismus für gegenseitige Kontrollen sorgen, dessen Wirksamkeit jedoch umstritten ist.

Max Schrems – ein prominenter europäischer Datenschutzaktivist, dessen Klagen die früheren EU-US-Transferabkommen vor Gericht zu Fall gebracht haben – glaubt nicht, dass diese Abkommen einen ausreichenden Schutz vor KI-Überwachung bieten. „Wenn man kein US-Bürger ist, ist fast alles möglich, solange die Daten ‚für die internationalen Beziehungen der USA relevant‘ sind“, sagte Schrems gegenüber Euractiv.

Weitere Datenabkommen in Vorbereitung

Es gibt auch bereits Abkommen, in deren Rahmen US-Behörden bestimmte Daten über Europäer erhalten, darunter Daten zu ihren Flugreisen oder Finanztransaktionen. Diese Abkommen zielen in erster Linie auf die Terrorismusbekämpfung ab.

Die EU und die USA diskutieren derzeit auch ein neues Abkommen, das die Übermittlung sensibler Daten über europäische Reisende an die Vereinigten Staaten vorsieht, was unter bestimmten Umständen automatisierte Entscheidungen – möglicherweise unter Einsatz von KI – ermöglichen könnte.

Euractiv wandte sich an Anthropic, OpenAI und die US-Vertretung in Brüssel, um sich nach der Verwendung von KI zur Massenüberwachung von Europäern und den dafür geltenden Regeln zu erkundigen, aber zum Zeitpunkt der Veröffentlichung hatte noch keiner der Adressaten geantwortet.

(nl, aw)