Sam Altman von OpenAI wird nächste Woche vor dem UN-Sicherheitsrat berichten
Die Bedenken hinsichtlich der KI-Sicherheit haben zugenommen, da Mitarbeiter großer Entwicklerunternehmen aufgrund der mit dieser Technologie verbundenen Risiken gekündigt haben
OpenAI-CEO Sam Altman wird nächste Woche im Rahmen des jährlichen Treffens der Staats- und Regierungschefs der Welt zur UN-Generalversammlung vor dem Sicherheitsrat der Vereinten Nationen sprechen, teilte das Unternehmen am Freitag mit.
Das Treffen wird von Frankreich organisiert, das derzeit den rotierenden Vorsitz im 15-köpfigen Sicherheitsrat innehat, und findet zu einem Zeitpunkt statt, an dem wichtige Akteure der Branche erklärt haben, dass aus Sicherheitsgründen eine Verlangsamung der KI-Entwicklung notwendig sein könnte.
UN-Generalsekretär Antonio Guterres forderte am Mittwoch koordinierte internationale Maßnahmen zur Bewältigung der KI-Risiken, da die Befürchtungen hinsichtlich der Gefahren dieser sich rasant entwickelnden Technologie zunehmen.
„Nationale Maßnahmen sind unerlässlich. Aber auch eine globale Koordination ist unverzichtbar“, sagte Guterres gegenüber Reportern.
Die Bedenken hinsichtlich der Sicherheit von KI haben in den letzten Wochen zugenommen, wobei Mitarbeiter großer KI-Entwickler aus Sorge um die von der Technologie ausgehenden Gefahren gekündigt haben.
Dario Amodei, Geschäftsführer von Anthropic, veröffentlichte kurz darauf einen Essay, in dem er zur Vorsicht mahnte. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schrieb er.
Altman und der Tech-Gigant Elon Musk unterstützten diesen Gedanken, ebenso wie Demis Hassabis von Google DeepMind, der selbst eine von den USA geführte globale Regulierungsbehörde für diese Technologie gefordert hat.
Präsident Donald Trump hat Warnungen vor KI-Risiken als „Schwindel“ abgetan und sich gegen Forderungen nach einer strengeren Aufsicht gewehrt.
(mm)
