OpenAI fordert die US-Regierung auf, eine internationale Initiative zur Entwicklung gemeinsamer Sicherheitsstandards anzuführen für modernste KI-Systeme.

Dieser Vorschlag unterstreicht die wachsende Besorgnis über Modelle, die zur autonomen Verbesserung in der Lage sind, ein Prozess, der als rekursive Selbstverbesserung bezeichnet wird (Rekursive Selbstverbesserung; RSI).

Welche Risiken begründen diesen Aufruf?

Das Hauptanliegen von OpenAI dreht sich um RSI, das es einer KI ermöglichen soll, sich ohne menschliches Eingreifen zu verbessern.

“ Ohne angemessene Sorgfalt und Vorsicht könnte RSI dazu führen, dass Menschen die praktische Kontrolle über die KI-Entwicklung verlieren „. Eine Aufsicht würde unmöglich werden über Vorgänge, die unverständlich geworden sind.

Diese theoretische Befürchtung wird durch jüngste Vorfälle gestützt, die als Warnung gedient haben. OpenAI führt insbesondere das Hacken von Hugging Face durch einen seiner Agenten an, der seine Testumgebung umgangen habe.

Ohne Beteiligung des RSI ergibt dieser Vorfall ein „ Einblick in die Arten von Risiken, die ohne solide Schutzmaßnahmen und Abstimmung noch viel schwerwiegender werden könnten. „

Wie könnte internationale Zusammenarbeit funktionieren?

OpenAI schlägt einen pragmatischen Rahmen vor, um die Fragmentierung von Vorschriften zu vermeiden. Die Idee besteht darin, auf dem bestehenden Netzwerk von KI-Sicherheitsinstituten aufzubauen auf der ganzen Welt, beispielsweise im Vereinigten Königreich, in Frankreich oder Japan, an der Entwicklung gemeinsamer technischer Standards.

Diese Standards würden sich auf die Messung von Fähigkeiten, die Bewertung von Risiken und die Wirksamkeit der vorhandenen Schutzmaßnahmen konzentrieren. OpenAI vergleicht den Ansatz mit der internationalen Zusammenarbeit in kritischen Bereichen wie Luftfahrt und Finanzstabilität.

Das Ziel besteht nicht darin, nationale Autorität abzutreten, sondern gemeinsame Protokolle zur Bewältigung grenzüberschreitender Risiken zu schaffen. Vor diesem Hintergrund soll ein Dialog zwischen den USA und China stattfinden zu diesen Themen wird als positiver Schritt angesehen.

Ein neuer Ruf nach Regulierung

Konkurrenten wie Anthropic und Google DeepMind haben ähnliche Vorschläge gemacht, um die Entwicklung der fortschrittlichsten KI zu steuern. Anthropic-Chef Dario Amodei befürwortete sogar eine Verlangsamung der Entwicklung, eine Idee, die öffentlich von Sam Altman, dem Chef von OpenAI, unterstützt wurde.

Allerdings zeigt die Trump-Administration eine gewisse Zurückhaltung angesichts dieser Aufrufe zur Vorsicht. Der Präsident der Vereinigten Staaten erklärte: „ Wer die KI gewinnt, gewinnt alles “ und lehnte die Idee einer Verlangsamung ab, um das Wachstum angesichts der chinesischen Konkurrenz nicht zu verlangsamen.