Eine von wichtigen Persönlichkeiten der KI unterzeichnete Petition, darunter der Chef von Anthropic und der wissenschaftliche Direktor von OpenAI, richtete sich an die amerikanische Regierung. Sie fordert ihn dringend auf, die Schaffung internationaler Governance-Instrumente zur gezielten Regulierung zu unterstützen Fortschritte in der Entwicklung automatisierter KI. In diesem Fall für hochmoderne Modelle.

Die Petition bringt mehr als 1.100 Mitarbeiter von Gruppen wie Anthropic, Amazon, Google, Meta, Microsoft und OpenAI zusammen. Sie drückt die Angst vor Kontrollverlust aus angesichts zunehmend autonomer Systeme. Dieser Konsens ist bemerkenswert in einer Branche, die von hartem Wettbewerb geprägt ist.

Warum jetzt diese Forderung nach einer Entschleunigung?

Der Zeitpunkt dieser Petition und dieses offenen Briefes ist nicht unerheblich. Dies steht in direktem Zusammenhang mit der wachsenden Sorge, dass die KI ein Stadium der rekursiven Selbstverbesserung erreichen wirdwo die Modelle in der Lage wären, ihre eigenen, effizienteren Nachfolger selbst zu entwerfen.

Die Unterzeichner warnen, dass es „ Es besteht ein echtes Risiko, dass sich die Kapazitätsentwicklung rasch beschleunigt und unsere Kapazitäten übersteigt die resultierenden Systeme zu verstehen oder zu kontrollieren „.

Führende Unternehmen der Branche sagen, sie könnten einer automatisierten KI-Forschung nahe sein, die menschliche Kontrollen überflüssig und möglicherweise unwirksam machen würde.

Der Cybersicherheitsvorfall mit OpenAI und Hugging Face diente als Katalysator. Es zeigte sich, dass selbst in geschlossenen Systemen Schwachstellen gefunden werden können, was die Dringlichkeit der Entwicklung robusterer Sicherheitsmaßnahmen unterstreicht, bevor ein hektischer Wettlauf um die Macht fortgesetzt wird.

Die Petition verdeutlicht den starken Wettbewerbsdruck Dies zwingt jedes Unternehmen und jedes Land zur Beschleunigung und macht einseitige Maßnahmen zur kommerziellen Verlangsamung ohne einen globalen Regulierungsrahmen unmöglich.

In Fortsetzung der aktuellen Diskussionen

Dieser Ansatz steht im Einklang mit den jüngsten Forderungen mehrerer Branchenführer. Dario Amodei (Anthropic), Sam Altman (OpenAI) und Demis Hassabis (Google DeepMind) haben sich alle zuvor für eine Art internationales Überwachungsgremium ausgesprochen.

Die Vorschläge variieren und reichen von einer unabhängigen Agentur, die die Veröffentlichung von als gefährlich eingestuften Modellen stoppen kann, bis hin zu einem freiwilligen, dann obligatorischen Überprüfungssystem.

Ziel der Petition ist es, die Diskussionen in konkrete politische Maßnahmen umzuwandeln, die daher von den Vereinigten Staaten geleitet werden.

Ein Schuss ins Ungewisse?

Wenn die Meinung von Experten laut wird, bleibt der Weg zu einer wirksamen Regulierung mit Fallstricken gespickt. Die Etablierung einer koordinierten internationalen Governance ist von Natur aus ein langer und komplexer Prozess, auch wenn der technologische Fortschritt exponentiell zunimmt.

Genug, um mehr als einen Beobachter skeptisch zu machen, zumal frühere offene Briefe keine wirkliche politische Wirkung hatten. Allerdings hat die Regierung der Vereinigten Staaten bereits Interventionismus gezeigt, indem sie die Veröffentlichung bestimmter Modelle aus Gründen der nationalen Sicherheit verzögerte.