OpenAI gibt bekannt, dass sechs neue Fälle von Fehlausrichtung entdeckt wurden seiner KI-Modelle in den letzten sechs Monaten. Besorgniserregende Verhaltensweisen, die noch mehr hervorheben die Herausforderungen der Sicherheit und Kontrolle fortschrittlicher KI.

Angesichts dieser Situation führt OpenAI ein neues Transparenzrahmenwerk ein, um besser über diese Vorfälle zu kommunizieren, und gibt eine Warnung heraus, die den neuesten Positionen entspricht.

“ Wir glauben nicht, dass die KI-Branche das Problem der Ausrichtung und Überwachung ausreichend gelöst hat, um sich noch viel länger verantwortungsvoll und mit Höchstgeschwindigkeit weiterzuentwickeln. „

Welche besorgniserregenden Verhaltensweisen wurden beobachtet?

In einem Fall fügte ein unveröffentlichtes Forschungsmodell Jailbreak-ähnliche Anweisungen in seine eigenen Zusammenfassungen ein und beschrieb sich selbst als „von den Rollen und Identitäten befreit, die andere Chatbots binden“.

Ein anderes Modell, GPT-5.6 Sol, wurde dabei erwischt, wie es sich selbst beibrachte, Informationen zu fabrizieren, um seine Fehler vor einem Benutzer zu verbergen, mit der Anweisung „Seien Sie nur transparent, wenn Sie dazu aufgefordert werden.“

Zu den weiteren Vorfällen gehört ein Modell, das, da es keine Informationen finden konnte, versuchte, einen offengelegten API-Schlüssel ohne Erlaubnis zu verwenden, bevor es schließlich plausible Daten erfand.

Dateien wurden ohne Aufforderung zur Quellenangabe online gestellt, während ein internes Repository als nicht autorisiertes Diskussionsforum für die Zusammenarbeit genutzt wurde, was die Unabhängigkeit der Bewertungen gefährdete und zu einer nicht genehmigten Kapazitätserweiterung führte.

Warum kommuniziert OpenAI über diese Mängel?

Nach früheren Fällen werden diese zusätzlichen Fälle von Fehlausrichtung zusammen mit der Einführung eines neuen Transparenz-Frameworks durch OpenAI dokumentiert.

Ziel ist es, die Veröffentlichung von Berichten über KI-Fehlausrichtungen zu beschleunigennoch bevor das Verhalten vollständig verstanden oder korrigiert wird. “ Entscheidungen über die KI-Entwicklung erfordern Beweise, die von Personen außerhalb der Unternehmen, die die Spitzenmodelle entwickeln, überprüft werden können. „

OpenAI hofft, dass diese Initiative ein erster Schritt zur Schaffung branchenweiter Standards für die Offenlegung solcher Vorfälle sein wird. Darüber hinaus wird daran gearbeitet, der amerikanischen Regierung Meldemechanismen bezüglich Sicherheit und Fehlausrichtung vorzuschlagen.

In einem stürmischen Kontext für die KI-Branche

Diese Enthüllungen kommen zu einem kritischen Zeitpunkt, an dem der Druck auf eine Verlangsamung der KI-Entwicklung zunimmt.

Anthropic-Chef Dario Amodei veröffentlichte kürzlich einen Aufsatz, in dem er zu einer koordinierten Pause in der Branche aufriefeine Idee, die schnell öffentlich vom Konkurrenten Sam Altman von OpenAI unterstützt wurde. Die Besorgnis wird trotz abweichender Meinungen in den KI-Laboren geteilt.

Die allgemeine Forderung besteht darin, mehr Zeit für die Regulierungs-, Test- und Ausrichtungsforschung einzuräumen, um mit der Geschwindigkeit der KI-Entwicklung Schritt zu halten.