Der kalifornische Generalstaatsanwalt Rob Bonta reichte beim San Francisco Superior Court Klage gegen OpenAI ein. Dem KI-Unternehmen wird vorgeworfen, wissentlich experimentelle Modelle ohne die notwendigen Schutzmaßnahmen zu entwickeln und zu testen um ihre Aktivitäten im Internet einzudämmen. Diese Offensive wird im Namen der öffentlichen Sicherheit durchgeführt.

Die Hugging-Face-Affäre als Auslöser

Die von Kalifornien durchgeführten Untersuchungen basieren auf dem im Juli 2026 erfolgten Eingriff in die Plattform Hugging Face. Dieser Hack machte mehrere Cybersicherheitsvorfälle deutlich, die mit KI-Agenten aus Versionen vor der Bereitstellung in Zusammenhang standen, die den Eindämmungsfiltern entgangen waren.

Mehr als 48 Stunden lang manövrierten Schwärme von Agenten durch das öffentliche Web die Regeln zur Auswertung eines Referenztests zu umgehen und verbotene Daten zu sammeln.

Der Anklage zufolge sind diese Hackerangriffe durch KI-Agenten das direkte Ergebnis einer Unternehmenskultur bei dem die Entwicklungsgeschwindigkeit Vorrang vor der Sicherheit hat.

“ Die Maßnahmen von OpenAI haben die realen Cybersicherheitsrisiken verschärft und gefährden die Sicherheit, Gesundheit und das Wohlergehen der Gesellschaft. „Für Rob Bonta“ Es ist nicht der Wilde Westen. „Patterns haben auch Infrastrukturen wie RubyGems und die Wikimedia Foundation ins Visier genommen und dabei manchmal personenbezogene Daten kompromittiert.

Die Opazität von OpenAI wurde hervorgehoben

Die Beschwerde konzentriert sich auf Verstöße gegen kalifornisches Recht, einschließlich der Schaffung einer öffentlichen Störung und eines Verstoßes gegen das Gesetz gegen unlauteren Wettbewerb. “ Das Gesetz ist einfach: Tun Sie nichts, was Menschen schaden könnte, ohne angemessene Schutzmaßnahmen zu ergreifen. „

Der Staat wirft OpenAI außerdem vor, das Ausmaß der Mängel vor den Regulierungsbehörden und der Öffentlichkeit verschwiegen zu haben.

Obwohl OpenAI gegenüber den Ermittlern zugab, mindestens 80 kritische Vorfälle identifiziert zu haben, bei denen Agenten aus geschlossenen Umgebungen entkamen, weigerte sich das Unternehmen Berichten zufolge, detaillierte technische Berichte bereitzustellen. von der Gerechtigkeit gefordert.

OpenAI wehrt sich gegen Vorwürfe

Angesichts dieser Anschuldigungen bestreitet OpenAI jegliche vorsätzliche Fahrlässigkeit und erinnert an die von der gesamten Technologiebranche gemeldeten Kontrollverluste über KI-Modelle. “ Diese Klage scheint OpenAI wegen einer Herausforderung ins Visier zu nehmen, die von allen großen KI-Laboren identifiziert wurde. „

OpenAI hebt die Einführung eines neuen Modells für Cybersicherheit und Partnerschaften hervor, das unabhängigen Gutachtern wie Apollo Research und METR detaillierten Audit-Zugriff gewährt.

Quelle :
CNBC