Die Hugging Face AI-Plattform berichtet, das Ziel eines raffinierten Cyberangriffs gewesen zu sein. Der Cybersicherheitsvorfall zeichnet sich durch seine Funktionsweise aus: Er wurde durchgängig von einem autonomen KI-Agentensystem ausgeführt.

Der Angriff ermöglichte unbefugten Zugriff auf ein „ begrenzter Satz interner Datensätze und mehrere Anmeldeinformationen, die von unseren Diensten verwendet werden. „Hugging Face hat keine Hinweise auf eine Manipulation öffentlicher Modelle gefunden.

Wie kam es zu dem Angriff?

Der Angriff begann mit einer Schwachstelle der KI-Plattformen: der Datenverarbeitungskette.

Ein bösartiger Datensatz missbrauchte zwei Code-Ausführungspfade, um einzudringen. Einmal drinnen, war der Angreifer in der Lage, Privilegien zu erweitern, Cloud-Anmeldeinformationen zu sammeln und sich im Laufe eines Wochenendes seitlich über mehrere interne Cluster hinweg zu bewegen.

Die Operation wurde von dem durchgeführt, was Hugging Face als „ Schwarm vergänglicher Sandkästen „, der Tausende einzelner Aktionen ausführt. Dieses Agenten-Angreifer-Szenario war bis dahin hauptsächlich theoretisch.

Die anfängliche Schwachstelle wurde behoben und Hugging Face hat seine Sicherheitskontrollen verstärkt und Benutzern gleichzeitig empfohlen, ihre Zugriffstoken zu erneuern.

Ein unerwartetes Hindernis für die Verteidigung

Die Reaktion auf den Vorfall war eine große Überraschung. Um die mehr als 17.000 aufgezeichneten Ereignisse zu analysieren, versuchte das Sicherheitsteam zunächst, modernste Modelle hinter kommerziellen APIs zu nutzen.

Diese Versuche schlugen jedoch fehl, da Anfragen, die echte Angriffsbefehle und Exploit-Payloads enthielten, systematisch durch Sicherheitsleitplanken blockiert wurden. dieser Modelle.

Diese Sicherheitssysteme sollen böswillige Nutzung verhindern. kann nicht zwischen einem Incident Responder und einem Angreifer unterscheiden „.

Diese Situation hat eine kritische Asymmetrie deutlich gemacht : Der Angreifer war an keine Nutzungsrichtlinien gebunden, während die Verteidiger durch die Schutzmaßnahmen der Tools, die sie einzusetzen versuchten, behindert wurden.

Welche Lösung ermöglichte eine forensische Analyse?

Das Hugging Face-Team wurde von westlichen Vorbildern blockiert und wandte sich einer Alternative zu: GLM 5.2ein vom chinesischen Labor Z.ai entwickeltes Modell mit offenem Gewicht.

Durch den Betrieb auf seiner eigenen Infrastruktur war Hugging Face in der Lage, Blockaden zu umgehen und Angriffsprotokolle innerhalb weniger Stunden zu analysieren, eine Aufgabe, die normalerweise Tage gedauert hätte.

Angesichts dieser Wendung in der Cybersicherheit empfiehlt Hugging Face: „ Sie verfügen über ein leistungsstarkes, validiertes und betriebsbereites Modell, das Sie vor einem Vorfall auf Ihrer eigenen Infrastruktur ausführen können. „

Dies hilft nicht nur, Blockaden zu verhindern, sondern stellt auch sicher, dass sensible Daten des Angriffs die sichere Umgebung des Unternehmens nicht verlassen.