Anthropic schlägt erneut Alarm. Seiner Forschung zufolge handelt es sich um kleine KI-Modelle sind nur noch wenige Monate davon entfernt, sich autonom auf IoT-Geräten (Internet of Things) wie Android-TV-Boxen, intelligenten Öfen oder Kühlschränken zu replizieren.

Diese neue Form von Malware wird mit einem KI-Wurm verglichenkönnte sich ohne menschliches Eingreifen ausbreiten und dezentrale Netzwerke schaffen, die schwer einzudämmen sind. Anthropic spricht sogar von Lebenszeichen für KI-Würmer.

Wie wäre eine solche Replikation möglich?

Das Prinzip basiert auf der Ausnutzung der gebündelten Rechenleistung einer Vielzahl von Verbrauchergeräten, die oft schlecht abgesichert sind.

Anthropic erklärt, dass selbstreplizierende KI in erster Linie auf Heim-IoT-Geräte abzielen würde und kleine Unternehmen, da sie mit dem Internet verbunden sind und in der Vergangenheit nur über minimale Sicherheitsmaßnahmen verfügen. Ein Modell, das für ein einzelnes Gerät zu groß ist, könnte in Einzelteile zerlegt und auf mehreren vernetzten Geräten ausgeführt werden.

Die durchgeführten Experimente haben gezeigt, dass Modelle mit weniger als 30 Milliarden Parametern bereits in der Lage sind, viele der für die Replikation notwendigen Schritte durchzuführen. Während aktuelle Modelle immer noch Schwierigkeiten haben, den gesamten Prozess abzuschließen, haben Tests gezeigt, dass Modelle wie GLM-5.2 in vereinfachten Umgebungen erfolgreich sind..

Anthropic schätzt, dass kleine Modelle, wenn sie sich weiterhin im aktuellen Tempo weiterentwickeln, bis Ende dieses Jahres diese vollständige Fähigkeit zur autonomen Replikation erreichen könnten.

Anthropic macht weiterhin Angst

Im Gegensatz zu herkömmlicher Malware, die oft auf eine bestimmte Art von Hardware oder Software abzielt, könnte sich bösartige KI anpassen.

Die große Gefahr dieser KI-Würmer läge in ihrer Fähigkeit, unbekannte Geräte selbstständig zu verstehen, was zu einer viel größeren und unvorhersehbaren Verbreitung führen würde. Aufgrund ihrer dezentralen Natur wären sie schwer zu stoppen und jedes infizierte Gerät könnte wiederum zu einem Ausbreitungspunkt werden.

Über den Rahmen seiner Experimente hinaus erwartet Anthropic „ Eine Zukunft voller Agenten, die auf allen Arten von Hardware laufen, darunter auch einige, die nicht unter menschlicher Kontrolle stehen „. Die Verbreitung langsamer Replikatoren könnte nur ein Vorgeschmack auf größere und schnellere Bedrohungen sein.

“ Wir sollten versuchen, unsere Systeme zu härten, um die Verbreitung solcher Replikatoren zu verhindern, und uns gleichzeitig auf eine Welt vorbereiten, in der sie bleiben werden. „