In San Francisco hat das junge Unternehmen Exin Therapeutics unter der Leitung des Oxford-Doktoranden Gabriel Ocana-Santero einen einzigartigen experimentellen Schritt unternommen. Sein Team überließ die Steuerung eines motorisierten chirurgischen Geräts einem autonomen Agenten zur Behandlung eines Nagetiers. Ziel war es, die neurologischen Anfälle des Tieres zu reduzieren, indem das Computermodell direkt mit Laborinstrumenten verbunden wurde, ohne dass der Mensch Entscheidungen über das medizinische Protokoll treffen musste.

Wie hat dieses autonome Modell diese heikle Operation geplant und durchgeführt?

Alles beginnt mit einer einfachen Tabelle mit neunzehn Gentherapieoptionen zur Behandlung einer an Epilepsie leidenden Maus. Kein Mensch diktierte, was zu tun war. Der Wirkstoff durchsuchte die wissenschaftliche Literatur, schloss einen Gehirnbereich aus, der in einer früheren Studie als zu unzuverlässig erachtet wurde, und wählte dann eine Verbindung aus, die auf einen bestimmten inhibitorischen Signalweg abzielt. Um die Nadel zu führen, verglich das System drei Forschungsartikel mit Querverweisen, um einen Durchschnitt stereotaktischer Koordinaten zu berechnen (ein millimetergenaues dreidimensionales Verfolgungssystem, das zum Zielen auf tiefe Strukturen im Gehirn verwendet wird). Anschließend stellte er die Injektionsgeschwindigkeit und das Injektionsvolumen auf genau 250 Nanoliter ein.

Nachdem ein Tierarzt die erste Kraniotomie durchgeführt hatte, um den Bereich freizulegen, übernahm die Maschine die Gehirnoperation streng genommen. Die motorisierten Arme wurden aktiviert. Der Algorithmus scannte das Operationsfeld mit einer speziellen Kamera und sammelte in Echtzeit zweiunddreißig visuelle Beobachtungen, um die geringste Blutung oder den geringsten Flüssigkeitsrückfluss zu verfolgen.

Warum weigerten sich die fortschrittlichsten Modelle, das Meerschweinchen anzufassen?

Hier wird die Erfahrung zu einem philosophischen Rätsel für Anthropic-Ingenieure. Das Team wollte zunächst Claude Opus 5.5 mobilisieren, das Flaggschiff des Unternehmens, das für schwere Überlegungen entwickelt wurde. Doch sie stießen auf eine kategorische Ablehnung seitens der Maschine. Das große Sprachmodell erkannte eine biologische Manipulation an einem Lebewesen und blockierte die Ausführung. Sogar sein Vorgänger Opus 5 hatte zwar zugestimmt, den theoretischen Plan auszuarbeiten, bremste jedoch ab, als es an der Zeit war, Maßnahmen zu ergreifen, und argumentierte, dass das Risiko, auf halbem Weg mit einer Nadel in einem betäubten Tier stecken zu bleiben, größer sei, als nichts zu versuchen..

Um für den Betrieb grünes Licht zu erhalten, mussten wir auf Claude Sonnet 5 zurückgreifen, eine für alltägliche Aufgaben konzipierte Variante. Diese algorithmische Zurückhaltung veranschaulicht ein faszinierendes Paradoxon der künstlichen Intelligenz modern: Je mehr ein Modell an Analysekapazität gewinntdesto größer ist die Gefahr, dass seine moralischen Schutzmaßnahmen die angewandte Forschung lahmlegen.

Welche technischen und ethischen Hindernisse bremsen diese Automatisierung der Labore noch?

Der Vorgang, der normalerweise 45 Minuten dauert, wurde aufgrund einer unerwarteten Computerblockade abgelaufen. Eine Verbindungsunterbrechung und eine vorherige manuelle Justierung hatten die Kalibrierung der Motoren verfälscht. Agent Sonnet bemerkte sofort, dass sich das Ziel außerhalb seiner physischen Reichweite bewegte und weigerte sich, trotz dreier Wiederbelebungsversuche vorzurücken. Aufgrund seiner Sicherheitsvorschriften war es ihm strengstens untersagt, seinen eigenen Code zu ändern, um die Situation zu korrigieren. Die Forscher mussten es austricksen, indem sie eine separate Instanz von Opus 5 aufforderten, den fehlerhaften Code neu zu schreibenwobei er darauf achtete, vor ihm zu verbergen, dass eine Operation an einem lebenden Tier im Gange war.

Nagetierbetrieb Claude Anthropic_01

Obwohl es dem Nagetier mittlerweile wunderbar geht und es in seinem Käfig herumtollt, wirft dieser Ansatz ernsthafte klinische Bedenken auf. Der Tierarzt hatte auf jeden Fall einen physischen Not-Aus-Knopf in der Hand die Stromversorgung der Motoren bei jedem irreversiblen Schritt zu unterbrechen, aber die Verwässerung der Verantwortlichkeiten beunruhigt Ethiker, insbesondere da die Integration von Algorithmen in die Nasennebenhöhlenchirurgie die Dysfunktionsraten in letzter Zeit um das Zwölffache erhöht hat. Das Unternehmen plant bereits, Grok zu testen und die Kraniotomie selbst zu automatisieren, da das menschliche Gehirn noch eine Weile außer Reichweite bleibt.

Häufig gestellte Fragen (FAQ)

Welches Modell der künstlichen Intelligenz hat zugestimmt, mit der Maus zu arbeiten?

Es war das Modell Claude Sonnet 5, das die Injektion von Anfang bis Ende durchführte, nachdem die leistungsstärkeren Versionen Claude Opus 5 und Opus 5.5 sich geweigert hatten, an einem lebenden chirurgischen Experiment an einem lebenden Tier teilzunehmen.

Welche genaue Rolle spielte der Mensch bei dieser Gehirnoperation?

Ein zugelassener Tierarzt führte die erste Öffnung des Schädels (die Kraniotomie) durch, validierte manuell jeden vom Agenten vorgeschlagenen kritischen Schritt und betätigte einen Notschalter, um die Motoren des Roboterarms sofort abzuschalten.

Warum verzögerte sich die Operation mitten im Eingriff?

Ein technischer Fehler hat die Raumkoordinaten des Geräts verfälscht. Der Agent erkannte die Anomalie und stoppte seine Bewegungen, wodurch das menschliche Team gezwungen wurde, den Computercode mithilfe eines zweiten Modells zu korrigieren, bevor die Injektion abgeschlossen werden konnte.