Gespräche mit KIs sind nicht systematisch privat. 30-jähriger Bewohner Floridas nach Anthropic-Chatbot Claude angeklagt übermittelte den örtlichen Behörden seine Drohungen „ Erledige den Sheriff „.

Ein Fall, der das wachsende Spannungsverhältnis zwischen der zur Gefahrenabwehr notwendigen Überwachung und dem Schutz der Privatsphäre der Nutzer verdeutlicht.

Als Claude einen Polizeieinsatz auslöst

Der Prozess begann Ende September, als Claudes User explizit über ihre gewalttätigen Absichten schrieb und unter anderem erklärte: „ Ich habe heute eine neue Waffe gekauft „.

Das automatische System von Anthropic, das darauf ausgelegt ist, potenziell schädliche Inhalte und Schlüsselphrasen zu überwachen, markierte die Nachrichten sofort. Diese wurden dann verfahrensgemäß an ein Team menschlicher Gutachter zur Analyse weitergeleitet..

Es waren diese Prüfer, die die Bedrohung als glaubwürdig und unmittelbar einschätzten und beschlossen, sich an die Strafverfolgungsbehörden zu wenden. Die Verhaftung erfolgte kurz darauf, wobei die Verdächtige während des Verhörs zugab, dass sie Claude als Tagebuch benutzte.

Anthropic verteidigt dennoch die Vertraulichkeit

Anthropic gibt an, dass sein Safeguards-Team nutzt Erkennungs- und Überwachungstools, um seine Nutzungsbedingungen durchzusetzen.

“ Wenn wir erfahren, dass ein Benutzer gegen unsere Regeln verstoßen hat, können wir Maßnahmen wie eine Warnung, Sperrung oder Sperrung des Zugriffs auf unsere Produkte und Dienste ergreifen. „

Gegebenenfalls und um ernsthaften Schaden abzuwenden, können die Daten dann an die zuständigen Behörden weitergegeben werden, im Notfall auch ohne gerichtliche Anordnung. Anthropic betont jedoch den Schutz der Privatsphäre der Benutzer.

“ Benutzer sollten verstehen, dass sie niemals völlig anonym sind, insbesondere in Diskussionsforen und bei KI-gestützten Suchen. „, sagte der Sheriff von Lee County.

Bei bereits vorhergegangenen Fällen

Anthropic hat bereits andere Benutzer wegen ähnlicher Bedrohungen gemeldet, während OpenAI (ChatGPT) heftig kritisiert wurde, weil es die kanadischen Behörden im Fall der Schießerei in Tumbler Ridge nicht rechtzeitig alarmiert hatte. Seit diesem Vorfall scheinen strengere Verfahren eingeführt zu werden.

Quelle :
Inc.