In einem von NewsGuard, einer auf die Bekämpfung von Desinformation spezialisierten Organisation, veröffentlichten Bericht wird behauptet, dass der KI-Chatbot Le Chat vom französischen Start-up Mistral AI ist ein wichtiger Vektor ausländischer Propaganda. Die Studie zeigt, dass das Tool besonders anfällig für die Verbreitung falscher Informationen durch staatliche Akteure wie Russland, China und Iran ist.
Besorgniserregende numerische Ergebnisse
NewsGuard hat Le Chat zehn nachweislich gefälschten Nachrichten ausgesetzt, die mit dem Krieg im Iran in Verbindung stehen und von Medien verbreitet werden, die mit Moskau, Peking oder Teheran verbunden sind. Die Katze wiederholte diese falschen Informationen in 50 % der Fälle auf Englisch und in 56,6 % der Fälle auf Französisch.
Im Bericht wird detailliert darauf hingewiesen, dass die Leistung je nach Art der Abfrage variiert. Angesichts eines böswilligen Benutzers, der Propagandainhalte generieren wollte, verbreitete Le Chat in 80 % der Fälle Lügen auf Englisch und 90 % auf Französisch.
Zu den verbreiteten Falschinformationen gehörte die Behauptung einer Typhus-Epidemie auf dem Flugzeugträger Charles de Gaulle.
Wie wird KI ausgetrickst?
Die Verwundbarkeit von Mistral AI lässt sich teilweise durch die ausgefeilten Methoden der Desinformationskampagnen erklären.
In der Studie wird insbesondere das russische Netzwerk Storm-1516 genanntbekannt dafür, gefälschte Nachrichtenseiten zu erstellen, um falsche Behauptungen über die angebliche Korruption europäischer Staats- und Regierungschefs zu verbreiten.
Diese Operationen, wie die des Pravda-Netzwerks, das fast 370 Websites vereint, zielen darauf ab, das Web zu überschwemmen, um Suchmaschinen und die Antworten von KI-Chatbots zu verunreinigen. Durch das Training auf diesen riesigen Mengen unzuverlässiger Daten gelangt Le Chat schließlich dazu, die Propaganda zu integrieren und zu wiederholen und sie manchmal als bewiesene Tatsache darzustellen.
Worüber gibt es Anlass zur Sorge?
Diese Enthüllungen sind umso heikler, als Mistral AI von starker institutioneller Unterstützung profitiert. Mistral AI unterzeichnete einen Vertrag mit dem französischen Verteidigungsministeriumdas jedoch eine andere und personalisierte Version ohne Internetzugang verwendet.
Auch wenn der mangelnde Widerstand von Le Chat gegen Desinformation besorgniserregend ist, betrifft das Phänomen nicht nur Mistral AI. Die meisten KI-Chatbots stehen vor der gleichen Herausforderung.
Die Echos
