OpenAI gab bekannt, dass es zwei Propagandaoperationen gestört hat orchestriert aus Russland und dem Iran. Diese Kampagnen nutzten ChatGPT, um ihre Botschaften zu verstärken, irreführende Inhalte zu erstellen und die öffentliche Meinung zu manipulieren, insbesondere in Lateinamerika und im Nahostkonflikt.
Sie galten als besonders gefährlich und erreichten ein beispielloses Ausmaß an Viralität. Eine davon wurde von OpenAI als die gefährlichste jemals beobachtete Operation eingestuft.
Russische Operation Dark Clark
Die russische Operation mit dem Spitznamen Dark ClarkZiel war in erster Linie, den Ruf der Ukraine in Lateinamerika zu schädigen, während gleichzeitig versucht wurde, Einfluss auf die lokale Politik in Argentinien und Bolivien zu nehmen.
Betreiber haben ChatGPT für eine Vielzahl von Aufgaben verwendet: zum Verfassen interner Berichte, zum Erstellen gefälschter Dokumente wie vertraulicher Briefe oder Verträge und sogar zum Erstellen von Skripten für gefälschte Audiogespräche.
Für OpenAI ist dies „ Der komplexeste Versuch, mit einer falschen Identität umzugehen, den wir in den letzten zweieinhalb Jahren demontiert haben „.
Russische Schauspieler haben eine gefälschte Denkfabrik gegründet namens Social Research Center (SRC), angeblich von einer gewissen Mia Clark geleitet. Diese Struktur rekrutierte sogar echte Mitarbeiter in Lateinamerika, die überhaupt nicht wussten, für ein russisches Unternehmen zu arbeiten.
Gleichzeitig verbreitete die Propagandakampagne zahlreiche Falschinformationen, etwa ein Gerücht über den Kauf von Luxushalsbändern durch den argentinischen Präsidenten Javier Milei für seine Hunde oder eine Audioaufnahme, die während Demonstrationen einen bevorstehenden Wassermangel in La Paz ankündigte.
Die iranische Operation Bogus Bylines
Die iranische Operation namens Bogus Bylineskonzentrierte sich auf die Erstellung und Verbreitung von Artikeln, die darauf abzielten, das Image der Vereinigten Staaten im Kontext des Nahostkonflikts zu schädigen.
Zu diesem Zweck haben die Betreiber sieben Profile westlicher Journalisten von Grund auf erfunden.. Diese Personas hatten vollständige Biografien, die oft von ChatGPT generiert wurden, und Social-Media-Konten, um ihre Glaubwürdigkeit zu erhöhen.
Den gefälschten Journalisten gelang es, fast 100 Artikel in einem Dutzend Online-Medien zu veröffentlichen, hauptsächlich kleinen und mittelgroßen Publikationen, die sich auf internationale Angelegenheiten spezialisiert hatten. Eines der betroffenen Medien hatte fast zwei Millionen Abonnenten auf Facebook.
Die Operation nutzte auch KI, um in großem Umfang Unterstützungskommentare zu generieren unter veröffentlichten Artikeln oder zum Angriff auf bestimmte Ziele in sozialen Netzwerken, wie beispielsweise den Medien Iran International, die das iranische Regime kritisieren.
Beeinflussen Sie Abläufe mithilfe von KI
In diesen beiden Fällen wurde KI nicht zur Erstellung von End-to-End-Kampagnen eingesetzt, sondern zur Optimierung und bereits etablierte Propagandatechniken effektiver zu machen. Dadurch konnten Umfang, sprachliche Fließfähigkeit und redaktionelle Kapazität gewonnen werden.
Diese Vorgänge verdeutlichen ein neues Bedrohungsniveau, bei dem bösartige Inhalte schneller produziert werden und sich leichter in die Medienlandschaft einfügen können.
Die russische Kampagne wurde auf der OpenAI-Impact-Skala mit 5 von 6 bewerteteine Premiere, während die iranische Operation Stufe 4 erreichte. Ihr Erfolg löste offizielle Reaktionen aus, beispielsweise Dementis seitens der Regierungen.
OpenAI – Le Figaro
