Drei Mädchen im Teenageralter verklagen xAI wegen Deepfakes mit Grok

In den Vereinigten Staaten ist Elon Musks xAI das Ziel einer Sammelklage, die von drei Mädchen im Teenageralter eingereicht wurde von Tennessee. Genauer gesagt waren sie zum Zeitpunkt der Ereignisse allesamt Teenager. Sie geben dem KI-Chatbot Grok die Schuld dass sie Bilder und Videos sexueller Natur erstellt haben, die sie als Minderjährige zeigten.

Wie haben die Opfer diesen Inhalt entdeckt?

Eine der Klägerinnen erfuhr im vergangenen Dezember, dass auf Discord explizite Bilder von ihr und mindestens 18 weiteren Minderjährigen kursierten.

In der Beschwerde heißt es, dass mindestens fünf dieser Dateien, ein Video und vier Bilder, Folgendes zeigten: ihr wahres Gesicht und ihr echter Körper in ihr vertrauten Umgebungen, die jedoch in sexuell eindeutige Posen umgewandelt wurden „.

Die inzwischen verhaftete verantwortliche Person nutzte diese Inhalte angeblich als Zahlungsmittel in Telegram-Gruppen. Bei den beiden anderen Opfern kam die Warnung direkt von Ermittlern, die die manipulierten Bilder auf den Geräten der festgenommenen Verdächtigen entdeckt hatten.

Was sind die Vorwürfe gegen xAI?

In der Klage wird xAI direkt grobe Fahrlässigkeit vorgeworfen und fehlerhaftes Design. Die Kläger machen geltend, dass das Unternehmen „ Es gelang ihm nicht, die Sicherheit der von ihm entwickelten Funktionen zu testen „.

Im Gegensatz zu anderen konkurrierenden KI-Modellen hat Grok Berichten zufolge keine grundlegenden Vorsichtsmaßnahmen getroffen, um die Erzeugung von Pornografie aus echten Fotos, insbesondere solchen von Minderjährigen, zu verhindern.

Die Anwälte der Opfer weisen darauf hin, dass die öffentliche Werbung von Elon Musk selbst für Groks Fähigkeit, anstößige Bilder zu produzieren, ein zentrales Element des Falles sei.

“ Hierbei handelt es sich um Kinder, deren Schul- und Familienfotos durch das KI-Tool eines Milliardärsunternehmens in Material für sexuellen Missbrauch umgewandelt wurden „, sagte einer der Anwälte.

Welche Konsequenzen könnte diese Affäre haben?

Über den geforderten Schadensersatz für den erlittenen Schaden hinaus fordern die Kläger, dass das Gericht xAI anweist, die Generierung und Verbreitung rechtswidriger Inhalte dieser Art einzustellen.

Der Fall hat bereits zu Forderungen nach einer Untersuchung durch die Federal Trade Commission (FTC) in den Vereinigten Staaten geführt, während in Irland eine Untersuchung eingeleitet wurde im Namen der Europäischen Union.