Das Rathaus von San Francisco hat diese Woche hart getroffen und scharfe Aufforderungsschreiben an Apple und Google geschickt. Das Ziel: die dauerhafte Präsenz von Dutzenden sogenannter „Nudify“-Anwendungen in ihrem App Store und bei Google Play, einer Software mit künstlicher Intelligenz (KI), die in der Lage ist, Menschen auf Fotos digital auszuziehen. Dieser Ansatz erfolgt nach monatelangen Warnungen und Berichten, in denen die Laxheit der Plattformen angesichts einer wachsenden und zutiefst traumatischen Geißel angeprangert wird.
Warum ist San Francisco jetzt hinter Apple und Google her?
Die Stadt San Francisco Dies ist nicht der erste Kreuzzug gegen digitale Auswüchse. Briefe von David Chiu, Staatsanwalt, weisen auf ein anhaltendes und heikles Problem für Technologiegiganten hin: Profit aus Deepfake-Anwendungen (durch künstliche Intelligenz manipulierte Bilder oder Videos) namens „nudify“. Mit diesen Apps, die oft als Tools zum „Gesichtsaustausch“ getarnt sind, können Sie mit nur wenigen Klicks nicht einvernehmliche Intimbilder (NCII) erstellen.
Die kalifornischen Gesetze sind jedoch klar: Sie kriminalisieren jede Aktivität, die die Schaffung nicht einvernehmlicher Deepfake-Pornografie „wissentlich erleichtert“ oder „rücksichtslos unterstützt und begünstigt“. Im Jahr 2025 wurde sogar ein Gesetz verabschiedet, das den Weg für zivilrechtliche Klagen von Opfern gegen Drittvermittler ebnet. Trotzdem hosten und monetarisieren Unternehmen aus dem Silicon Valley weiterhin diese Programme. Gerechtigkeit müssen auch bei den größten Unternehmen anwendbar sein.
Wie konnten sich diese „nudify“-Apps trotz der Regeln verbreiten?
Hier wirft Zynismus Fragen auf. Berichte des Tech Transparency Project (TTP) vom vergangenen Januar und April hatten bereits Alarm geschlagen und Dutzende Anwendungen aufgelistet, die NCII über die Zahlungssysteme der Plattformen verkaufen. Die TTP behauptete sogar, dass Google und Apple habe Benutzer absichtlich zu diesen Apps „gelenkt“ und als „wichtige Teilnehmer an der Verbreitung von KI-Tools gehandelt, die echte Menschen in sexualisierte Bilder verwandeln könnten“.
Sprecher beider Unternehmen, die von verschiedenen Medien interviewt wurden, behaupten, dass ihre Richtlinien Pornografie und Missbrauch verbieten. Die Realität vor Ort scheint jedoch ganz anders zu sein. Es ist schwer, sich völlige Unwissenheit vorzustellen von diesen Technologieriesen, wenn Hunderte von Anwendungen identifiziert wurden, die insgesamt Millionen von Downloads und potenziell 120 Millionen US-Dollar an Gesamteinnahmen generieren, von denen ein erheblicher Teil direkt an die Plattformen geht.
Welche rechtlichen Konsequenzen und Reaktionen haben die Technologiegiganten?
Angesichts der Offensive von San Francisco reagierten die Giganten fast unmittelbar. Ein Apple-Sprecher sagte, dass Nudify-Apps verboten wurden und dass drei der gemeldeten Apps entfernt und ihre Entwicklerkonten gekündigt wurden. Vier weitere werden überwacht. Google wiederum sagt, es habe die fünf von Chius Büro und Hunderten anderen genannten Apps gesperrt und gleichzeitig Suchbegriffe wie „nudify“ in seinem Play Store eingeschränkt.
Auch wenn diese Maßnahmen verspätet sind, zeigen sie doch, dass der Druck der Stadt Früchte trägt. Aber die Bedrohung ist real: Chiu warnte deutlich, dass Apple und Google mit erheblichen zivilrechtlichen Strafen rechnen könnten, wenn sie nicht drastische und dauerhafte Maßnahmen ergreifen. Über die einmalige Entfernung hinaus besteht die Herausforderung darin, die Moderationssysteme so zu stärken, dass es solchen Apps nie gelingt, ihren Weg auf diese Plattformen zu finden. Es ist eine Frage der Verantwortung und des Opferschutzes.
Häufig gestellte Fragen (FAQ)
Was ist eine „nudify“-Anwendung?
Eine „Nudify“-App nutzt künstliche Intelligenz, um Fotos digital zu verändern, um Menschen nackt erscheinen zu lassen, oft ohne deren Zustimmung.
Warum handelt San Francisco jetzt?
San Francisco ergreift Maßnahmen, nachdem wiederholte Warnungen und Berichte gezeigt haben, dass zahlreiche „nudify“-Apps weiterhin auf Apple- und Google-Plattformen gehostet werden und Einnahmen generieren, was einen Verstoß gegen die kalifornischen Gesetze zu nicht einvernehmlichen Deepfakes darstellt.
Welche Folgen haben diese Deepfakes für die Opfer?
Laut David Chiu, dem Staatsanwalt von San Francisco, leiden Opfer dieser nicht einvernehmlichen intimen Bilder unter schrecklichen Auswirkungen auf ihren Ruf, ihre geistige Gesundheit und ihre Autonomie, die bis hin zu Selbstmordgedanken reichen.
