Apple verschärft seine Moderationspolitik im App Store speziell auf Nacktifizierungs-Apps ausgerichtetdie KI verwenden, um ohne deren Zustimmung sexuell eindeutige Bilder von echten Menschen zu erstellen.
Diese aktualisierten Leitlinien erlegen den Entwicklern viel strengere Verpflichtungen auf, die Verbreitung dieser Art von Inhalten zu verhindern.
Warum diese Änderung jetzt?
Dieser Entscheidung liegt eine monatelange Kritik an der Verbreitung dieser Tools zugrunde. Neben Forderungen nach der Entfernung mehrerer solcher Anwendungen hat auch die Kontroverse um den Einsatz von Grok zur Erstellung von Deepfakes, auch von Minderjährigen, die Debatte verschärft.
Waren pornografische Inhalte im App Store schon immer verboten, klären die neuen Regeln die rechtlichen und technischen Rahmenbedingungen. Die Herausforderung besteht darin, den Entwicklern einen größeren Teil der Verantwortung zu übertragenwas sie dazu zwingt, die ersten Hüter vor den Exzessen ihrer Werkzeuge zu werden.
Pflichten für Entwickler
Entwickler von Apps, die benutzergenerierte Inhalte hosten, müssen diese Art von Bildern nun proaktiv moderieren.
Die Richtlinien erfordern die Einrichtung mehrerer Schutzmaßnahmen : ein System zum Filtern potenziell problematischer Bilder, Tools, mit denen Benutzer anstößige Inhalte melden und missbräuchliche Konten blockieren können.
Entwickler, die es versäumen, angemessene Schutzmaßnahmen zu implementieren oder gemeldete Verstöße zu beheben, riskieren, dass ihre Apps aus dem App Store entfernt werden.
Apple kämpft gegen getarnte Apps
Apple geht auch gezielt gegen Lockvogeltaktiken vor „, eine Praxis, bei der ein scheinbar harmloser Antrag eingereicht und dann versteckte und illegale Funktionen aktiviert werden, sobald die Validierung erfolgt ist.
Die Regel, die undokumentierte Features verbietet, wurde dahingehend präzisiert, dass sie auch die Nacktmachung ausdrücklich einschließt.
Die Strafe für solche Praktiken ist nun zweifach. Die Anwendung wird nicht nur gesperrt, sondern ihr Ersteller kann auch dauerhaft vom Apple Developer Program ausgeschlossen werden.
