Hunderte Apps bei Apple und Google verbargen ein Netzwerk missbräuchlicher Deepfake-Tools

Forscher von AI Forensics deckten zusammen mit WIRED ein koordiniertes Netzwerk von mehr als 400 verknüpften Apps und Domains auf, das eine verborgene Ebene zur Erstellung sexuell missbräuchlicher und gewalttätiger Deepfakes verbarg.

Hunderte dieser Apps waren direkt im Apple App Store und bei Google Play verfügbar, wo sie sich als seriöse Dienste ausgaben – Tools für Haustierporträts, Sprachlehrer, KI-Fitnesscoaches – und die Sicherheitsprüfungen der Plattformen bestanden.

Nach der Installation kontaktierte jede App einen entfernten Server, der Nutzersignale prüfte, darunter den Standort, Geräte-Kennungen und ob der Nutzer über eine Meta-Werbeanzeige gekommen war. Nutzer, die bestimmte Kriterien erfüllten, erhielten Zugang zu einer verborgenen Oberfläche, die Dutzende explizite Deepfake-Vorlagen bot, mit denen echte Fotos in explizite oder bedrohliche Szenen eingefügt werden konnten.

Eine besonders beliebte App allein verzeichnete mehr als 100.000 Downloads, bevor Google sie entfernte – und trug dabei eine Altersfreigabe ohne Einschränkung.

WIRED führte das Netzwerk größtenteils auf chinesische Entwickler und ein Unternehmen aus Hongkong namens KeLing Technology Limited zurück, das nach Kontaktaufnahme seine Online-Präsenz löschte.

Nach der Enthüllung entfernte Apple 19 Apps – darunter die Haustierporträt-App Viefur – und aktualisierte die Richtlinien des App Store, um „Nudifying“-Apps und Bait-and-Switch-Anwendungen ausdrücklich zu verbieten.

Meta hatte KeLing bereits 2025 von Werbeanzeigen ausgeschlossen und ging anschließend gegen 11.600 zugehörige Werbekonten und 5.200 Nutzer vor sowie blockierte 209 mit dem Schema verbundene Apps.