Des centaines d'applications sur les stores d'Apple et de Google dissimulaient un réseau d'outils de deepfakes abusifs

Des chercheurs d'AI Forensics, en collaboration avec WIRED, ont mis au jour un réseau coordonné de plus de 400 applications et domaines liés, qui dissimulait une couche cachée destinée à générer des deepfakes sexuellement abusifs et violents.

Des centaines de ces applications étaient disponibles directement sur l'App Store d'Apple et sur Google Play, où elles se présentaient comme des services légitimes — outils de portraits d'animaux, tuteurs de langues, coachs sportifs dotés d'IA — et passaient les contrôles de sécurité des plateformes.

Une fois installée, chaque application contactait un serveur distant qui vérifiait plusieurs signaux liés à l'utilisateur, notamment sa localisation, les identifiants de son appareil et le fait qu'il soit arrivé via une publicité Meta. Les utilisateurs répondant à certains critères voyaient alors apparaître l'interface cachée, qui proposait des dizaines de modèles explicites de deepfakes permettant d'insérer de vraies photos dans des scènes explicites ou menaçantes.

Une seule application populaire a dépassé les 100 000 téléchargements avant d'être retirée par Google, alors qu'elle affichait une classification « tout public ».

WIRED a retracé l'origine du réseau, en grande partie jusqu'à des développeurs chinois et une entreprise hongkongaise appelée KeLing Technology Limited, laquelle a supprimé sa présence en ligne après avoir été contactée.

Après cette révélation, Apple a retiré 19 applications — dont l'application de portraits d'animaux Viefur — et a mis à jour les règles de l'App Store afin d'interdire explicitement les applications de « nudification » et les applications de type « bait-and-switch » (appât et substitution).

Meta avait déjà interdit à KeLing de faire de la publicité en 2025, puis avait sanctionné 11 600 comptes publicitaires liés, 5 200 utilisateurs, et bloqué 209 applications associées au système.