Cientos de aplicaciones en las tiendas de Apple y Google ocultaban una red de herramientas de deepfakes abusivos

Investigadores de AI Forensics, en colaboración con WIRED, descubrieron una red coordinada de más de 400 aplicaciones y dominios vinculados que ocultaba una capa secreta para generar deepfakes sexualmente abusivos y violentos.

Cientos de esas aplicaciones estaban disponibles directamente en la App Store de Apple y en Google Play, donde se presentaban como servicios legítimos —herramientas para retratos de mascotas, tutores de idiomas, entrenadores de fitness con IA— y superaban las revisiones de seguridad de las plataformas.

Una vez instalada, cada aplicación contactaba con un servidor remoto que comprobaba señales del usuario, incluida su ubicación, los identificadores del dispositivo y si había llegado a través de un anuncio de Meta. Los usuarios que cumplían ciertos criterios veían la interfaz oculta, que ofrecía decenas de plantillas explícitas de deepfakes que permitían insertar fotos reales en escenas explícitas o amenazantes.

Solo una aplicación popular superó las 100.000 descargas antes de que Google la retirara, y tenía una clasificación apta para todas las edades.

WIRED rastreó la red principalmente hasta desarrolladores chinos y una empresa de Hong Kong llamada KeLing Technology Limited, que eliminó su presencia en línea tras ser contactada.

Tras la revelación, Apple eliminó 19 aplicaciones —incluida la app de retratos de mascotas Viefur— y actualizó las políticas de la App Store para prohibir explícitamente las aplicaciones de «desnudificación» y las de tipo «bait-and-switch» (cebo y cambio).

Meta ya había prohibido a KeLing anunciarse en 2025 y posteriormente actuó contra 11.600 cuentas publicitarias relacionadas y 5.200 usuarios, además de bloquear 209 aplicaciones vinculadas al esquema.