Сотни приложений в магазинах Apple и Google скрывали сеть инструментов для создания оскорбительных дипфейков

Исследователи из AI Forensics совместно с WIRED обнаружили координированную сеть из более чем 400 связанных приложений и доменов, которая скрывала тайный уровень для создания сексуально оскорбительных и жестоких дипфейков.

Сотни этих приложений были доступны непосредственно в App Store Apple и Google Play, где они выдавали себя за законные сервисы — инструменты для портретов домашних животных, языковые репетиторы, ИИ-фитнес-тренеры — и успешно проходили проверки безопасности платформ.

После установки каждое приложение связывалось с удалённым сервером, который проверял сигналы о пользователе, включая местоположение, идентификаторы устройства и то, пришёл ли пользователь через рекламу Meta. Пользователи, соответствующие определённым критериям, видели скрытый интерфейс, предлагавший десятки шаблонов откровенных дипфейков, позволявших вставлять реальные фотографии в откровенные или угрожающие сцены.

Только одно популярное приложение набрало более 100 000 загрузок, прежде чем Google удалил его, при этом у него был возрастной рейтинг «для всех».

WIRED в значительной степени проследила сеть до китайских разработчиков и гонконгской компании KeLing Technology Limited, которая удалила своё присутствие в интернете после того, как с ней связались.

После раскрытия информации Apple удалила 19 приложений — включая приложение для портретов домашних животных Viefur — и обновила правила App Store, явно запретив приложения для «раздевания» (nudifying) и приложения типа «подмена при наживке» (bait-and-switch).

Meta уже запретила KeLing размещать рекламу в 2025 году, а впоследствии приняла меры против 11 600 связанных рекламных аккаунтов и 5200 пользователей, а также блокировала 209 приложений, связанных с этой схемой.