Сотні застосунків у магазинах Apple і Google приховували мережу інструментів для образливих дипфейків

Дослідники з AI Forensics разом із WIRED викрили скоординовану мережу з понад 400 пов'язаних застосунків і доменів, яка приховувала таємний рівень для створення сексуально образливих і насильницьких дипфейків.

Сотні цих застосунків були доступні безпосередньо в App Store Apple та Google Play, де вони видавали себе за легітимні сервіси — інструменти для портретів домашніх тварин, мовні репетитори, фітнес-тренери на основі ШІ — і проходили перевірки безпеки платформ.

Після встановлення кожен застосунок зв'язувався з віддаленим сервером, який перевіряв сигнали про користувача, зокрема місцезнаходження, ідентифікатори пристрою та те, чи прийшов користувач через рекламу Meta. Користувачі, які відповідали певним критеріям, бачили прихований інтерфейс, що пропонував десятки відвертих шаблонів дипфейків, які дозволяли вставляти реальні фотографії у відверті чи загрозливі сцени.

Лише один популярний застосунок набрав понад 100 000 завантажень, перш ніж Google видалив його, причому він мав віковий рейтинг «для всіх».

WIRED здебільшого простежила мережу до китайських розробників і гонконгської компанії KeLing Technology Limited, яка видалила свою онлайн-присутність після того, як із нею зв'язалися.

Після розкриття інформації Apple вилучила 19 застосунків — зокрема застосунок для портретів домашніх тварин Viefur — і оновила правила App Store, прямо заборонивши застосунки для «роздягання» (nudifying) та застосунки типу «підміна наживки» (bait-and-switch).

Meta вже заборонила KeLing рекламуватися у 2025 році, а згодом вжила заходів проти 11 600 пов'язаних рекламних облікових записів і 5200 користувачів, а також блокувала 209 застосунків, пов'язаних із цією схемою.