Apple ve Google'ın mağazalarındaki yüzlerce uygulama, istismarcı derin sahte (deepfake) araçları ağını gizliyordu

AI Forensics araştırmacıları, WIRED ile birlikte çalışarak, cinsel içerikli istismarcı ve şiddet içeren derin sahte (deepfake) görüntüler üretmek için gizli bir katman barındıran, 400'den fazla bağlantılı uygulama ve alan adından oluşan koordineli bir ağ keşfetti.

Bu uygulamaların yüzlercesi doğrudan Apple'ın App Store'unda ve Google Play'de bulunuyordu; burada kendilerini meşru hizmetler olarak sunuyorlardı — evcil hayvan portre araçları, dil öğretmenleri, yapay zekâ destekli antrenman koçları — ve platformların güvenlik incelemelerinden geçiyorlardı.

Yüklendikten sonra her uygulama, kullanıcı konumu, cihaz tanımlayıcıları ve kullanıcının bir Meta reklamı üzerinden gelip gelmediği gibi sinyalleri kontrol eden uzak bir sunucuyla iletişim kuruyordu. Belirli kriterleri karşılayan kullanıcılara, gerçek fotoğrafların açık saçık veya tehdit içeren sahnelere yerleştirilmesine olanak tanıyan onlarca açık saçık derin sahte şablonu sunan gizli arayüz gösteriliyordu.

Popüler bir uygulama, Google tarafından kaldırılmadan önce tek başına 100.000'in üzerinde indirmeye ulaştı ve tüm yaşlara uygun bir derecelendirme taşıyordu.

WIRED, ağı büyük ölçüde Çinli geliştiricilere ve KeLing Technology Limited adlı bir Hong Kong şirketine kadar izledi; şirket, kendisiyle iletişime geçilmesinin ardından çevrimiçi varlığını sildi.

Açıklamanın ardından Apple, evcil hayvan portre uygulaması Viefur da dahil olmak üzere 19 uygulamayı kaldırdı ve App Store politikalarını, "soyundurma" (nudifying) ve yem-değiştirme (bait-and-switch) uygulamalarını açıkça yasaklayacak şekilde güncelledi.

Meta, KeLing'in reklam vermesini 2025'te zaten yasaklamıştı ve ardından bu düzenle bağlantılı 11.600 reklam hesabına ve 5.200 kullanıcıya karşı önlem aldı, ayrıca 209 uygulamayı engelledi.