صدها اپلیکیشن در فروشگاه‌های اپل و گوگل، شبکه‌ای از ابزارهای دیپ‌فیک سوءاستفاده‌گرانه را پنهان کرده بودند

پژوهشگران AI Forensics در همکاری با WIRED، شبکه‌ای هماهنگ از بیش از ۴۰۰ اپلیکیشن و دامنه مرتبط را کشف کردند که لایه‌ای پنهان برای تولید دیپ‌فیک‌های سوءاستفاده‌گرانه جنسی و خشونت‌بار در خود داشت.

صدها نمونه از این اپلیکیشن‌ها مستقیماً در App Store اپل و گوگل‌پلی در دسترس بودند و خود را به‌عنوان خدمات قانونی معرفی می‌کردند — ابزارهایی برای پرتره حیوانات خانگی، معلم‌های زبان، مربی‌های تمرین ورزشی مبتنی بر هوش مصنوعی — و از بررسی‌های امنیتی این پلتفرم‌ها عبور می‌کردند.

پس از نصب، هر اپلیکیشن با یک سرور دوردست ارتباط برقرار می‌کرد که سیگنال‌های کاربر از جمله موقعیت مکانی، شناسه‌های دستگاه و اینکه آیا کاربر از طریق یک تبلیغ Meta وارد شده است یا نه را بررسی می‌کرد. کاربرانی که معیارهای خاصی را داشتند، رابط کاربری پنهانی را می‌دیدند که دهها قالب صریح دیپ‌فیک ارائه می‌داد و امکان قرار دادن عکس‌های واقعی در صحنه‌های صریح یا تهدیدآمیز را فراهم می‌کرد.

تنها یک اپلیکیشن پرطرفدار پیش از آنکه گوگل آن را حذف کند، بیش از ۱۰۰٬۰۰۰ دانلود داشت، در حالی که رتبه‌بندی سنی آن «مناسب برای همه سنین» بود.

WIRED منشأ این شبکه را تا حد زیادی به توسعه‌دهندگان چینی و شرکتی هنگ‌کنگی به نام KeLing Technology Limited ردیابی کرد که پس از تماس با آن، حضور آنلاین خود را حذف کرد.

پس از افشای این موضوع، اپل ۱۹ اپلیکیشن — از جمله اپلیکیشن پرتره حیوانات خانگی Viefur — را حذف کرد و سیاست‌های App Store را به‌روزرسانی کرد تا اپلیکیشن‌های «برهنه‌سازی» (nudifying) و اپلیکیشن‌های «طعمه و تبدیل» (bait-and-switch) را به‌صراحت ممنوع کند.

Meta پیش از این در سال ۲۰۲۵ تبلیغات KeLing را ممنوع کرده بود و سپس علیه ۱۱٬۶۰۰ حساب تبلیغاتی مرتبط و ۵٬۲۰۰ کاربر اقدام کرد و ۲۰۹ اپلیکیشن مرتبط با این طرح را مسدود کرد.