苹果和谷歌应用商店数百款应用暗藏滥用性深度伪造工具网络
由 AI 根据 digitaltrends.com 的报道撰写，未经人工核查。
WIRED的一项调查揭露,苹果App Store和谷歌Play商店中数百款应用——伪装成宠物照片编辑器和健身教练——暗中生成色情和暴力深度伪造内容,这是一个由400多个关联应用和域名组成的更大网络的一部分,该网络促使苹果下架19款应用,谷歌也下架了至少一款下载量超过10万次的应用。
AI Forensics的研究人员与WIRED合作,发现了一个由400多个关联应用和域名组成的协同网络,该网络隐藏着一层用于生成色情滥用和暴力深度伪造内容的隐蔽功能。
这些应用中有数百款直接出现在苹果App Store和谷歌Play商店中,它们将自己包装成合法服务——宠物肖像工具、语言辅导应用、人工智能健身教练——并通过了平台的安全审核。
安装后,每款应用都会连接一个远程服务器,该服务器会检查用户的多项信号,包括位置、设备标识符,以及用户是否通过Meta广告进入。符合特定条件的用户会看到隐藏界面,其中提供了数十种色情深度伪造模板,可将真实照片插入色情或带有威胁性的场景中。
仅一款热门应用在被谷歌下架前下载量就超过10万次,且其年龄分级为“适合所有年龄段”。
WIRED将该网络主要追溯到中国的开发者,以及一家总部位于香港、名为KeLing Technology Limited的公司,该公司在被联系后删除了其网络存在。
消息披露后,苹果下架了19款应用——其中包括宠物肖像应用Viefur——并更新了App Store政策,明确禁止“去衣化”(nudifying)应用和“诱导转换”(bait-and-switch)型应用。
Meta早在2025年就已禁止KeLing投放广告,随后又对11600个相关广告账户和5200名用户采取了行动,并封锁了209款与该计划有关的应用。
