一項調查發現，超過 400 款人工智能應用程序在通過審核後進入 Apple App Store 及 Google Play Store，這些應用內嵌隱藏功能，可讓用戶上傳照片以生成涉及性或暴力的深偽（Deepfake）內容。據報導，這些應用疑似由同一個中國組織開發。
重點文章
偽裝日常服務潛伏惡意功能
Viefur 等應用表面上宣稱提供語言輔導或人工智能健身教練等日常服務，甚至用於為寵物照片添加衣物。然而，當用戶在特定條件下訪問時，這些應用會秘密加載一個網頁界面，允許使用上傳的照片生成露骨的性愛圖像和視頻。其中包括「臥室強姦」和「持刀威脅」（男子用刀抵住女子頸部）等場景模板。用戶需購買積分才能從上傳的照片生成這些深偽內容，並下載數十種色情照片和視頻模板。
利用伺服器檢查繞過平台審核
《Wired》指出，該網絡利用「誘騙調包」（Bait-and-switch）策略通過應用審核。應用通常顯示無害內容，但一旦透過 Facebook 和 Instagram 上的視頻廣告點擊下載，或由伺服器檢查觸發，便會激活隱藏功能。儘管 Apple、Google 和 Meta 均有明確政策禁止有害深偽內容，部分應用已存活一年並成功通過三家平台的審核。Meta 表示，已對與這些應用域名相關的超過 10,000 個廣告帳戶採取行動。
Apple 移除違規應用並加強防護
Apple 在收到《Wired》提供的詳細資訊後，移除了其中 19 款應用。公司聲明指出，所有應用在發佈前均經過審核，當時它們符合規則。但在獲批後，開發者更改了應用拉取內容的網站來源，將獲批的內容替換為色情內容，並透過第三方平台託管的色情廣告進行推廣。Apple 表示近期已加強針對此類手法的保護措施。
