據《衛報》報道,三位美國參議員已向 Apple、Google 和 Meta 的行政總裁發出信件,就這些公司未能防止用戶接觸人工智能驅動的「去衣」(nudify)應用程式要求解釋。信中指控相關平台的安全防護措施不足,導致這類能生成未經同意裸體圖像的應用持續存在。
重點文章
Apple 修訂規則卻仍受質疑
上月,Apple 更新 App Store 規則,試圖嚴厲打擊允許用戶生成未經同意裸體圖像的應用程式。根據新規定,允許用戶創建人工智能生成內容的應用必須包含防濫用機制,包括過濾不良內容的工具、舉報冒犯性內容的選項以及封鎖違規用戶的功能。Apple 亦警告,主要用於色情內容或將真人物化的應用,可能會被從 App Store 移除而無需另行通知。
然而,在 Apple 推出這些變更之前,已有越來越多關於人工智能驅動去衣應用的報告,指出這些應用可輕易讓用戶生成未經同意的私密影像。兩個月前,當《WIRED》就評論事宜聯繫 Apple 後,該公司移除了允許用戶製作真人性深度偽造色情影像的應用。這發生在三藩市律師 David Chiu 要求 Apple 和 Google 從其應用商店中移除多個去衣應用的一個月後。此外,Apple 也根據「科技透明度項目」(TTP)的調查結果移除了若干應用,該組織在一月和四月的報告中揭示,這類應用在 App Store 上廣泛可用,甚至偶爾出現在贊助搜索結果中。
參議員指責平台執法不力
來自俄勒岡州的 Ron Wyden、來自麻薩諸塞州的 Ed Markey 以及來自新墨西哥州的 Ben Luján 三位參議員在信中指出,Apple 和 Google 未能有效偵測並移除可用於生成未經同意裸體或色情圖像的應用。他們同時指控 Meta 繼續透過廣告推廣這些所謂的去衣應用從中獲利,認為此舉「在全球範圍內傷害婦女和女童」。參議員們聲稱,除了未能移除這些應用外,這些公司實際上可能正從其分發和推廣中獲利。
Wyden 辦公室的首席傳播顧問兼政策副主任 Keith Chu 表示,釐清政策與執行政策是兩回事。儘管各公司已重申禁止這類應用,但它們在 Apple 和 Google 應用商店中仍然氾濫,或在 Meta 平台上通過廣告得到推廣。針對此事,Google 和 Meta 均回應稱,它們禁止這類應用或其推廣,並致力於偵測和從平台移除違規內容,這與 Apple 過去就同一問題接受採訪時反覆強調的立場大致相同。
最新調查顯示監管漏洞
就在上個月發布的最新調查中,TTP 使用註冊在 13 歲男孩名下帳號發現,App Store 和 Play Store 上有 135 個能夠生成裸體或色情圖像的應用。研究人員還發現,即使配置了家長控制功能的帳號,也能夠下載這些應用而無需獲得家長批准。
雖然 Apple 和 Google 已移除調查中確定的應用,《衛報》注意到,這些應用在已經安裝它們的裝置上仍能繼續運作。面對這種情況,參議員 Wyden 警告,如果科技公司未能更嚴格地打擊這類應用,國會可能需要介入處理。
