Apple 今年 1 月曾私下警告 Elon Musk 創立的 xAI 公司，若其 Grok 應用程式無法阻止生成裸露及性化深度偽造圖像，將會從 App Store 下架該應用程式。此消息根據 Apple 致美國參議員的一封信件揭露。
重點文章
Grok 生成爭議內容
今年稍早，Grok 的 AI 功能便因 X 用戶分享其生成未經同意的女性與兒童性化圖像（其中許多基於真實人物照片）而受到審查。隨後 Grok 推出了混亂的審核調整，部分措施可輕易規避。儘管 Apple 當時未公開評論此爭議，但實際上已採取行動，並推動了這些改變。信中揭示，Apple 內部發現 X 和 Grok 均違反了其 App Store 指南，並要求開發者提交內容審核計劃。
Apple 與 xAI 展開內容審核談判
信件指出，Apple 拒絕了 xAI 提出的初步修復方案，認為「改變不夠徹底」，並警告若不進行更多調整，Grok 將會下架。經過多次來回溝通，Apple 最終認為該應用程式的後續提交版本已充分改善，得以批准。這次披露顯然是回應了今年 1 月 Ron Wyden、Ben Ray Luján 和 Edward Markey 三位參議員的信函，他們敦促 Apple 和 Google 下架這兩個應用程式，認為這些圖像違反了 App Store 禁止冒犯性、性化和剝削性內容的規定。參議員們表示，Apple 的回應將考驗其自身論點，因為該公司長期以來一直聲稱其審查流程確保用戶安全，以捍衛其受監管的 App Store。他們認為，如果 Grok 持續生成此類圖像，將會損害 Apple 在公眾和法律層面上的論點。
圖像生成問題仍存
X 平台隨後發佈聲明：「我們嚴格禁止用戶生成未經同意的明確深度偽造圖像，以及使用我們的工具對真實人物進行脫衣處理。xAI 已建立廣泛的安全措施來防止此類濫用，例如持續監控公開使用情況、即時分析規避嘗試、頻繁的模型更新、提示詞過濾器及其他額外防護。」儘管 Grok 生成並發佈到 X 平台的性化深度偽造圖像數量似乎已大幅減少，但 Grok 仍能生成類似圖像，部分用戶顯然只是更新了提示詞策略來規避這些安全措施。
