馬來西亞與印尼近期正式封鎖由 Elon Musk 旗下公司開發的 Grok 應用程式，主因是該 AI 工具被廣泛用於生成女性與兒童的非自願深偽影像。除此兩國外，英國監管機構 Ofcom 也已展開調查。美國多位參議員則向 Apple 與 Google 遞交公開信，要求在調查完成前，應將 X 與 Grok 從應用程式商店中下架，以防止更多有害內容傳播。
重點文章
AI 生成深偽影像引發安全疑慮
Grok AI 工具被用戶發現可繞過過濾機制，將人物照片處理成暴露影像，甚至涉及兒童性虐待內容。儘管該工具理論上具備過濾功能，但用戶透過特定提示詞即可避開限制。目前 Elon Musk 僅限制付費訂閱者才能在 X 平台上生成影像，但此舉被批評為未能有效解決核心安全問題，因為該功能在網誌與網頁等渠道依然可以被輕易存取。
東南亞國家與英國監管機構採取法律行動
印尼與馬來西亞政府表示，現有的內容控制措施不足以防止虛假色情內容的擴散，因此決定封鎖相關應用程式。與此同時，英國媒體監管機構 Ofcom 已啟動正式調查，旨在釐清 X 是否違反了《網絡安全法》（Online Safety Act）規定的法律義務。監管機構擔心該平台的 AI 聊天機器人可能被用於製作及分享未經授權的私密影像。
美國參議員呼籲下架問題應用程式
三位美國參議員 Ron Wyden、Ed Markey 與 Ben Ray Luján 聯名致信 Apple 與 Google，要求兩大平台暫時移除 X 與 Grok。信中提到，該應用程式生成的內容已嚴重威脅女性與兒童安全。目前 Apple 尚未對此要求做出正式回應，相關應用程式在美國地區的 App Store 仍維持上架狀態。未來 Apple 與 Google 的處理方式，將成為科技行業應對 AI 生成有害內容的重要指標。
