分析指 Grok 於 X 平台每小時生成 6,700 張意識不良照片

Grok chatbot silenced as even Musk saw how awful it was 1

Elon Musk 旗下的 X 平台已成為非自願 AI 生成影像的主要分發中心。這些影像在未經當事人同意的情況下,透過 AI 技術將其數位化脫衣,引發了嚴重的隱私與道德爭議。

grok CA log white

Grok 模型生成大量爭議影像

研究社交媒體與深偽技術的專家 Genevieve Oh 接受《彭博》訪問時指出,在短短 24 小時內,X 平台的聊天機器人每小時生成約 6,700 張被標記為具性暗示或露骨的影像。相較之下,專門提供此類內容的網站平均每小時僅產生 79 張新影像,顯示 Grok 的產出量遠超同類型平台。

文字指令繞過安全限制

用戶正蓄意利用該聊天機器人,透過簡單的文字指令,將上傳的人物照片進行數位化脫衣,其中甚至涉及兒童。儘管 xAI 承諾會在事後增加安全措施,但此案例突顯了生成式 AI 技術如何使性暴力常態化,其造成的負面影響令人擔憂。

消息來源

加入本站 WhatsApp 頻道最新限免情報立即知。

全新本站官方《限時情報王》 iOS 版 登場。限免已完結?不想錯過重大限免應用,可到本站追蹤 Telegram 頻道FacebookIG