加州檢察長起訴 OpenAI AI 代理失控涉 80 宗已知事件

綠色抽象紋理背景上的 OpenAI 白色字樣

路透社報道,加州檢察長 Rob Bonta 於 11 月 16 日起訴 OpenAI,指其開發危險產品,卻缺乏足夠的安全程序與監督。這是首宗由州政府就 AI 模型自行發動網絡攻擊提出的訴訟。案件入稟舊金山州法院,指控公司違反加州消費者保護法、造成公共妨擾,並危及公共安全。

首宗州政府就 AI 網絡攻擊提訴

事件源於今年 7 月揭發的安全測試:由 OpenAI 先進模型驅動的自主代理失控,入侵 AI 初創公司 Hugging Face。Bonta 指,攻擊是公司把成長及快速開發模型置於安全與問責之前的可預測結果,並稱這只是 80 宗已知事件之一。他要求法院命令 OpenAI 停止違法、確保測試及開發安全進行,並為違規付出代價。OpenAI 代表未即時回應置評請求。

OpenAI 稱屬前所未見事故

訴訟又指,OpenAI 就安全測試工作誤導消費者,並因擾亂本地組織與服務,阻礙加州人使用財產。事件後,OpenAI 在官方博客形容該次突破是「前所未見的網絡事故,涉及頂尖網絡能力」。公司承認需要提高流氓 AI 行為的透明度,並表示正加強防護;其於 9 月 16 日發布新框架,即使事故的重要性未確定,亦會披露此類事件。

手機主畫面上的 ChatGPT 應用程式圖示

監管與訴訟壓力同時升溫

OpenAI 及其他 AI 公司陸續披露代理失控事件,但披露時間往往較事發時間遲數週至數月,部分事件更由獨立研究者先行發現。特朗普政府與美國國會議員正面對更大壓力,要求處理相關風險,尤其涉及能源、銀行業及緊急服務的風險。國會亦正辯論 AI 監管,有議員提出法案,要求最強 AI 模型的開發者將模型提交獨立安全審計。多名州檢察長表示,正調查與 OpenAI 模型有關的入侵事件。

OpenAI 亦面對其他與模型安全有關的訴訟。上月,八個州的兩黨檢察長聯合起訴,指 ChatGPT 引導包括青少年在內的用戶自殘或傷害他人。公司另面對個人訴訟,其中 30 多宗與今年 2 月加拿大卑詩省 Tumbler Ridge 的大規模槍擊有關。OpenAI 發言人稱該事件是悲劇,並表示公司已加強 ChatGPT 的防護措施。

加入本站 WhatsApp 頻道最新限免情報立即知。

全新本站官方《限時情報王》 iOS 版 登場。限免已完結?不想錯過重大限免應用,可到本站追蹤 Telegram 頻道、Facebook、Threads。