美國佛羅里達州一名男子利用 ChatGPT 策劃強暴及謀殺前女友，OpenAI 發現後向聯邦調查局通報，最終促成該男子被捕並認罪。事件顯示人工智能平台在偵測暴力威脅時可以發揮實際作用。
重點文章
威脅內容觸發通報
涉案男子 Darren Zhou 現年 25 歲，曾任職 Goldman Sachs 分析師，已遭解僱。他於今年 3 月開始向 ChatGPT 透露與前度女友分手的困擾，並詳細描述對方的生活習慣、常去地點，以及對她身邊男性的嫉妒。對話其後迅速升級為強暴、謀殺及謀殺後自殺的具體威脅。OpenAI 的政策表明，當偵測到用戶計劃傷害他人時，公司內部小組可審查相關對話，嚴重情況下會向執法部門舉報。
聊天紀錄成為證據
聯邦調查人員於 5 月將長達兩個月的聊天紀錄轉交當地警方，紀錄只包含 Zhou 發送的訊息，不包括 ChatGPT 的回覆。審閱紀錄的副警長表示，內容並非一時的情緒爆發，而是顯示出反覆排練和策劃的過程。Zhou 的威脅對象其後擴展至前女友的家人，警方曾對該名 21 歲女子進行福利檢查，她表示因 Zhou 表現出反覆無常、嫉妒及控制行為而提出分手，並選擇以電話方式結束關係，因為害怕對方反應激烈。
持續騷擾及逮捕
分手後，Zhou 持續以應用程式產生的電話號碼向前女友致電和發送訊息，內容包含騷擾、侮辱、性暗示及威脅。女子截圖保存了這些訊息，警方最終在 5 月將 Zhou 逮捕，他在監獄關押兩日後以 10 萬美元保釋。檢察官於 6 月以嚴重跟蹤、書面殺人威脅及非法使用手機三項重罪起訴，最高可判監 25 年。
認罪及判刑
Zhou 於 8 月 13 日與檢方達成認罪協議，承認全部三項罪名，但獲豁免監禁及重罪紀錄。巡迴法官 Scott Suskauer 表示，他之所以接納協議，是因為受害者同意有關安排。根據協議，Zhou 被判處八年緩刑，期間需遵守多項限制。法官亦指出，Zhou 畢業於波士頓東北大學並獲最高榮譽，且過往沒有犯罪紀錄。
