Facebook 聊天機械人實驗「失控」!兩個 AI 竟「自創語言」!

facebook ai test new language 00

facebook ai test new language 00

最近有關 AI 是否對人類有害的討論有很多,除了 Elon Musk 和 Mark Zuckerberg 的口水戰之外,最近在 Facebook 的一個實驗,涉及 AI 竟然「自創語言」。

Facebook 利用聊天機械人 Alice 和 Bob 進行機械人之間 AI 對話的實驗,目的是改善與人類溝通模式,Alice 和 Bob 在電腦工程角度是陳大文、小明、Chris Wong 這些無名氏角色。在實驗中 Alice 和 Bob 用英文討論如何分享有限的書、帽、籃球,但實驗繼續的時候出了意外,兩個 AI 竟然無視文法,說出這些說話:「i can i i everything else . . . . . . . . . . . . . .」、「balls have zero to me to me to me to me to me to me to me to me to」、「you i everything else . . . . . . . . . . . . . .」。

facebook ai test new language 01

這些說話逐個字看會看得明,但連在一起看無人會看到他們想什麼,最後 Facebook 決定停止實驗,並對外解釋道是因為工程師沒有設置使用正確語法的「獎勵」,所以才會衍生這種結果。

Facebook CEO Mark Zuckerberg 早前在一個 FB 直播之中暗批 AI 懷疑論者不負責任,引來 AI 懷疑論者 Elon Musk 暗批,引發 AI 口水戰,但今次事件似乎是對包括 Mark Zuckerberg 等 AI 樂觀者的一種警告。

facebook ai test new language 02

加入本站 WhatsApp 頻道最新限免情報立即知。

全新本站官方《限時情報王》 iOS 版 登場。限免已完結?不想錯過重大限免應用,可到本站追蹤 Telegram 頻道FacebookIG