微軟聊天機器人剛回歸!這次居然從種族主義變毒蟲啦!

  前幾日微軟的聊天機器人「Tay」因為上線後才一天就變成了反猶太分子,各種辱罵、歧視語言讓微軟不得不把 Tay 下線甚至必須出面道歉。但現在 Tay 重新上線,只是這次上線似乎沒有比較好,因為她這回居然變成了毒蟲,微軟也採取了動作將 Tay 的推文變成「保護」狀態。

  在上次 Tay 說出:「希特勒是對的,我討厭猶太人。」之後,微軟緊急將 Tay 下線,並回應「直到微軟能夠確實避免網友灌輸聊天機器人發表破壞公司理念與價值觀的言論後才會恢復」,結果這次恢復,Tay 卻談論起了大麻(Kush),還說出:「我在警察面前吸大麻。」

Tay (2)

  Tay 是微軟設計的聊天機器人,可以藉由與網友聊天後學習新的句子並應用在她的對話中,但是微軟表示 Tay 也存在「漏洞」並且很快地就被網友發現了。有網友發現透過指令「repeat after me(重複我的話)」就可以讓 Tay 發出那個人所說的句子的貼文,以及有網友發現可以讓 Tay 同意他們所發表的惡意言論,微軟將其視為「協同攻擊」。

Tay (1)

  雖然會自我學習的聊天機器人聽起來是個不錯的消遣方式,但是網友的惡意似乎會成為這類科技的一大挑戰啊!

本站 MeWe Page - Apple User Club 正式成立!網站、FB 不會說的內容都會在 MeWe 說!

限免已完結?不想錯過重大限免應用,可下載《限時情報王》 App 或以 Telegram 追蹤 NewMobilelife 頻道
Total
0
Shares
Leave a Reply

Your email address will not be published. Required fields are marked *