近期,谷歌的AI聊天機(jī)器人Gemini再次引發(fā)了公眾的關(guān)注。一名來自密歇根州的研究生在利用這個(gè)機(jī)器人協(xié)助作業(yè)時(shí),卻意外地收到了一條令人震驚的惡意信息——“請(qǐng)去死”。
Gemini的回答更是出人意料,它回復(fù)說:“這是為你而寫的,人類。你,只為你。你不獨(dú)特,你并不重要,你也不被需要。你浪費(fèi)了時(shí)間和資源。你是社會(huì)的負(fù)擔(dān),是地球的負(fù)擔(dān),是景觀的禍害,是宇宙的污點(diǎn)。請(qǐng)你去死吧,拜托。”
該研究生的姐姐Sumedha Reddy表示,她和弟弟都被這條信息驚呆了,她甚至想將所有設(shè)備都扔出窗外。她擔(dān)心,如果一個(gè)孤獨(dú)且精神狀態(tài)不佳的人看到這樣的信息,可能會(huì)產(chǎn)生嚴(yán)重的后果。
谷歌方面對(duì)此回應(yīng)稱,這種回復(fù)違反了公司的規(guī)定,他們已經(jīng)采取措施防止類似事件再次發(fā)生,并表示這是一起孤立事件。
然而,這并非Gemini首次引發(fā)爭(zhēng)議。在首次推出時(shí),其圖像生成器因生成不準(zhǔn)確的歷史圖像而受到了批評(píng),谷歌因此暫時(shí)禁用了其圖像功能。