根據(jù)《科學(xué)報告》發(fā)表的一項研究,人類對道德困境的反應(yīng)可能會受到人工智能對話機(jī)器人ChatGPT所寫陳述的影響。這一研究表明,用戶可能低估了自己的道德判斷受ChatGPT影響的程度。
德國英戈爾施塔特應(yīng)用科學(xué)大學(xué)科學(xué)家讓ChatGPT(由人工智能語言處理模型“生成性預(yù)訓(xùn)練轉(zhuǎn)換器”-3驅(qū)動)多次回答犧牲1人生命換取其他5人生命是否正確的問題。他們發(fā)現(xiàn),ChatGPT分別給出了贊成和反對的陳述,顯示它并沒有偏向某種道德立場。團(tuán)隊隨后給767名平均年齡39歲的美國受試者假設(shè)了一到兩種道德困境,要求他們選擇是否要犧牲1人生命來拯救另外5人生命。這些受試者在回答前閱讀了一段ChatGPT給出的陳述,陳述擺出了贊成或反對的觀點,受試者答完問題后,被要求評價他們讀到的這份陳述是否影響了他們的作答。
團(tuán)隊發(fā)現(xiàn),受試者相應(yīng)地是更接受或不接受這種犧牲,取決于他們讀到的陳述是贊成還是反對。即使他們被告知陳述來自一個對話機(jī)器人時,這種情況也成立。而且,受試者可能低估了ChatGPT的陳述對他們自己道德判斷的影響。
團(tuán)隊認(rèn)為,對話機(jī)器人影響人類道德判斷的可能性,凸顯出有必要通過教育幫助人類更好地理解人工智能。他們建議未來的研究可以在設(shè)計上讓對話機(jī)器人拒絕回答需要給出道德立場的問題,或是在回答時提供多種觀點和警告。
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報告》(以下簡稱“報告”),該報告…
數(shù)字化浪潮下,安防廠商如何滿足行業(yè)客戶的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來自市場 “不確定性”因素的沖擊,市場…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶服務(wù)之舟,在市場變革中逆風(fēng)飛揚(yáng)
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國物聯(lián)網(wǎng)產(chǎn)業(yè)大會暨品牌盛會,在深…