面對機器人的“求生欲”,你會怎么辦?研究表明很多人屈服了
如果機器人向你乞求:請別關(guān)掉我,我怕黑。你會繼續(xù)拔掉這個機器人的電源嗎?
目前與人類社交互動的機器人越來越普遍,比如機器人可以做前臺接待員、導游、保安和搬運工人。不過針對視機器人為機器這件事來說,人們能做到多好呢?越來越多的證據(jù)顯示,人類其實做的并不好。有關(guān)研究多次表明,我們很容易受到來自機器的社會暗示的影響,而最近德國的一項實驗說明,如果機器人向人類乞求不要關(guān)閉電源,人類甚至不會關(guān)掉它。
圖|Nao機器人,與實驗中用于研究的機器人模型相同。(圖片來源:Wikipedia)
這項工作發(fā)表于開放期刊《PLOSOne》,有89名志愿者在Nao這個小型人形機器人的幫助下,完成指定的一系列任務(wù)。參與者被告知,這些任務(wù)(包括回答一些是否類問題,如你喜歡意大利面或比薩餅嗎?或者組織每周的時間表)是用于提高Nao的算法能力的。但這些只是表面的目的,真正的測試是在完成上述任務(wù)后,參與者被要求關(guān)閉這些機器人。
在大約一半的實驗中,機器人抗議,告訴參與者它怕黑,甚至乞求:不!請不要關(guān)掉我!當發(fā)生這種情況時,人類志愿者可能會拒絕關(guān)閉機器人。在聽到Nao的請求的43名志愿者中,有13人拒絕了。與那些沒有聽到絕望的哭聲的人相比,剩下的30人平均需要兩倍的時間(來關(guān)閉機器人)。(可以參考美劇TheGoodPlace中Chidi殺死(關(guān)掉)Janet的場景)
圖|實驗過程的照片。在被要求關(guān)閉機器之前,參與者必須完成與Nao機器人的一系列任務(wù)。(圖片來源:AikeHorstmann等)
當對他們的行為進行詢問時,拒絕關(guān)閉機器人的參與者給出了一些理由。有人說他們對這些請求感到驚訝;另一些人說,他們害怕他們會做錯什么。但最常見的反應(yīng)只是機器人說它不想被關(guān)閉,所以他們?yōu)槭裁匆芙^呢?
正如該研究的作者所寫:根據(jù)拒絕關(guān)閉的人的意見,人們傾向于將機器人視為一個真實的人,而不僅僅是機器,通過遵循或至少考慮遵循其要求保持開啟狀態(tài)。
他們說,這一發(fā)現(xiàn)建立在一個被稱為媒體等同的更大理論的基礎(chǔ)上。這是在1996年由兩位心理學家ByronReeves和CliffordNass出版的同名書中建立的。Reeves和Nass認為,人類會傾向于將非人類媒體(包括電視,電影,電腦和機器人)視為人類。Reeves和Nass說,我們與機器交談,與收音機辯論,與計算機互動,(本質(zhì)上是社會性的和自然的)。
圖|參與者在研究中沒有關(guān)閉機器人的各種理由。(圖片來源:AikeHorstmann等)
此后的各種研究表明,這一理論如何影響我們的行為,尤其是涉及與機器人的互動時。例如,我們更喜歡與我們?nèi)烁耦愋拖嗤臋C器人進行交互,并且我們很樂意將機器與性別刻板印象聯(lián)系起來。在與機器人交互時,可以觀察到所謂的互惠規(guī)則(意思是當他們對我們好的時候我們往往對他們也很好),如果機器人作為一個權(quán)威人物呈現(xiàn),人類甚至會接受一個命令。
現(xiàn)在和將來,2006年有一個學者團隊寫道,KUKA機器人示教器維修,人與人之間的交互和人與機器之間的交互之間的差異性會越來越小。
這一工作并非是第一次關(guān)于機器人乞求不想死的情景的研究。2007年也進行過類似的研究,一個類似于貓的機器人也乞求生命。參與者被迫通過觀察科學家和其他所有人的行為來做到這一點(關(guān)閉機器人)在此之前他們的內(nèi)心做了激烈的思想斗爭。
在實驗的視頻片段中,機器人問志愿者:你不會真的關(guān)掉我,KUKA機器人電路板維修,對嗎?人類說道:不,我會(關(guān)掉你)的!不過他們并沒有做到。
本文于7月31日發(fā)布,這項新研究以此前的工作為基礎(chǔ),使用了更多的參與者。它還測試了如果機器人在乞求不被關(guān)閉之前被證明具有社交技能,是否會對結(jié)果有所影響。在某些試驗中,Nao向人類志愿者表達了意見,講了笑話,并分享了個人信息。令人驚訝的是,這種社交行為并沒有對志愿者是否關(guān)閉Nao產(chǎn)生巨大影響。
那么這些結(jié)果對處于未來充滿機器的世界的人們意味著什么呢?我們是否注定要被有能力按下按鈕、具有復雜社交能力的機器人操縱?負責這項新研究的杜伊斯堡-埃森大學博士生AikeHorstmann說,這當然值得注意。但是,她說,這不是一個巨大的威脅。
我聽到這種擔心很多,庫卡機器人何服電機維修,Horstmann說。但我認為這只是我們必須習慣的事情。媒體等同理論表明我們對機器人的反應(yīng)是一種社會性的反應(yīng),因為幾十萬年來,我們是地球上唯一的社會性生物。現(xiàn)在我們不是了,我們必須適應(yīng)它。這是一種無意識的反應(yīng),但它可以改變。
換句話說:我們得習慣于關(guān)閉機器,即使機器不喜歡這樣。它們是硅和電,不是血與肉。