1940年,享譽(yù)全球的科幻小說作家艾薩克.阿西莫夫(Isaac Asimov)構(gòu)思和醞釀了“機(jī)器人三定律”,于1941年5月至10月完成和發(fā)表的一系列短篇小說中,把“機(jī)器人三定律”公之于眾:第一定律.機(jī)器人不得傷害人類個(gè)體、或者目睹人類個(gè)體遭遇危險(xiǎn)卻袖手旁觀;第二定律.機(jī)器人必須服從人類給予它的命令,除非這一命令與第一定律相矛盾;第三定律.不違反第一定律和第二定律的前提下,機(jī)器人要盡可能的確保自己的生存。基于“機(jī)器人三定律”,艾薩克.阿西莫夫希望人類(即“碳文明”)和機(jī)器人(即“硅文明”)可以攜手并進(jìn)、共生共存。
盡管“機(jī)器人三定律”堪稱機(jī)器人學(xué)的金科玉律,可它的局限性也顯而易見,比如第一定律中,艾薩克.阿西莫夫強(qiáng)調(diào)了“人類個(gè)體”、卻忽視了“人類整體”,因此,對(duì)于“機(jī)器人三定律”的修訂和補(bǔ)充也陸陸續(xù)續(xù)的提了出來。艾倫人工智能研究所的首席執(zhí)行官埃齊奧尼認(rèn)為,于“機(jī)器人三定律”的基礎(chǔ)上,還要增補(bǔ)“人工智能系統(tǒng)必須明確的表示它不是人類”、“未經(jīng)允許,人工智能系統(tǒng)不能保留和披露機(jī)密信息”等等規(guī)則。不過,中國(guó)科技大學(xué)的陳小平教授說,修訂和補(bǔ)充“機(jī)器人三定律”的意義和效用并不大,迫在眉睫的問題不是“原則”、而是“細(xì)節(jié)”,人類急需完善人工智能和智能機(jī)器人相關(guān)的倫理細(xì)節(jié)。
(機(jī)器人)
第一定律中,“機(jī)器人不得傷害人類個(gè)體”,那么“傷害”究竟是指什么呢?機(jī)器人對(duì)待某一人類個(gè)體的什么方式才稱得上“傷害”呢?人們?nèi)绾瘟炕蜆?biāo)準(zhǔn)化“傷害”、且準(zhǔn)確的認(rèn)定和排除“傷害”呢?若機(jī)器人對(duì)某一人類個(gè)體并未造成生理層面的損害,但這一人類個(gè)體因主觀的厭惡和恐懼而出現(xiàn)了精神層面的問題,這是不是一種“傷害”呢?以上的問題僅僅是九牛一毛而已,還有數(shù)之不盡的問題需要細(xì)化和深究,更需要人們探討和制定比較具體的規(guī)則來“防患于未然”,不能停留在“機(jī)器人三定律”的框架中。
美國(guó)人工智能倫理領(lǐng)域的知名學(xué)者泰格馬克呼吁人們超越艾薩克.阿西莫夫的“機(jī)器人三定律”,商討和確立新的人工智能倫理原則,確保人類的利益不受人工智能的損害、且人工智能與人類的發(fā)展目標(biāo)一致。因此,泰格馬克發(fā)起了“AI有益運(yùn)動(dòng)”,倡導(dǎo)人們把“有益于人類”樹立為核心,圍繞著這一核心而開創(chuàng)一套人工智能倫理體系,已故的物理學(xué)家斯蒂芬.霍金和多位著名科學(xué)家支持“AI有益運(yùn)動(dòng)”。泰格馬克一再?gòu)?qiáng)調(diào),AI人工智能在“乘數(shù)效應(yīng)”的推動(dòng)下會(huì)變得越來越強(qiáng)大,留給人類試錯(cuò)的時(shí)間和空間越來越小了。
(機(jī)器人)
為了呼應(yīng)泰格馬克,美國(guó)機(jī)器智能研究院的開創(chuàng)者尤德科夫斯基提出“友善人工智能”的理念,他號(hào)召人工智能領(lǐng)域的研發(fā)人員和科研機(jī)構(gòu)把“友善”樹立為核心,從人工智能的設(shè)計(jì)和開發(fā)之初,就把“友善”植入智能系統(tǒng)中,這樣的話,“友善”就成了人工智能倫理的基礎(chǔ)和宗旨了。
陳小平教授認(rèn)為,現(xiàn)階段的人工智能和智能機(jī)器人并無重大的隱患和風(fēng)險(xiǎn),短期之內(nèi),只有網(wǎng)絡(luò)用戶個(gè)人隱私安全和相關(guān)技術(shù)濫用等等問題急需管控和防范,但從長(zhǎng)遠(yuǎn)的角度來說,嶄新和完善的人工智能倫理體系必須盡快的確立和落實(shí),絕不能出了嚴(yán)重的問題之后再“亡羊補(bǔ)牢”,畢竟一些犯錯(cuò)的代價(jià)是人類無法承受的。
