深度|馬斯克等專(zhuān)家呼吁禁止開(kāi)發(fā)“殺人機(jī)器人”！為什么？
當(dāng)?shù)貢r(shí)間8月20日，包括特斯拉CEO馬斯克（ElonMusck）和谷歌DeepMind聯(lián)合創(chuàng)始人蘇萊曼（MustafaSuleyman）在內(nèi)的116名AI界專(zhuān)家，發(fā)布公開(kāi)信呼吁全面禁止自動(dòng)化武器。他們將自動(dòng)化武器稱(chēng)作殺人機(jī)器人，但在其他人的眼里，自動(dòng)化武器是新一代的高級(jí)軍備力量。人工智能不斷發(fā)展的當(dāng)下，自動(dòng)化武器真的會(huì)展現(xiàn)其可怕的一面嗎？
自動(dòng)化武器的殺傷力到底有多大？
馬斯克等眾多專(zhuān)家都出面后，自動(dòng)化武器的問(wèn)題終于又一次引發(fā)了討論。自動(dòng)化武器，工業(yè)機(jī)器人維修，作為軍備力量，對(duì)于將投入使用的國(guó)家來(lái)說(shuō)，可以節(jié)省士兵資源，避免人類(lèi)士兵的傷亡。但馬斯克等專(zhuān)家的擔(dān)憂(yōu)在于自動(dòng)化武器可能遭到濫用，將會(huì)對(duì)人類(lèi)生命安全產(chǎn)生威脅。聯(lián)合國(guó)人權(quán)理事會(huì)特別調(diào)查員海因斯（ChristofHeyns）早前曾表示，戰(zhàn)場(chǎng)上局勢(shì)復(fù)雜，不能確保自動(dòng)化武器信息傳遞及時(shí)與否；據(jù)其調(diào)查結(jié)果顯示美國(guó)無(wú)人機(jī)曾出現(xiàn)誤傷平民的情況。
同時(shí)馬斯克等專(zhuān)家也擔(dān)心國(guó)家間自動(dòng)化武器軍備力量的惡性競(jìng)爭(zhēng)，將導(dǎo)致繼火藥、核武器之后的第三次革命。早在2012年國(guó)際組織人權(quán)觀察站（HumanRightsWatch）便公布了一份具有致命性殺傷力的自動(dòng)化武器清單，時(shí)至今日也有多國(guó)已進(jìn)入自動(dòng)化武器的開(kāi)發(fā)進(jìn)程：
1.韓國(guó)哨兵機(jī)器人
▼
韓國(guó)三星集團(tuán)研發(fā)的SGR-A1哨兵機(jī)器人被部署在三八線附近，雖然SGR-A1與3歲小孩的個(gè)頭相當(dāng)，但其擁有自主射擊的能力。該哨兵機(jī)器人的設(shè)置主要是為了打擊非法入侵者，它可以通過(guò)內(nèi)置的攝像頭及運(yùn)動(dòng)傳感器等進(jìn)行工作，且可以追蹤多個(gè)目標(biāo)。據(jù)說(shuō)，該機(jī)器人一旦檢測(cè)到闖入者，則會(huì)向人類(lèi)管理員匯報(bào)，由管理員決定是否將闖入者射殺。
2.英國(guó)雷神無(wú)人機(jī)
▼
由英國(guó)航太系統(tǒng)公司開(kāi)發(fā)的雷神無(wú)人機(jī)（BAESystemsTaranis）擁有充分的自主權(quán)，能夠攜帶空對(duì)空及空對(duì)地彈藥，具有遠(yuǎn)程攻擊能力。因其獨(dú)特的設(shè)計(jì)，該架無(wú)人機(jī)還具有隱身功能，大大降低了被敵軍雷達(dá)偵測(cè)到的可能。2013年該架無(wú)人機(jī)進(jìn)行了首次試飛，預(yù)計(jì)將在2030年投入使用，并且很有可能替代狂風(fēng)（Tornado）GR4戰(zhàn)斗機(jī)。
3.俄羅斯多功能無(wú)人戰(zhàn)車(chē)
▼
美俄等國(guó)近期更著重于研發(fā)既可遠(yuǎn)程控制也可以自主操作的地面作戰(zhàn)用途機(jī)器人。這些項(xiàng)目包括俄羅斯的天王星-9（Uran-9）多功能無(wú)人戰(zhàn)車(chē)，主要用于對(duì)步兵班組的火力支援。天王星-9可裝30毫米炮與反坦克導(dǎo)彈，導(dǎo)彈射程估計(jì)在8千米左右，可以消滅坦克或低空直升機(jī)。
4.美國(guó)無(wú)人駕駛軍艦
▼
美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）主導(dǎo)研發(fā)的無(wú)人駕駛軍艦海上獵人（SeaHunter），2016年已進(jìn)行了海上測(cè)試。海上獵人主要擔(dān)當(dāng)反潛任務(wù)，在執(zhí)行任務(wù)時(shí)，這種無(wú)人船一旦發(fā)現(xiàn)敵方潛艇，便可持續(xù)跟蹤，并通過(guò)衛(wèi)星向附近的水面艦船發(fā)射潛艇的實(shí)時(shí)坐標(biāo)，以引導(dǎo)打擊行動(dòng)。
自動(dòng)化武器如何使用，庫(kù)卡機(jī)器人，政策并不能說(shuō)清
除了許多國(guó)家在研發(fā)自動(dòng)化武器，Rytheon、Dassault、MiG等公司已經(jīng)掌握或正在開(kāi)發(fā)自動(dòng)化武器的相關(guān)技術(shù)。自動(dòng)化武器的殺傷力如此大，且很有可能被所利用，工業(yè)機(jī)器人維修，因此專(zhuān)家的擔(dān)憂(yōu)并不是沒(méi)有道理，但頒布相關(guān)使用政策的國(guó)家卻很少。2012年，美國(guó)國(guó)防部曾發(fā)布關(guān)于自動(dòng)化武器的使用政策，但這項(xiàng)政策界限較為模糊，沒(méi)有明確定義哪種行動(dòng)是不被允許的，若自動(dòng)化武器發(fā)出致命性行動(dòng)，這是否會(huì)被禁止我們不得而知。
馬斯克等專(zhuān)家此次發(fā)布的公開(kāi)信也表示，希望聯(lián)合國(guó)將自動(dòng)化武器加入到《特定常規(guī)武器公約》中。該公約旨在限制在戰(zhàn)爭(zhēng)中使用某些被認(rèn)為具有過(guò)分傷害力或?yàn)E殺濫傷作用的常規(guī)武器，包括地雷、致盲性武器等。美國(guó)軍事評(píng)論網(wǎng)則表示，伴隨著人工智能的發(fā)展，自動(dòng)化武器的出現(xiàn)不可避免，但可以禁止一旦發(fā)射就無(wú)法召回、任務(wù)不能終止的完全自動(dòng)化武器。
最終背鍋的還是人類(lèi)管理員
1944年，著名科幻大師阿西莫夫（IsaacAsimov）在科幻小說(shuō)《環(huán)舞》（Runaroud）中，首次提出了機(jī)器人三大法則，其中第一條就是機(jī)器人不得傷害人類(lèi)，但近些年機(jī)器人是否會(huì)背叛人類(lèi)的話(huà)題不絕于耳。
2015年，在同樣的商討禁止發(fā)展殺人機(jī)器人的會(huì)議上，英國(guó)公開(kāi)反對(duì)禁止發(fā)展殺人機(jī)器人，其原因是英國(guó)研發(fā)的自動(dòng)化武器均是有人類(lèi)監(jiān)控的�！缎l(wèi)報(bào)》對(duì)此也表示，機(jī)器人凌駕于道德之上，只是在進(jìn)行著系統(tǒng)工作，最終控制系統(tǒng)的還是人類(lèi)。