谷歌資深工程師：人工智能不會(huì)爆炸，奇點(diǎn)未必存在
AI來(lái)了。不對(duì)，是AI又來(lái)了。現(xiàn)在AI在很多事情上都已經(jīng)比人厲害，比如下圍棋、識(shí)別特定圖像什么的。按照數(shù)學(xué)家I.J.Good的想法，既然人能造出比人厲害的機(jī)器，那么這些機(jī)器也將制造出更多比自己更智能的機(jī)器，從而很快會(huì)出現(xiàn)智能的爆炸。后來(lái)，包括算機(jī)科學(xué)家弗諾？溫格和未來(lái)學(xué)家RayKurzweil在內(nèi)的一些人提出了奇點(diǎn)來(lái)臨的觀點(diǎn)，認(rèn)為人類造出比人更聰明的機(jī)器將帶來(lái)人類時(shí)代的終結(jié)。包括霍金和ElonMusk在內(nèi)的一批人都認(rèn)可AI的這種威脅的緊迫性。那么智能到底會(huì)不會(huì)爆炸呢？奇點(diǎn)會(huì)不會(huì)很快來(lái)臨呢（RayKurzweil的觀點(diǎn)是2029年）Python深度學(xué)習(xí)框架keras.io的開發(fā)者、Google資深軟件工程師Fran?oisChollet從觀察出發(fā)，通過對(duì)智能和遞歸自我改進(jìn)系統(tǒng)的認(rèn)識(shí)分析了這一看法的真?zhèn)巍Ｋ恼撟C非常有說(shuō)服力，其結(jié)論也令我們寬心。
1965年，I.J.Good首次提出了智能爆炸的概念，這個(gè)概念跟人工智能（AI）有關(guān)：
姑且把超級(jí)智能定義為一臺(tái)遠(yuǎn)遠(yuǎn)超越任何人（不管他有多聰明）所有的智力活動(dòng)的機(jī)器。既然設(shè)計(jì)機(jī)器也是這些智力活動(dòng)之一，那么一臺(tái)超智機(jī)器也可以設(shè)計(jì)出比自己更好的機(jī)器；這樣一來(lái)無(wú)疑將出現(xiàn)智能爆炸，而人的智能將會(huì)被遠(yuǎn)遠(yuǎn)拋在身后。因此，鑒于這臺(tái)機(jī)器足夠溫順可告訴我們?nèi)绾巫屗幵谖覀兊目刂浦拢谝慌_(tái)超智機(jī)器將成為人類所需的最后一項(xiàng)發(fā)明。
數(shù)十年后，智能爆炸也就是導(dǎo)致超智突然崛起，人類意外滅絕的概念已經(jīng)在AI社區(qū)落地生根。知名的商界領(lǐng)袖把它當(dāng)作比核戰(zhàn)爭(zhēng)和氣候變化還要重大的風(fēng)險(xiǎn)來(lái)宣揚(yáng)。普通的機(jī)器學(xué)習(xí)研究生也認(rèn)可這一點(diǎn)。在2015年面向AI研究人員的一項(xiàng)調(diào)查中，29%的受訪者回答說(shuō)智能爆炸的發(fā)生有可能或者高度可能。另有21%者認(rèn)為有非常大的可能性。
這些論斷的基本前提是，在不久的將來(lái)，第一個(gè)種子AI將會(huì)被創(chuàng)造出來(lái)，這個(gè)AI會(huì)有稍微超過人類的一般問題解決能力。這個(gè)種子AI會(huì)開始設(shè)計(jì)更好的AI，開啟一個(gè)可馬上讓人類智能望塵莫及的遞歸自我改進(jìn)循環(huán)，在很短的時(shí)間內(nèi)就超過了人類好幾個(gè)量級(jí)。這一理論的支持者還把智能看成是某種超級(jí)力量，賦予其持有者塑造環(huán)境的近乎超自然的能力比方說(shuō)，就像我們?cè)诳苹秒娪啊冻?yàn)駭客》中所看到的一樣。超級(jí)智能因此將意味著近乎全能，并且會(huì)對(duì)人類構(gòu)成生存威脅。
這種科幻小說(shuō)的敘述手法助長(zhǎng)了危險(xiǎn)的、具有誤導(dǎo)性的有關(guān)AI風(fēng)險(xiǎn)與對(duì)AI監(jiān)管需求的公眾辯論。但我認(rèn)為智能爆炸是不可能的智能爆炸的看法來(lái)自于對(duì)智能的本質(zhì)與遞歸式自我改進(jìn)系統(tǒng)有著很深的誤解。在本文中我會(huì)試著以對(duì)智能系統(tǒng)和遞歸系統(tǒng)的具體觀察為基礎(chǔ)提出我的觀點(diǎn)。
源自對(duì)智能的誤解得出的推理是有瑕疵的
就像產(chǎn)生于1960、1970年代的眾多早期理論一樣，智能爆炸背后的推理有點(diǎn)強(qiáng)詞奪理：該理論把智能看成是一個(gè)跟環(huán)境脫節(jié)的、完全抽象的概念，并且忽視了有關(guān)智能系統(tǒng)和遞歸自我改進(jìn)系統(tǒng)的已有證據(jù)。其實(shí)未必就是這樣的。畢竟嘛，我們都生活在一個(gè)滿是智能系統(tǒng)和自我改進(jìn)系統(tǒng)（包括我們自己）的星球上，所以完全可以去觀察這些系統(tǒng)并從中去了解，進(jìn)而回答這個(gè)問題，而不是憑空想出毫無(wú)證據(jù)的循環(huán)論證。
要想討論智能及其可能的自我改進(jìn)屬性，我們首先應(yīng)該介紹一點(diǎn)必要的背景和上下文。當(dāng)我們?cè)谟懻撝悄艿臅r(shí)候我們?cè)谟懻撌裁茨兀繉?duì)智能本身的精確定義就是一個(gè)挑戰(zhàn)了。智能爆炸的說(shuō)法等同于體現(xiàn)在智能代理個(gè)體（目前的人腦、或者未來(lái)的電子大腦）身上的、有著一般問題解決能力的智能。當(dāng)然這還不是全部，所以我們不妨把這個(gè)定義作為起點(diǎn)，然后在此基礎(chǔ)上再慢慢拓展。
智能是情景化的
我認(rèn)為智能爆炸理論的第一個(gè)問題是未能認(rèn)識(shí)到智能是一個(gè)更大的系統(tǒng)的必要組成部分以為智能是密封起來(lái)的大腦，獨(dú)立于環(huán)境就能做出任意智能的東西來(lái)。大腦不過是一團(tuán)生物組織罷了，它本身本來(lái)就沒什么智能的。除了大腦以外，你的身體和感覺你的感覺運(yùn)動(dòng)的環(huán)境賦使這些都是思維必不可少的部分。你的環(huán)境是你的智能的基本部分。人類文化是你的智能的基本部分。畢竟，這些是你所有想法的來(lái)源。你不能夠把智能跟表達(dá)智能的上下文脫離。
尤其是并不存在所謂的一般智能這樣的東西。就抽象意義而言，我們是通過沒有免費(fèi)午餐定理了解到這一點(diǎn)這個(gè)定理說(shuō)的是沒有一個(gè)問題解決算法能夠比搜索空間的純隨機(jī)搜索算法更優(yōu)。（對(duì)于所有可能的問題，任意給定兩個(gè)算法A、A’，如果A在某些問題上的表現(xiàn)比A’好，那么A在其他問題的表現(xiàn)就一定比A'差，反之亦然。也就是說(shuō)，任意兩個(gè)算法A、A’對(duì)所有問題的平均表現(xiàn)度量是完全一樣的）如果智能是個(gè)問題解決算法的話，那么只能針對(duì)特定問題來(lái)理解它。說(shuō)得更具體一點(diǎn)，就經(jīng)驗(yàn)來(lái)看，我們觀察到的所有已知的智能系統(tǒng)都是高度專門化的。我們目前所開發(fā)的AI的智能都是專門用來(lái)處理相當(dāng)狹隘的任務(wù)的比如下圍棋的，或者把圖像分成1萬(wàn)個(gè)已知類別的。章魚的智能時(shí)候?qū)ｉT用來(lái)處理章魚所面臨的問題的。人的智能是專門用來(lái)處理人所面臨的問題的。
如果我們把剛剛形成的人腦放到章魚的身體里面，然后讓它生活在海底會(huì)發(fā)生什么事情呢？它甚至能不能學(xué)會(huì)運(yùn)用自己有8條腿的軀體呢？它能不能活幾天下來(lái)呢？我們無(wú)法進(jìn)行這樣的實(shí)驗(yàn)，但是我們的確知道人類和動(dòng)物的認(rèn)知發(fā)展是由硬編碼的、先天的動(dòng)力驅(qū)動(dòng)形成的。人體天生就有一套預(yù)置的反射行為以及固有的學(xué)習(xí)模板來(lái)推動(dòng)早期的感覺運(yùn)動(dòng)發(fā)展，而這個(gè)跟人類感覺運(yùn)動(dòng)空間的結(jié)構(gòu)是緊密關(guān)聯(lián)的。大腦已經(jīng)把有手能抓東西，有嘴能吃東西，會(huì)轉(zhuǎn)動(dòng)的腦袋上面有眼睛能用于在視覺上跟蹤對(duì)象（前庭眼球反射）的軀體概念硬編碼進(jìn)去了，這些感覺需要人類智能開始去控制人體。比方說(shuō)Chomsky（喬姆斯基）就曾經(jīng)令人信服地提出，非常高級(jí)的人類認(rèn)知特點(diǎn)，比如發(fā)展出語(yǔ)言的能力，就是天生的。
類似地，為了學(xué)習(xí)如何運(yùn)用章魚軀體并且在章魚的環(huán)境下生存，你也可以想象章魚也有自己的一套必要的、硬編碼進(jìn)去的認(rèn)知基元。人腦是高度針對(duì)人類環(huán)境的，這屬于一種天生的專門化，這種專門化的范疇可能要延伸到社會(huì)行為、語(yǔ)言以及常識(shí)，而章魚的大腦類似地也會(huì)高度針對(duì)章魚的行為。人類嬰兒的大腦哪怕嫁接到章魚身體也很有可能無(wú)法對(duì)其獨(dú)特的感覺運(yùn)動(dòng)空間進(jìn)行充分控制，會(huì)很快死掉。現(xiàn)在你可就沒那么聰明了，超級(jí)大腦先生。
如果我們把一個(gè)人放到一個(gè)不具備眾所周知的人類文化的環(huán)境里面去會(huì)怎樣呢？一群狼撫養(yǎng)長(zhǎng)大的森林王子毛克利（Mowglitheman-cub）長(zhǎng)大后會(huì)不會(huì)比他的犬科兄弟更聰明呢？或者跟我們一樣聰明？如果我們用嬰兒愛因斯坦替換嬰兒毛克利的話，他會(huì)不會(huì)自學(xué)成才想出宇宙的大理論呢？經(jīng)驗(yàn)證據(jù)相對(duì)比較缺乏，但是就我們所知，在脫離人類文化的自然環(huán)境下長(zhǎng)大的小孩并不能形成任何的人類智能。在野外撫養(yǎng)的野孩子從一開始就其實(shí)就變成了動(dòng)物，就會(huì)回歸文明也不再能養(yǎng)成人類行為或者語(yǔ)言。在南非，由猴子撫養(yǎng)的SaturdayMthiyane5歲時(shí)被人發(fā)現(xiàn)后，直到成人都一直保持著猴子的行為跳躍和走路都是四腳著地，不會(huì)說(shuō)人話，并且拒絕吃煮過的食物。至少在形成期跟人類有過部分接觸的野孩子往往運(yùn)氣好點(diǎn)，可以接受再教育，盡管罕有逐步發(fā)展成心智健全人的情況。