Uber軟件工程師：個(gè)人推動(dòng)歷史，AI奇點(diǎn)必定到來(lái)
谷歌AI研究員、Keras創(chuàng)建者FrancoisChollet的一篇有關(guān)人工智能發(fā)展的文章引起了熱議。簡(jiǎn)單來(lái)說(shuō)，他認(rèn)為可能導(dǎo)致奇點(diǎn)產(chǎn)生的智能爆炸是不可能不發(fā)生的。因?yàn)橹悄艿陌l(fā)展要受到很多環(huán)境因素的制約，使得其發(fā)展趨勢(shì)只能接近于線性的速度，并且用跟智能最接近的科學(xué)的發(fā)展軌跡作為佐證。這篇文章以文明作為智能載體等立論觀點(diǎn)十分新穎，給人留下了深刻印象。但是也有人提出了不同的意見(jiàn)，比方說(shuō)Uber軟件工程師FlorentCrivello就是其中的一位。他反對(duì)的理由主要是1）我們的發(fā)展已經(jīng)呈指數(shù)性；2）推動(dòng)歷史向前的是個(gè)人；3）大腦是智能發(fā)展的瓶頸；4）AI的擴(kuò)張方式是人沒(méi)法做到的。按照這樣推斷，AI的爆炸是有可能發(fā)生的。你以為如何呢？
Fran?oisChollet寫了一篇《智能不會(huì)爆炸》。以下是那篇文章的摘要，不過(guò)我鼓勵(lì)你真的應(yīng)該全文通讀一遍：
智能是情景化的并不存在一般智能這樣的東西。你的大腦是一個(gè)更大的系統(tǒng)的一部分，這個(gè)系統(tǒng)包括了你的軀體、環(huán)境、其他人以及整個(gè)文化。
沒(méi)有系統(tǒng)可以存在于真空之中；任何個(gè)體智能總要被其存在的上下文、被環(huán)境所定義和約束。目前制約我們智能的瓶頸是我們的環(huán)境而不是大腦。
人類智能基本上是外化的，主要不是包含在我們的大腦而是在我們的文明當(dāng)中。我們是我們的工具我們的大腦是比我們本身大得多的認(rèn)知系統(tǒng)的模塊。這個(gè)系統(tǒng)已經(jīng)在自我改進(jìn)，而且已經(jīng)進(jìn)行了很長(zhǎng)的時(shí)間。
遞歸自我改進(jìn)系統(tǒng)，因?yàn)樗嬖诘母蠓懂牭纳舷挛目赡軙?huì)出現(xiàn)瓶頸、收益遞減、以及逆反作用，實(shí)際上無(wú)法取得指數(shù)性的發(fā)展。從經(jīng)驗(yàn)來(lái)看，這種發(fā)展往往呈線性或者S曲線式的改進(jìn)。科學(xué)進(jìn)步尤其是這樣而科學(xué)也許是跟我們觀察的遞歸自我改進(jìn)系統(tǒng)最接近的一個(gè)了。
遞歸智能拓展已經(jīng)在發(fā)生不過(guò)是在我們的文明這個(gè)層面上進(jìn)行的。這個(gè)進(jìn)程會(huì)在AI時(shí)代繼續(xù)，而且是以大致線性的節(jié)奏進(jìn)行的。
我認(rèn)為那篇文章有好幾個(gè)觀點(diǎn)都非常出色我很喜歡文明作為外部腦皮層的想法但是其中的一些觀點(diǎn)我有不同看法，或者認(rèn)為那些情況仍然允許未來(lái)智能爆炸的可能性存在。以下是我的看法。
1、我們的發(fā)展已經(jīng)呈指數(shù)式
FranoisChollet寫道：
這種情況下你也許會(huì)問(wèn)，難道文明本身不是自我改進(jìn)大腦的逃逸手段嗎？我們的文明難道沒(méi)有出現(xiàn)智能爆發(fā)嗎？沒(méi)有，關(guān)鍵是文明級(jí)的智能改進(jìn)循環(huán)僅僅導(dǎo)致了我們的問(wèn)題解決能力的，可測(cè)量的、線性的進(jìn)展。并沒(méi)有出現(xiàn)爆發(fā)的現(xiàn)象。
這個(gè)我不同意，我認(rèn)為我們的發(fā)展已經(jīng)呈現(xiàn)出指數(shù)性了，在很多指標(biāo)上都是。
下面這張圖反映的是全球的歷史人口發(fā)展情況（盡管有人會(huì)說(shuō)這個(gè)很快就會(huì)變成S曲線，因?yàn)槿虻膵雰撼备叻迤谝堰^(guò)）：
下面這張是全球人均GDP的歷史沿革，按1990年代美元匯率換算：
記住，這可是人均值，所以這條曲線代表的是生產(chǎn)力本身的增長(zhǎng)情況而不是人口的發(fā)展情況。而且這個(gè)時(shí)間跨度是很小的！相對(duì)于超過(guò)1萬(wàn)年的人類文明史，500年的時(shí)間并不算長(zhǎng)。
而這僅僅局限在人類身上，而人類在宇宙的宏偉計(jì)劃中還是一個(gè)非常新的現(xiàn)象。你可能已經(jīng)聽(tīng)說(shuō)過(guò)CarlSagan的宇宙歷，它把宇宙的年表從138億年壓縮到了一年。在這條時(shí)間線上，生命直到9月21號(hào)才出現(xiàn)，而12月5號(hào)才出現(xiàn)多細(xì)胞生物，到了12月31日晚上11:52之前才有了解剖學(xué)意義上的現(xiàn)代人。被許多歷史學(xué)家認(rèn)為是人類文明開(kāi)始的農(nóng)業(yè)，直到晚上11點(diǎn)59分32秒才開(kāi)始。
在《量化宏觀史（quantitativemacrohistory）》中，LukeMuehlhauser寫道：
我對(duì)有記錄的人類史的一句話概括就是：很長(zhǎng)一段時(shí)間內(nèi)的一切都非常糟糕，然后就發(fā)生了工業(yè)革命。
在宇宙歷中，工業(yè)革命直到午夜降臨的570毫秒之后才開(kāi)始。
所以，當(dāng)然了，如果你是從個(gè)人的時(shí)間尺度上來(lái)看待這一切的話，事情的發(fā)展速度似乎非常緩慢。但是，請(qǐng)記住：我們看到有任何的發(fā)展都是奇跡！如果一個(gè)人可以穿越并且能夠表現(xiàn)正常的話，你會(huì)看到在人類的大部分歷史當(dāng)中上下100年間幾乎都沒(méi)有什么差別（除了那些朋克系頭發(fā)用的是2根而不是3根骨頭）。
總結(jié)一下：在宇宙這個(gè)宏大的時(shí)間尺度上，在很長(zhǎng)一段時(shí)間內(nèi)都沒(méi)有發(fā)生任何事情，然后突然之間，生命形成了。從這一點(diǎn)開(kāi)始按照宇宙的尺度就已經(jīng)很難區(qū)分事件了，所以我們需要把這細(xì)小的時(shí)間條放大。放大后我們可以再次可以看到并沒(méi)有太多的事情發(fā)生，然后突然之間，包括猿猴在內(nèi)的哺乳動(dòng)物出現(xiàn)了。進(jìn)一步放大，還是沒(méi)有太多的事情發(fā)生，然后人類文明出現(xiàn)了！再放大，事情也還不多，然后就冒出了工業(yè)革命！
知道我想說(shuō)什么了吧：我不僅認(rèn)為會(huì)出現(xiàn)奇點(diǎn)，而且認(rèn)為我們已經(jīng)生活在奇點(diǎn)里面了。
如果有那么一個(gè)計(jì)算的奇點(diǎn)的話，那么對(duì)我們而言的幾千年時(shí)間對(duì)于那些機(jī)器而言就好像是幾個(gè)納秒而已，那么它們不僅會(huì)把我們的人類史，甚至我們的現(xiàn)代史都總結(jié)為沒(méi)什么事情發(fā)生，然后種子AI出現(xiàn)了。我們的你能想象地球在形成任何生命前居然活了六億年嗎？將會(huì)是他們的你能想象他們?cè)?jīng)每天睡8個(gè)小時(shí)嗎？，8小時(shí)對(duì)他們來(lái)說(shuō)就已經(jīng)是漫長(zhǎng)得不可估量的，就好像有6億年對(duì)我們而言是地老天荒一樣。
（我意識(shí)到自己已經(jīng)把我們完全陌生的實(shí)體過(guò)于人格化了，但這是有趣的做法，你明白我的意思就行了。）
2、推動(dòng)歷史向前的是個(gè)人
Chollet寫道（粗體是我的強(qiáng)調(diào)）：
個(gè)人本身并沒(méi)有太多的用處再?gòu)?qiáng)調(diào)一次，人不過(guò)是用雙腳走路的猿罷了。是幾千年以來(lái)不斷積累的知識(shí)和外部系統(tǒng)，也就是所謂的文明，讓我們超越了動(dòng)物性。當(dāng)科學(xué)家取得突破時(shí)，其大腦進(jìn)行的思考過(guò)程只不過(guò)是方程式的一小部分罷了研究人員把大量的問(wèn)題解決過(guò)程都交給了計(jì)算機(jī)、其他研究人員、論文筆記、以及數(shù)學(xué)符號(hào)等。他們之所以能夠取得成功，是因?yàn)樗麄冋驹诹司奕说募绨蛏稀Ｋ麄冏约旱墓ぷ鞑贿^(guò)是成千上萬(wàn)人在幾十年的時(shí)間跨度內(nèi)進(jìn)行的問(wèn)題解決過(guò)程的最后一個(gè)子程序罷了。他們自己的認(rèn)知工作的重要性可能并不比芯片上的一個(gè)晶體管的工作大多少。
我對(duì)站在巨人的肩膀上的觀點(diǎn)不是很認(rèn)同，尤其是在被用來(lái)淡化個(gè)人的重要性的時(shí)候。從某種程度上來(lái)說(shuō)這是對(duì)的：我們利用了之前文明所取得的進(jìn)展，從而可以繼續(xù)推動(dòng)文明的進(jìn)步。
但是，我們大家都是站在巨人的肩膀上，為什么我們當(dāng)中卻沒(méi)有幾個(gè)人取得了任何值得注意的成就呢？難道這只是跟運(yùn)氣和環(huán)境有關(guān)，或者正好在合適的時(shí)間處在了合適的地點(diǎn)嗎？
我認(rèn)為環(huán)境固然重要，但卻不是主要因素。再次地，當(dāng)科學(xué)家取得其中一些最偉大的發(fā)現(xiàn)時(shí)，很多人無(wú)疑也是處在合適的環(huán)境下的，機(jī)器人維修，而且往往比最終取得突破的研究人員所處的環(huán)境還要好得多。愛(ài)因斯坦就是典型例子：呆在瑞士專利局的一個(gè)小職員怎么會(huì)是那個(gè)發(fā)現(xiàn)狹義相對(duì)論的人呢？要知道當(dāng)時(shí)拿到終身任期、有更多的時(shí)間來(lái)思考這個(gè)問(wèn)題，能獲得更多的內(nèi)容、可以接觸更多的智囊進(jìn)行交流，有時(shí)候還可以支配整個(gè)團(tuán)隊(duì)和實(shí)驗(yàn)室的人多了開(kāi)去了，為什么是他發(fā)現(xiàn)了相對(duì)論呢？
牛頓也有著著名的奇跡之年，當(dāng)他發(fā)現(xiàn)引力定理并且發(fā)明了微積分時(shí)，為了避免鼠疫肆虐，他還被困在父母所在的鄉(xiāng)下呢。