Uber軟件工程師：個人推動歷史，AI奇點必定到來
谷歌AI研究員、Keras創建者FrancoisChollet的一篇有關人工智能發展的文章引起了熱議。簡單來說，他認為可能導致奇點產生的智能爆炸是不可能不發生的。因為智能的發展要受到很多環境因素的制約，使得其發展趨勢只能接近于線性的速度，并且用跟智能最接近的科學的發展軌跡作為佐證。這篇文章以文明作為智能載體等立論觀點十分新穎，給人留下了深刻印象。但是也有人提出了不同的意見，比方說Uber軟件工程師FlorentCrivello就是其中的一位。他反對的理由主要是1）我們的發展已經呈指數性；2）推動歷史向前的是個人；3）大腦是智能發展的瓶頸；4）AI的擴張方式是人沒法做到的。按照這樣推斷，AI的爆炸是有可能發生的。你以為如何呢？
Fran?oisChollet寫了一篇《智能不會爆炸》。以下是那篇文章的摘要，不過我鼓勵你真的應該全文通讀一遍：
智能是情景化的并不存在一般智能這樣的東西。你的大腦是一個更大的系統的一部分，這個系統包括了你的軀體、環境、其他人以及整個文化。
沒有系統可以存在于真空之中；任何個體智能總要被其存在的上下文、被環境所定義和約束。目前制約我們智能的瓶頸是我們的環境而不是大腦。
人類智能基本上是外化的，主要不是包含在我們的大腦而是在我們的文明當中。我們是我們的工具我們的大腦是比我們本身大得多的認知系統的模塊。這個系統已經在自我改進，而且已經進行了很長的時間。
遞歸自我改進系統，因為所存在的更大范疇的上下文可能會出現瓶頸、收益遞減、以及逆反作用，實際上無法取得指數性的發展。從經驗來看，這種發展往往呈線性或者S曲線式的改進。科學進步尤其是這樣而科學也許是跟我們觀察的遞歸自我改進系統最接近的一個了。
遞歸智能拓展已經在發生不過是在我們的文明這個層面上進行的。這個進程會在AI時代繼續，而且是以大致線性的節奏進行的。
我認為那篇文章有好幾個觀點都非常出色我很喜歡文明作為外部腦皮層的想法但是其中的一些觀點我有不同看法，或者認為那些情況仍然允許未來智能爆炸的可能性存在。以下是我的看法。
1、我們的發展已經呈指數式
FranoisChollet寫道：
這種情況下你也許會問，難道文明本身不是自我改進大腦的逃逸手段嗎？我們的文明難道沒有出現智能爆發嗎？沒有，關鍵是文明級的智能改進循環僅僅導致了我們的問題解決能力的，可測量的、線性的進展。并沒有出現爆發的現象。
這個我不同意，我認為我們的發展已經呈現出指數性了，在很多指標上都是。
下面這張圖反映的是全球的歷史人口發展情況（盡管有人會說這個很快就會變成S曲線，因為全球的嬰兒潮高峰期已過）：
下面這張是全球人均GDP的歷史沿革，按1990年代美元匯率換算：
記住，這可是人均值，所以這條曲線代表的是生產力本身的增長情況而不是人口的發展情況。而且這個時間跨度是很小的！相對于超過1萬年的人類文明史，500年的時間并不算長。
而這僅僅局限在人類身上，而人類在宇宙的宏偉計劃中還是一個非常新的現象。你可能已經聽說過CarlSagan的宇宙歷，它把宇宙的年表從138億年壓縮到了一年。在這條時間線上，生命直到9月21號才出現，而12月5號才出現多細胞生物，到了12月31日晚上11:52之前才有了解剖學意義上的現代人。被許多歷史學家認為是人類文明開始的農業，直到晚上11點59分32秒才開始。
在《量化宏觀史（quantitativemacrohistory）》中，LukeMuehlhauser寫道：
我對有記錄的人類史的一句話概括就是：很長一段時間內的一切都非常糟糕，然后就發生了工業革命。
在宇宙歷中，工業革命直到午夜降臨的570毫秒之后才開始。
所以，當然了，如果你是從個人的時間尺度上來看待這一切的話，事情的發展速度似乎非常緩慢。但是，請記住：我們看到有任何的發展都是奇跡！如果一個人可以穿越并且能夠表現正常的話，你會看到在人類的大部分歷史當中上下100年間幾乎都沒有什么差別（除了那些朋克系頭發用的是2根而不是3根骨頭）。
總結一下：在宇宙這個宏大的時間尺度上，在很長一段時間內都沒有發生任何事情，然后突然之間，生命形成了。從這一點開始按照宇宙的尺度就已經很難區分事件了，所以我們需要把這細小的時間條放大。放大后我們可以再次可以看到并沒有太多的事情發生，然后突然之間，包括猿猴在內的哺乳動物出現了。進一步放大，還是沒有太多的事情發生，然后人類文明出現了！再放大，事情也還不多，然后就冒出了工業革命！
知道我想說什么了吧：我不僅認為會出現奇點，而且認為我們已經生活在奇點里面了。
如果有那么一個計算的奇點的話，那么對我們而言的幾千年時間對于那些機器而言就好像是幾個納秒而已，那么它們不僅會把我們的人類史，甚至我們的現代史都總結為沒什么事情發生，然后種子AI出現了。我們的你能想象地球在形成任何生命前居然活了六億年嗎？將會是他們的你能想象他們曾經每天睡8個小時嗎？，8小時對他們來說就已經是漫長得不可估量的，就好像有6億年對我們而言是地老天荒一樣。
（我意識到自己已經把我們完全陌生的實體過于人格化了，但這是有趣的做法，你明白我的意思就行了。）
2、推動歷史向前的是個人
Chollet寫道（粗體是我的強調）：
個人本身并沒有太多的用處再強調一次，人不過是用雙腳走路的猿罷了。是幾千年以來不斷積累的知識和外部系統，也就是所謂的文明，讓我們超越了動物性。當科學家取得突破時，其大腦進行的思考過程只不過是方程式的一小部分罷了研究人員把大量的問題解決過程都交給了計算機、其他研究人員、論文筆記、以及數學符號等。他們之所以能夠取得成功，是因為他們站在了巨人的肩膀上。他們自己的工作不過是成千上萬人在幾十年的時間跨度內進行的問題解決過程的最后一個子程序罷了。他們自己的認知工作的重要性可能并不比芯片上的一個晶體管的工作大多少。
我對站在巨人的肩膀上的觀點不是很認同，尤其是在被用來淡化個人的重要性的時候。從某種程度上來說這是對的：我們利用了之前文明所取得的進展，從而可以繼續推動文明的進步。
但是，我們大家都是站在巨人的肩膀上，為什么我們當中卻沒有幾個人取得了任何值得注意的成就呢？難道這只是跟運氣和環境有關，或者正好在合適的時間處在了合適的地點嗎？
我認為環境固然重要，但卻不是主要因素。再次地，當科學家取得其中一些最偉大的發現時，很多人無疑也是處在合適的環境下的，機器人維修，而且往往比最終取得突破的研究人員所處的環境還要好得多。愛因斯坦就是典型例子：呆在瑞士專利局的一個小職員怎么會是那個發現狹義相對論的人呢？要知道當時拿到終身任期、有更多的時間來思考這個問題，能獲得更多的內容、可以接觸更多的智囊進行交流，有時候還可以支配整個團隊和實驗室的人多了開去了，為什么是他發現了相對論呢？
牛頓也有著著名的奇跡之年，當他發現引力定理并且發明了微積分時，為了避免鼠疫肆虐，他還被困在父母所在的鄉下呢。