強(qiáng)人工智能是潘多拉魔盒嗎
人工智能國(guó)際主流學(xué)界所持的目標(biāo)是弱人工智能，也少有人致力于強(qiáng)人工智能。那么，這是不是因?yàn)閺?qiáng)人工智能‘太難’，所以大家‘退而求其次’呢？不然。事實(shí)上，絕大多數(shù)人工智能研究者認(rèn)為，不能做、不該做。前段時(shí)間，南京大學(xué)教授、計(jì)算機(jī)軟件新技術(shù)國(guó)家重點(diǎn)實(shí)驗(yàn)室常務(wù)副主任周志華發(fā)了篇文章，觀點(diǎn)很鮮明嚴(yán)肅學(xué)者都不該去碰強(qiáng)人工智能。
這似乎給人工智能的發(fā)展當(dāng)頭潑了盆冷水，但也可以很好地緩解霍金和馬斯克們的焦慮。他們擔(dān)心的威脅，實(shí)際上是來自強(qiáng)人工智能的威脅。如果人工智能限定在弱人工智能，則只會(huì)是人類乖巧而順從的助手。
那么，強(qiáng)人工智能，真的是人類的潘多拉魔盒嗎？
研究意識(shí)，人工智能界不能承受之重
周志華指出，所謂強(qiáng)人工智能，就是達(dá)到甚至超越人類智慧水平的人造物，它有心智和意識(shí)，能根據(jù)自己的意圖開展行動(dòng)，也可看作人造智能。
目前人工智能所取得進(jìn)展和成功，都集中在弱人工智能。人們津津樂道的自動(dòng)駕駛、下棋、機(jī)器視覺、專家系統(tǒng)等等，和強(qiáng)人工智能并無關(guān)系。周志華認(rèn)為，也不用有關(guān)系如果人們的目標(biāo)是制造工具，那么考慮特定類型的智能行為就已足夠，何必再去考慮獨(dú)立意識(shí)？
而且，從實(shí)現(xiàn)難度上來講，也沒法考慮。
要實(shí)現(xiàn)強(qiáng)人工智能，得先弄清楚人的智能是怎么回事。但研究人類智能的本質(zhì)并不是人工智能學(xué)科的主要任務(wù)。北京航空航天大學(xué)自動(dòng)化學(xué)院副教授秦曾昌告訴科技日?qǐng)?bào)記者，了解人的意識(shí)、情感是一個(gè)終極科學(xué)問題，確實(shí)很吸引人，但目前人工智能學(xué)界可能擔(dān)不起解決這一問題的重任。
當(dāng)然，不少生物學(xué)、神經(jīng)科學(xué)等相關(guān)學(xué)科的研究人員，正在上下求索，試圖揭開大腦的奧秘。在秦曾昌看來，強(qiáng)人工智能實(shí)現(xiàn)之路極其漫長(zhǎng)，可能得先從模擬昆蟲、魚和哺乳動(dòng)物的大腦開始，再一步一步進(jìn)階到對(duì)人腦的模擬。
強(qiáng)人工智能還太遠(yuǎn)了。秦曾昌說，且不說我們現(xiàn)在對(duì)神經(jīng)、大腦了解甚少，就算哪一天我們對(duì)它完全了解透徹，也未必就能復(fù)制出強(qiáng)人工智能。
中山大學(xué)人際互聯(lián)實(shí)驗(yàn)室主任翟振明更是認(rèn)為，意識(shí)不是你想有，想有就能有。
任何不以已經(jīng)具有意識(shí)功能的材料為基質(zhì)的人工系統(tǒng)，除非能有充足理由斷定在其人工生成過程中引入并隨之留駐了意識(shí)的機(jī)制或內(nèi)容，否則我們必須認(rèn)為該系統(tǒng)像原先的基質(zhì)材料那樣不具備意識(shí)，不管其行為看起來多么接近意識(shí)主體的行為。這是翟振明提出的人工智能逆反圖靈判據(jù)。他認(rèn)為，沒進(jìn)入量子力學(xué)之前，所有人造機(jī)器都不會(huì)有真正的意識(shí)。
研究強(qiáng)人工智能，不妨提前制定規(guī)范
前路確實(shí)難，但它是否真的不可實(shí)現(xiàn)？
要繼續(xù)討論這一問題，又要回到強(qiáng)人工智能的定義。實(shí)際上，學(xué)界對(duì)何為強(qiáng)人工智能并沒有統(tǒng)一看法。
北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉認(rèn)為，工業(yè)機(jī)器人維修，人機(jī)融合的智能是強(qiáng)人工智能，而它在未來必然會(huì)實(shí)現(xiàn)。
人機(jī)融合，是讓人的智能和機(jī)器的智能協(xié)同發(fā)揮作用。人有知識(shí)，機(jī)器長(zhǎng)于采集數(shù)據(jù)；人有經(jīng)驗(yàn)和常識(shí)，機(jī)器則長(zhǎng)于進(jìn)行公理推理；人有直覺，而機(jī)器長(zhǎng)于邏輯。當(dāng)人和機(jī)器有了足夠默契，人能理解機(jī)器如何看待世界，而機(jī)器也能熟悉人的所思所想，未來的機(jī)器也可以有一些特殊特定的意向性（彌補(bǔ)人類認(rèn)知的不足），而當(dāng)兩者成為搭檔甚至知己時(shí)，強(qiáng)人工智能也就到來。
周志華認(rèn)為，強(qiáng)人工智能的造物具有獨(dú)立意識(shí)，它未必會(huì)甘心為人類服務(wù)，若強(qiáng)人工智能出現(xiàn)，人類將會(huì)面臨巨大生存危機(jī)。劉偉則指出，工業(yè)機(jī)器人維修，如果強(qiáng)人工智能是人機(jī)融合的智能，那么做決策的永遠(yuǎn)是人，這就能巧妙解決悖論，KUKA機(jī)器人示教器維修，也避免可能的替代危機(jī)。
這件事情不是不能做，但我覺得需要特別謹(jǐn)慎。也就是說，當(dāng)我們離揭開意識(shí)和智能的謎底已經(jīng)很近的時(shí)候，我們確實(shí)需要慎重對(duì)待接下來發(fā)展的每一步。秦曾昌強(qiáng)調(diào)。
那么，強(qiáng)人工智能的盒子需要一直捂住嗎？
說不要研究強(qiáng)人工智能，這就有些一廂情愿了。因?yàn)閺?qiáng)人工智能是科學(xué)發(fā)展的必然趨勢(shì)。劉偉認(rèn)為，強(qiáng)人工智能出現(xiàn)后，至于是被教好還是教壞，那要看人類自己的本事。與其說不研究，不如呼吁相關(guān)部門著手思考未來可能面對(duì)的倫理問題，出臺(tái)相應(yīng)準(zhǔn)則，將可能的危害減少到最小。