強人工智能是潘多拉魔盒嗎
人工智能國際主流學界所持的目標是弱人工智能，也少有人致力于強人工智能。那么，這是不是因為強人工智能‘太難’，所以大家‘退而求其次’呢？不然。事實上，絕大多數人工智能研究者認為，不能做、不該做。前段時間，南京大學教授、計算機軟件新技術國家重點實驗室常務副主任周志華發了篇文章，觀點很鮮明嚴肅學者都不該去碰強人工智能。
這似乎給人工智能的發展當頭潑了盆冷水，但也可以很好地緩解霍金和馬斯克們的焦慮。他們擔心的威脅，實際上是來自強人工智能的威脅。如果人工智能限定在弱人工智能，則只會是人類乖巧而順從的助手。
那么，強人工智能，真的是人類的潘多拉魔盒嗎？
研究意識，人工智能界不能承受之重
周志華指出，所謂強人工智能，就是達到甚至超越人類智慧水平的人造物，它有心智和意識，能根據自己的意圖開展行動，也可看作人造智能。
目前人工智能所取得進展和成功，都集中在弱人工智能。人們津津樂道的自動駕駛、下棋、機器視覺、專家系統等等，和強人工智能并無關系。周志華認為，也不用有關系如果人們的目標是制造工具，那么考慮特定類型的智能行為就已足夠，何必再去考慮獨立意識？
而且，從實現難度上來講，也沒法考慮。
要實現強人工智能，得先弄清楚人的智能是怎么回事。但研究人類智能的本質并不是人工智能學科的主要任務。北京航空航天大學自動化學院副教授秦曾昌告訴科技日報記者，了解人的意識、情感是一個終極科學問題，確實很吸引人，但目前人工智能學界可能擔不起解決這一問題的重任。
當然，不少生物學、神經科學等相關學科的研究人員，正在上下求索，試圖揭開大腦的奧秘。在秦曾昌看來，強人工智能實現之路極其漫長，可能得先從模擬昆蟲、魚和哺乳動物的大腦開始，再一步一步進階到對人腦的模擬。
強人工智能還太遠了。秦曾昌說，且不說我們現在對神經、大腦了解甚少，就算哪一天我們對它完全了解透徹，也未必就能復制出強人工智能。
中山大學人際互聯實驗室主任翟振明更是認為，意識不是你想有，想有就能有。
任何不以已經具有意識功能的材料為基質的人工系統，除非能有充足理由斷定在其人工生成過程中引入并隨之留駐了意識的機制或內容，否則我們必須認為該系統像原先的基質材料那樣不具備意識，不管其行為看起來多么接近意識主體的行為。這是翟振明提出的人工智能逆反圖靈判據。他認為，沒進入量子力學之前，所有人造機器都不會有真正的意識。
研究強人工智能，不妨提前制定規范
前路確實難，但它是否真的不可實現？
要繼續討論這一問題，又要回到強人工智能的定義。實際上，學界對何為強人工智能并沒有統一看法。
北京郵電大學人機交互與認知工程實驗室主任劉偉認為，工業機器人維修，人機融合的智能是強人工智能，而它在未來必然會實現。
人機融合，是讓人的智能和機器的智能協同發揮作用。人有知識，機器長于采集數據；人有經驗和常識，機器則長于進行公理推理；人有直覺，而機器長于邏輯。當人和機器有了足夠默契，人能理解機器如何看待世界，而機器也能熟悉人的所思所想，未來的機器也可以有一些特殊特定的意向性（彌補人類認知的不足），而當兩者成為搭檔甚至知己時，強人工智能也就到來。
周志華認為，強人工智能的造物具有獨立意識，它未必會甘心為人類服務，若強人工智能出現，人類將會面臨巨大生存危機。劉偉則指出，工業機器人維修，如果強人工智能是人機融合的智能，那么做決策的永遠是人，這就能巧妙解決悖論，KUKA機器人示教器維修，也避免可能的替代危機。
這件事情不是不能做，但我覺得需要特別謹慎。也就是說，當我們離揭開意識和智能的謎底已經很近的時候，我們確實需要慎重對待接下來發展的每一步。秦曾昌強調。
那么，強人工智能的盒子需要一直捂住嗎？
說不要研究強人工智能，這就有些一廂情愿了。因為強人工智能是科學發展的必然趨勢。劉偉認為，強人工智能出現后，至于是被教好還是教壞，那要看人類自己的本事。與其說不研究，不如呼吁相關部門著手思考未來可能面對的倫理問題，出臺相應準則，將可能的危害減少到最小。