細思極恐，人工智能是否真的會形成自我意識？
忘掉如今人工智能領域的小幅進步吧，比如汽車自動駕駛的能力越來越強。等待我們的可能是一項突破性的進展：一種能夠感知自身及其周圍環境的機器，它可以實時接收和處理大量數據。它可能會被安排執行危險的任務，比如被送進太空或參加戰斗。除了開車，它還可以做飯、清潔、洗衣服甚至當其他人不在身邊時，陪伴在我們身旁。
理論上說，一系列十分先進的機器幾乎可以取代所有的人類工作。這將使人類免于平凡的苦差事，但也會動搖許多社會基礎。沒有工作，只有玩樂的生活可能會變成一個反烏托邦（與烏托邦相對，指不幸之地，？這種社會表面上充滿和平，工業機器人維修，但內在卻充斥著無法控制的各種弊病）。
具備意識的機器也會給法律和道德帶來問題。有意識的機器是否在法律意義上可被視為一個人，如果它的行為傷害了某人，或者是犯了錯，它會承擔責任嗎？想想一個更可怕的場景：這些機器是否可能會反抗人類，并希望徹底消滅我們？如果答案是肯定的，它們代表了進化的頂點。
作為一名從事機器學習和量子理論的電氣工程和計算機科學教授，我可以說，研究人員對于這種超感知機器是否會存在尚有分歧。還有一種爭論是關于機器是否可以或者應該被稱為有意識的，就像我們對人類的看法，甚至是一些動物的意識一樣。有些問題與科技有關，而另一些則與意識的本質有關。
有意識就足夠了嗎？
大多數計算機科學家認為，機器人維修，意識是伴隨技術發展而出現的一種特征。一些人認為，意識涉及接受新信息，將舊信息存儲和檢索，并將其認知過程全部轉化為感知和行動。如果這是對的，那么終有一天機器將成為終極意識。相對于人類而言，他們能收集與存儲更多的信息，快速處理龐大的數據量，從而做出復雜的決定，比任何人類都更加具有邏輯性。
另一方面，也有物理學家和哲學家說，許多人類行為是無法由機器計算出來的。例如，創造力，以及人們所擁有的自由感，似乎并不來自于邏輯或計算。
然而，這些并不是關于意識是什么以及機器是否能實現的唯一觀點。
來自量子理論的視角
另一個關于意識的觀點來自于量子理論，量子理論是物理學最深奧的理論。根據傳統的哥本哈根解釋，意識和現實世界是同一現實的互補方面。當一個人觀察，或在物理世界的某個方面進行實驗時，那個人的有意識的互動會引起明顯的變化。因為它把意識作為一種假設，并且沒有試圖從物理學中推導出它，哥本哈根的解釋可能被稱為意識的大C觀點，KUKA機器人維修，它本身就是一種存在的東西盡管它需要大腦才能變成現實。這種觀點受到了量子理論先驅們的歡迎，比如尼爾斯波爾、維爾納海森堡和埃爾溫施羅丁格。
意識和物質之間的相互作用導致了悖論，在經過80年的爭論后，這些矛盾仍未得到解決。一個著名的例子就是薛定諤貓的悖論，在這種情況下，一只貓被置于一種情境中，結果是它同樣有可能存活或死亡而觀察本身就是使結果確定的原因。
相反的觀點是，意識是從生物學中產生的，就像生物學本身從化學中產生，而化學又反過來從物理學中產生。我們把這種不那么廣闊的意識概念稱為小c。它符合神經科學家的觀點，即大腦的思維過程與大腦的狀態和過程是相同的。它還符合對量子理論的一種更近期的解釋，其動機是試圖擺脫多世界解釋的悖論，在這種解釋中，觀察者是物理學數學的一部分。
科學哲學家相信，這些現代量子物理學觀在古代哲學中有相似之處。"大C"就像吠檀多派的心智理論在這個理論中，意識是現實的基本基礎，與物理世界是一樣的。
相比之下，小c則與佛教非常相似。盡管佛陀選擇不去解決意識本質的問題，但他的追隨者宣稱，思想和意識是由空虛或虛無產生的。
大C和科學發現
科學家們也在探索意識是否一直都是一個計算過程。一些學者認為，創造性的時刻并不是經過深思熟慮的計算的結果。例如，夢或幻像本應激發出Elias?Howe于1845年設計出的現代縫紉機，以及August?Kekulé在1862年發現的苯的結構。
一個案例與自學成才的印度數學家SrinivasaRamanujan（1920年去世，享年32歲）有關。他的筆記本被遺忘了大約50年，直到1988年才被出版，筆記本中含有幾千個不同領域的數學公式，沒有推導過程，卻遠超那個時代。此外，他發現的這些公式方法仍然難以捉摸。他自己聲稱，在他睡著的時候，這些公式是由一位女神向他透露的。
大C的意識概念提出了一個問題，即它與物質的關系，以及物質和精神如何相互影響。意識本身不能改變世界，但也許它能改變量子過程演化的概率。正如康奈爾大學的物理學家在2015年所證明的那樣，觀察行為會凍結甚至影響原子的運動。這很可能是對物質和思想相互作用的解釋。
思想和自組織系統
意識現象有可能需要一個自我組織的系統，就像大腦的物理結構一樣。如果是這樣，那么當前的機器存在缺陷。
學者們不知道自適應的自組織機器是否可以被設計成和人腦一樣復雜的東西，我們缺乏這樣系統的數學計算理論。也許，只有生物機器才具有足夠的創造力和靈活性。但是，這表明人們應該（或者很快）開始研究新的生物結構，這些結構或可能變得有意識。