目前，人類為AI制定的道德框架很失敗
前不久，一個名為AINow的新研究機(jī)構(gòu)發(fā)布了報告呼吁，要進(jìn)一步提高人工智能對社會影響的關(guān)注度。在這個報告發(fā)布之后，Wired記者ScottRosenberg對該研究機(jī)構(gòu)的創(chuàng)始人之一KateCrawford進(jìn)行了訪談。進(jìn)一步挖掘了該報告背后傳遞的想法。KateCrawford認(rèn)為，在人工智能成為一種災(zāi)難之前，必須要將其安放好。
KateCrawford，AINow創(chuàng)始人之一。
關(guān)于人工智能的道德問題，并不乏報道。但大多數(shù)都是輕量級的充滿了關(guān)于公私合作、關(guān)于把人放在第一位之類的陳詞濫調(diào)。他們不承認(rèn)人工智能創(chuàng)造出的社會困境有多棘手，也不承認(rèn)解開這些難題有多么困難。但AINow研究所（一家位于紐約大學(xué)的新研究機(jī)構(gòu)）的新報告并非如此。報告指出，科技行業(yè)正以一種不容置疑的態(tài)勢，競相使用人工智能來重塑社會，這并不會帶來任何可靠和公平的結(jié)果。
兩周前發(fā)布的這份報告是由KateCrawford和MeredithWhittaker完成，他們是AINow的聯(lián)合創(chuàng)始人。Crawford、Whittaker和他們的合作者在一個密集但易于獲得的35頁報告中列出了研究議程和政策路線圖。他們的結(jié)論并不是胡說八道：他們說，到目前為止，我們將人工智能保持在道德標(biāo)準(zhǔn)上的努力是失敗的。
他們寫道：人工智能的新倫理框架需要超越個人責(zé)任，在設(shè)計和使用人工智能的過程中，工業(yè)機(jī)器人維修，讓強(qiáng)大的工業(yè)、政府和軍事利益承擔(dān)責(zé)任。當(dāng)科技巨頭開發(fā)人工智能產(chǎn)品時，用戶同意、隱私和透明度往往被忽視，而只專注于聚合數(shù)據(jù)，為利潤驅(qū)動的商業(yè)模式服務(wù)與此同時，在警務(wù)、教育、醫(yī)療和其他環(huán)境中引入人工智能系統(tǒng)，在這些環(huán)境中，算法的失誤可能會毀掉一個人的生活。有什么我們可以做的嗎？本周，Crawford與我們一起討論了為什么人工智能的道德規(guī)范仍然一團(tuán)糟，庫卡機(jī)器人，以及采取什么樣的實際步驟可能改變這一局面。
ScottRosenberg（下文略）：在新報告的最后，你直截了地方說，當(dāng)前為人工智能的道德規(guī)范制定的框架正在失敗。這聽起來很可怕。
KateCrawford（下文略）：很多人都在談?wù)撐覀兪侨绾翁岢鲞@個領(lǐng)域的道德規(guī)范的。但仍然沒有一個能夠落地的。包括IEEE，Asilomar，以及其他一些組織都帶頭做了很多的工作。我們現(xiàn)在看到的是高層次原則之間的鴻溝，和大規(guī)模機(jī)器學(xué)習(xí)系統(tǒng)日常開發(fā)的實際情況。這顯然是非常重要且真實存在的。
我們閱讀了過去兩年出版的所有關(guān)于人工智能和算法系統(tǒng)的道德準(zhǔn)則。然后我們研究了理想和實際情況之間的區(qū)別。現(xiàn)在最迫切需要的是，這些道德準(zhǔn)則伴隨著非常強(qiáng)大的問責(zé)機(jī)制。我們可以說，我們希望人工智能系統(tǒng)遵循最高的道德原則，但我們必須確保有某種利害關(guān)系。通常，當(dāng)我們談?wù)摰赖乱?guī)范時，我們會忘記談?wù)摍?quán)力。人們往往會有最好的意圖。但我們看到的是，人們?nèi)狈φ嬲臋?quán)力不對稱如何影響著不同群體的思考。
這份報告透露出來的基礎(chǔ)信息似乎是，我們可能發(fā)展得太快了，以至于我們沒有花時間來做這件事。
我可能會用不同的方式來表達(dá)。時間是一個因素，但優(yōu)先級也是一個因素。如果我們花很多的錢，聘請了許多人去思考和研究這些體系帶來的廣泛的社會和經(jīng)濟(jì)影響，那么我們就會有一個更強(qiáng)大的基礎(chǔ)。實際上，誰在創(chuàng)造行業(yè)標(biāo)準(zhǔn)說，好，這是你需要經(jīng)過的基本的預(yù)發(fā)布試驗系統(tǒng)；這是你應(yīng)該如何公開展示你怎樣在不同類型的人群中測試你的系統(tǒng)；這些是你應(yīng)該如何準(zhǔn)備在你的系統(tǒng)或產(chǎn)品背后建立的信心界限？這些都是我們在藥物測試和其他關(guān)鍵任務(wù)系統(tǒng)中所使用的東西，即使是在城市的水安全問題上也是如此。
但只有當(dāng)我們看到它們失敗時，例如在像弗林特、密歇根這樣的地方，我們才意識到我們對這些基礎(chǔ)設(shè)施的依賴程度，對所有人來說都是安全的。就人工智能而言，我們還沒有這些系統(tǒng)。我們需要訓(xùn)練人們?nèi)y試人工智能系統(tǒng)，并創(chuàng)造出這些安全與公平的機(jī)制。這是我們現(xiàn)在可以做的事情。在將這些系統(tǒng)部署到人類身上之前，我們需要在安全與公平的優(yōu)先次序上增加一些緊迫感。
在人工智能成為災(zāi)難之前，你想要把它安放好。
我認(rèn)為我們必須這樣做。
目前科技行業(yè)的格局是由幾家大公司主導(dǎo)的。為什么會這樣？
這是核心問題。作為這個領(lǐng)域的研究人員，我會去了解我所知道的工具。實際上，我們可以通過提高研究的水平和嚴(yán)謹(jǐn)程度來做大量的工作。我們認(rèn)為，我們可以做出改變：在這些系統(tǒng)的設(shè)計中，誰能獲得一席之地？目前，它是由工程和計算機(jī)科學(xué)專家推動的，他們設(shè)計的系統(tǒng)涉及從刑事司法、醫(yī)療保健到教育等方方面面。但是，就像我們不希望聯(lián)邦法官優(yōu)化神經(jīng)網(wǎng)絡(luò)一樣，我們也不應(yīng)該指望一個工程師能理解刑事司法系統(tǒng)的運(yùn)行機(jī)制。
因此，我們有一個非常強(qiáng)烈的建議，即人工智能行業(yè)應(yīng)該從計算機(jī)科學(xué)和工程以外的領(lǐng)域聘請專家，并確保這些人擁有決策權(quán)。如果你已經(jīng)設(shè)計了一個系統(tǒng)，而你已經(jīng)準(zhǔn)備好部署它，那么僅僅在最后引入咨詢顧問是遠(yuǎn)遠(yuǎn)不夠的。如果你不通過刑事司法體系或預(yù)見性監(jiān)管的方式來考慮系統(tǒng)偏見的傳播，那么很有可能的是，你正在設(shè)計一個基于歷史數(shù)據(jù)的系統(tǒng)，將會使這些偏見延續(xù)下去。
解決這一問題不僅僅是技術(shù)上的問題。這不是僅僅通過調(diào)整數(shù)字來試圖消除系統(tǒng)的不平等和偏見的問題。
這是一種內(nèi)部重組的計劃。但是現(xiàn)在，情況看起來更像是研究人員坐在外面，他們得到了一些數(shù)據(jù)，然后他們得出了這些爆炸性的研究結(jié)果表明事情有多糟糕。這可能會引起公眾的關(guān)注，并贏得媒體的報道，但你是如何從內(nèi)部改變事物的呢？
當(dāng)然，當(dāng)我們思考人工智能行業(yè)的數(shù)據(jù)能力和來源時，這并不難。我們應(yīng)該把這看作是一個底線安全問題。你會影響一個人獲得工作，擺脫監(jiān)獄，進(jìn)入大學(xué)等方面的能力。至少，我們應(yīng)該對這些制度如何變得更公平、以及這些決策對人們生活的重要性有深入的了解。
我不認(rèn)為這是個很大的要求。我認(rèn)為，這些系統(tǒng)中最負(fù)責(zé)任的生產(chǎn)商確實希望它們能很好地工作。這是一個開始用強(qiáng)有力的研究和強(qiáng)有力的安全門檻來支持這些良好意愿的問題。這并不超出我們的能力范圍。如果人工智能將以如此快的速度進(jìn)入我們的核心社會機(jī)構(gòu)，我認(rèn)為這是絕對必要的。
你是微軟研究院的成員，而MeredithWhittaker則隸屬于谷歌。你難道不能走到合適的會議上說，我們?yōu)槭裁床蛔鲞@個？
毫無疑問，我和Meredith在公司都有一席之地，這就是我們會提出這些建議的一部分原因。我們知道這些系統(tǒng)是如何建立起來的，我們可以明白一些積極的步驟，可以讓它們變得更安全、更公平。這也是為什么我們認(rèn)為在一個獨立的環(huán)境中工作是非常重要的，我們也可以在科技公司之外做研究，幫助這些系統(tǒng)盡可能地感受到它們將要進(jìn)入的復(fù)雜的社會領(lǐng)域。