6月17日，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》（以下簡稱《治理原則》），KUKA機器人維修，提出了人工智能治理的框架和行動指南。
《治理原則》突出了發(fā)展負責任的人工智能這一主題，強調了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八條原則。
我國為什么要發(fā)布《治理原則》？其主旨是什么？
“這是我國第一次發(fā)布人工智能治理原則。”科技部戰(zhàn)略規(guī)劃司副司長張旭介紹，近年來，人工智能迅速發(fā)展，正在深刻改變?nèi)祟惿鐣睢⒏淖兪澜纭榇龠M新一代人工智能健康發(fā)展，加強人工智能法律、倫理、社會問題研究，積極推動人工智能全球治理，新一代人工智能發(fā)展規(guī)劃推進辦公室成立了國家新一代人工智能治理專業(yè)委員會。起草《治理原則》是委員會今年的重點工作，《治理原則》經(jīng)過網(wǎng)上建議征集、專家反復研討、多方征求意見等環(huán)節(jié)，凝聚了廣泛共識。
清華大學蘇世民書院院長、國家新一代人工智能治理專業(yè)委員會主任薛瀾介紹，《治理原則》旨在更好協(xié)調人工智能發(fā)展與治理的關系，確保人工智能安全可控可靠，推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，共建人類命運共同體。“中國在人工智能應用領域研究基礎很好，過去幾年中國人工智能吸引的投資總量是世界第一。《治理原則》將促進中國的人工智能更好地發(fā)展。中國制定《治理原則》，強調發(fā)展負責任的人工智能，這個‘負責任’是指從基礎研究、到應用研究、到產(chǎn)品和服務的全方面的‘負責任’。”
中國的人工智能治理原則跟世界其他國家有啥不同？
“現(xiàn)在世界各國發(fā)布的人工智能相關準則超過40個。我們的不同點在于，強調推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，共建人類命運共同體，而非僅僅推動人類發(fā)展；強調以國際協(xié)作模式而非一國主導模式共建人類命運共同體，強調包容共享、開放協(xié)作。”中科院自動化所研究員、國家新一代人工智能治理專業(yè)委員會委員曾毅介紹。
《治理原則》將如何與法制工作銜接？
“人工智能技術發(fā)展非常快，可預見性比較差，按常規(guī)程序治理有困難，比如立法很嚴格、耗時長，可能規(guī)則還沒制定完，技術就已經(jīng)改變了！所以我們提出了敏捷治理原則。人工智能的治理工作將更多通過《治理原則》和行業(yè)自律來進行。出現(xiàn)不利苗頭時要及時推出引導政策，但不能一棒子打死，要促進人工智能的協(xié)調共進發(fā)展。”薛瀾說，當然，立法工作也非常重要，該《治理原則》為下一步的人工智能立法工作提供了依據(jù)和重要基礎。
中國制定《治理原則》的意義是什么？將如何執(zhí)行落實？
“該《治理原則》將推動人工智能在社會各領域有價值和有序地應用。”上海大學教授、國家新一代人工智能治理專業(yè)委員會委員李仁涵說，“人工智能是新興事物，一定要在給人工智能留有足夠發(fā)展空間的前提下加強監(jiān)管。建議各級政府將《治理原則》融入人工智能發(fā)展的政策，人工智能走到哪，治理原則跟到哪；建議人工智能研究者要履行《治理原則》，將原則嵌入研究源頭；建議各地加強普及工作，讓人工智能去神秘化，用《治理原則》推動人工智能在中國的普及發(fā)展。”
附：
新一代人工智能治理原則
——發(fā)展負責任的人工智能
全球人工智能發(fā)展進入新階段，呈現(xiàn)出跨界融合、人機協(xié)同、群智開放等新特征，正在深刻改變?nèi)祟惿鐣睢⒏淖兪澜纭榇龠M新一代人工智能健康發(fā)展，更好協(xié)調發(fā)展與治理的關系，確保人工智能安全可靠可控，推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，共建人類命運共同體，人工智能發(fā)展相關各方應遵循以下原則：
一、和諧友好。人工智能發(fā)展應以增進人類共同福祉為目標；應符合人類的價值觀和倫理道德，促進人機和諧，服務人類文明進步；應以保障社會安全、尊重人類權益為前提，避免誤用，工業(yè)機器人維修，禁止濫用、惡用。
二、公平公正。人工智能發(fā)展應促進公平公正，保障利益相關者的權益，促進機會均等。通過持續(xù)提高技術水平、改善管理方式，KUKA機器人示教器維修，在數(shù)據(jù)獲取、算法設計、技術開發(fā)、產(chǎn)品研發(fā)和應用過程中消除偏見和歧視。
三、包容共享。人工智能應促進綠色發(fā)展，符合環(huán)境友好、資源節(jié)約的要求；應促進協(xié)調發(fā)展，推動各行各業(yè)轉型升級，縮小區(qū)域差距；應促進包容發(fā)展，加強人工智能教育及科普，提升弱勢群體適應性，努力消除數(shù)字鴻溝；應促進共享發(fā)展，避免數(shù)據(jù)與平臺壟斷，鼓勵開放有序競爭。
四、尊重隱私。人工智能發(fā)展應尊重和保護個人隱私，充分保障個人的知情權和選擇權。在個人信息的收集、存儲、處理、使用等各環(huán)節(jié)應設置邊界，建立規(guī)范。完善個人數(shù)據(jù)授權撤銷機制，反對任何竊取、篡改、泄露和其他非法收集利用個人信息的行為。
五、安全可控。人工智能系統(tǒng)應不斷提升透明性、可解釋性、可靠性、可控性，逐步實現(xiàn)可審核、可監(jiān)督、可追溯、可信賴。高度關注人工智能系統(tǒng)的安全，提高人工智能魯棒性及抗干擾性，形成人工智能安全評估和管控能力。
六、共擔責任。人工智能研發(fā)者、使用者及其他相關方應具有高度的社會責任感和自律意識，嚴格遵守法律法規(guī)、倫理道德和標準規(guī)范。建立人工智能問責機制，明確研發(fā)者、使用者和受用者等的責任。人工智能應用過程中應確保人類知情權，告知可能產(chǎn)生的風險和影響。防范利用人工智能進行非法活動。
七、開放協(xié)作。鼓勵跨學科、跨領域、跨地區(qū)、跨國界的交流合作，推動國際組織、政府部門、科研機構、教育機構、企業(yè)、社會組織、公眾在人工智能發(fā)展與治理中的協(xié)調互動。開展國際對話與合作，在充分尊重各國人工智能治理原則和實踐的前提下，推動形成具有廣泛共識的國際人工智能治理框架和標準規(guī)范。
八、敏捷治理。尊重人工智能發(fā)展規(guī)律，在推動人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時，及時發(fā)現(xiàn)和解決可能引發(fā)的風險。不斷提升智能化技術手段，優(yōu)化管理機制，完善治理體系，推動治理原則貫穿人工智能產(chǎn)品和服務的全生命周期。對未來更高級人工智能的潛在風險持續(xù)開展研究和預判，確保人工智能始終朝著有利于人類的方向發(fā)展。
國家新一代人工智能治理專業(yè)委員會