多位專家在接受南方財(cái)經(jīng)全媒體記者采訪時(shí)指出，當(dāng)前我國人工智能治理呈現(xiàn)“剛?cè)岵?jì)、多方共舉”的態(tài)勢。

南方財(cái)經(jīng)全媒體 見習(xí)記者馮戀閣 實(shí)習(xí)生楊婧文 廣州報(bào)道

編者按

“人工智能從你出生那天就認(rèn)識(shí)你，讀過你所有的電子郵件，聽過你所有電話錄音，知道你最愛的電影……”尤瓦爾·赫拉利在《未來簡史》一書中描述了這樣一種未來景況：人工智能比人類更了解自己。

步入人工智能時(shí)代，人類的生活習(xí)慣和生產(chǎn)方式正在被重塑，科幻和現(xiàn)實(shí)滲透，驚喜與擔(dān)憂交加。人與機(jī)器的未來是一場親密的合作還是激烈的戰(zhàn)爭？機(jī)器會(huì)將人類的智能拓展到什么樣的邊界？

南財(cái)合規(guī)科技研究院推出AI前沿觀察系列報(bào)道。從技術(shù)、政策和治理多角度，剖析人工智的技術(shù)瓶頸與倫理考驗(yàn)，追問未來的可能與限度，以期尋找第四次工業(yè)革命浪潮翻涌下人工智能發(fā)展的最優(yōu)路徑。

1956年，在美國漢諾威小鎮(zhèn)的達(dá)特茅斯學(xué)院，“人工智能”的概念第一次被提出。在接下來的60余年，人工智能從屏幕上躍動(dòng)的代碼逐漸走向各行各業(yè)的應(yīng)用，成為現(xiàn)實(shí)。

然而，隨著技術(shù)與產(chǎn)業(yè)在變革下交織，我們走向人工智能技術(shù)與各行各業(yè)深度融合的“烏卡時(shí)代”（VUCA，易變性、不確定性、復(fù)雜性、模糊性）。人工智能無數(shù)次給人類帶來驚喜，亦無數(shù)次引發(fā)人們對未知風(fēng)險(xiǎn)的恐慌。人們不禁思考：我們應(yīng)該以何種態(tài)度解決人工智能技術(shù)的發(fā)展遇到的問題？

9月初，深圳公布全國首部人工智能產(chǎn)業(yè)專項(xiàng)立法；9月底，上海通過《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》，并于10月1日正式實(shí)施。在這個(gè)節(jié)點(diǎn)，追蹤研究人工智能治理的發(fā)展態(tài)勢具有極其重要的意義。

多位專家在接受南方財(cái)經(jīng)全媒體記者采訪時(shí)指出，當(dāng)前我國人工智能治理呈現(xiàn)“剛?cè)岵?jì)、多方共舉”的態(tài)勢。人工智能治理體系由倫理規(guī)范等“軟法”和法律法規(guī)等“硬法”共同構(gòu)成，參與治理活動(dòng)的主體涵蓋政府、行業(yè)組織、企業(yè)和公眾等。專家預(yù)測，未來我國將會(huì)繼續(xù)在法律與倫理領(lǐng)域同步發(fā)力，以促進(jìn)發(fā)展為宗旨對人工智能產(chǎn)業(yè)進(jìn)行治理。

全球現(xiàn)狀：歐盟監(jiān)管發(fā)力，美國產(chǎn)業(yè)先行

2016年是人工智能風(fēng)險(xiǎn)逐漸受到關(guān)注的一年，技術(shù)本身的風(fēng)險(xiǎn)以及技術(shù)對法律體系、倫理規(guī)則的沖擊逐漸引起注意。

在這一年，李世石與Alpha Go的“世紀(jì)決戰(zhàn)”以4-1的結(jié)果落幕，從此這個(gè)“完美” 的對手，成為籠罩圍棋界的陰影。同年，漢森機(jī)器人技術(shù)公司(Hanson Robotics)開發(fā)的類人機(jī)器人索菲亞（002572）被沙特阿拉伯授予國籍并獲得公民身份引發(fā)了全球爭議；此外，美國非盈利媒體ProPublica發(fā)表文章《機(jī)器偏見》(Machine Bias)，其中質(zhì)疑再犯風(fēng)險(xiǎn)預(yù)測算法COMPAS在判定時(shí)可能存在種族歧視的現(xiàn)象。

近年來，越來越多的國家意識(shí)到人工智能技術(shù)對經(jīng)濟(jì)與社會(huì)生活帶來的影響。2020年年底，經(jīng)濟(jì)合作與發(fā)展組織 OECD在《2020年數(shù)字經(jīng)濟(jì)展望》（OECD Digital Economy Outlook 2020）中指出，已經(jīng)有超過60個(gè)國家提出了與人工智能相關(guān)的政策。

然而，盡管全球都意識(shí)到了人工智能技術(shù)的重要性，但由于各國對相關(guān)產(chǎn)業(yè)發(fā)展、公民隱私等方面存在不同考量，目前國際上并沒有形成通行、共識(shí)的人工智能治理規(guī)則和體系。

歐盟與美國在發(fā)展高新技術(shù)的角逐從未停止，然而，兩國對人工智能的治理思路并不相同。前者強(qiáng)調(diào)嚴(yán)格監(jiān)管，后者則主張產(chǎn)業(yè)先行。

對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣認(rèn)為，歐盟的人工智能治理仍然鑲嵌在數(shù)據(jù)治理框架之下。以《通用數(shù)據(jù)保護(hù)條例》（GDPR）為依托，以《人工智能法提案》為主導(dǎo)，歐盟對人工智能這種關(guān)涉?zhèn)€人隱私、數(shù)據(jù)安全等多領(lǐng)域的前沿技術(shù)，制定較為嚴(yán)格的監(jiān)管路徑是在各方預(yù)期之內(nèi)的。

“強(qiáng)監(jiān)管是歐盟近幾年對于自身的數(shù)字主權(quán)、技術(shù)主權(quán)重視和關(guān)注的體現(xiàn)。” 北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院院長助理、中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括認(rèn)為，歐盟當(dāng)前治理的主要目的是約束以美國大型互聯(lián)網(wǎng)企業(yè)為代表的，美國方面的科技滲透和科技?jí)浩龋源吮Ｗo(hù)歐盟公民的基本權(quán)利和發(fā)展歐盟的數(shù)字產(chǎn)業(yè)。

2021年4月，歐盟公布《人工智能法草案》,這是世界范圍內(nèi)第一部針對人工智能進(jìn)行規(guī)制的法律。此前，歐盟在2018年、2020年相繼發(fā)布人工智能治理領(lǐng)域重要文件《可信人工智能倫理指南》《人工智能白皮書—通往卓越和信任的歐洲路徑》。

匯集了微軟、谷歌等科技巨頭的美國，在人工智能領(lǐng)域亦展露了其打造壟斷地位的野心。華東政法大學(xué)政治學(xué)研究院院長、人工智能與大數(shù)據(jù)指數(shù)研究院院長高奇琦認(rèn)為，比起歐盟的強(qiáng)監(jiān)管，目前美國更傾向于讓人工智能產(chǎn)業(yè)“跑起來”。

2019年，特朗普政府簽署行政令《保持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》，要求將更多資源和投資用于人工智能的學(xué)習(xí)、推廣和研究。在去年通過的《美國創(chuàng)新與競爭法案》中，美國將人工智能和量子計(jì)算等研究共同列為2022 財(cái)年美國研發(fā)預(yù)算優(yōu)先事項(xiàng)。

“美國采用的是企業(yè)自我規(guī)制和政府規(guī)制相結(jié)合的治理路徑。”張欣指出，美國目前以《算法問責(zé)法》為引領(lǐng)，創(chuàng)建了一系列在公共治理場景中人工智能應(yīng)用的程序化問責(zé)路徑。

剛?cè)岵?jì)：倫理與法律雙管齊下

2019年6月，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則》，提出了人工智能發(fā)展相關(guān)方需要遵循的八項(xiàng)原則。時(shí)間走過三年，我國的人工智能治理體系現(xiàn)況如何？

從現(xiàn)有規(guī)則來看，我國的治理路徑與歐盟和美國都不盡相同，在倫理規(guī)則和法律法規(guī)方面皆有布局。

9月6日，深圳公布全國首部人工智能產(chǎn)業(yè)專項(xiàng)立法《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》；同月22日，上海通過《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》，并在10月1日正式施行。法律參與人工智能治理的發(fā)令槍已然打響。

值得注意的是，在上海和深圳的條例中，均有一個(gè)引入注目的創(chuàng)新點(diǎn)——對人工智能進(jìn)行分類分級(jí)監(jiān)管。無獨(dú)有偶，在此前歐盟的《人工智能法草案》中，也提出要將人工智能風(fēng)險(xiǎn)進(jìn)行分級(jí)，不同級(jí)別采用不同規(guī)則管理。

“風(fēng)險(xiǎn)分類分級(jí)是與當(dāng)下數(shù)字化發(fā)展的態(tài)勢相適應(yīng)的一種立法選擇。”吳沈括認(rèn)為，風(fēng)險(xiǎn)分類分級(jí)可以針對性地構(gòu)建必要的規(guī)則，最大限度地實(shí)現(xiàn)人工智能安全和人工智能產(chǎn)業(yè)發(fā)展之間的一個(gè)動(dòng)態(tài)平衡。

同濟(jì)大學(xué)法學(xué)院副教授、上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員陳吉棟指出，深圳與上海雖然規(guī)定了分類分級(jí)，但與歐盟人工智能條例相比并未出臺(tái)詳細(xì)的制度設(shè)計(jì)。“一方面，分類分級(jí)制度的核心是不同主體的權(quán)利義務(wù)的設(shè)置，在我國屬于中央事權(quán)的范疇，地方立法探索的空間有限；另一方面，兩地立法在定位上，偏重產(chǎn)業(yè)法定位而非治理法定位，相比進(jìn)行治理，更強(qiáng)調(diào)立法促進(jìn)產(chǎn)業(yè)發(fā)展。”

法律之外，倫理規(guī)則的布局也在進(jìn)行中。2021年，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，提出將倫理道德融入人工智能研發(fā)和應(yīng)用的全生命周期。

今年9月，上海和深圳頒布的人工智能發(fā)展條例也要求政府建立人工智能倫理（專家）委員會(huì)（以下簡稱“委員會(huì)”）。根據(jù)條例，委員會(huì)的職能包括制定倫理規(guī)范、推動(dòng)相關(guān)組織機(jī)構(gòu)開展問題研討和標(biāo)準(zhǔn)制定、對重點(diǎn)領(lǐng)域風(fēng)險(xiǎn)進(jìn)行評估等。而此前發(fā)布的《關(guān)于加強(qiáng)科技倫理治理的意見》要求，若機(jī)構(gòu)從事人工智能科技活動(dòng)，其業(yè)務(wù)涉及科技倫理敏感領(lǐng)域的，也應(yīng)設(shè)立科技倫理（審查）委員會(huì)。

如果將法律法規(guī)比作“硬法”的話，那么倫理規(guī)則便可被視為“軟法”。

高奇琦認(rèn)為，法律的強(qiáng)監(jiān)管雖然會(huì)帶來安全性的提升，但同時(shí)也意味著較高的合規(guī)成本。我國人工智能產(chǎn)業(yè)處在發(fā)展的初期，由于其技術(shù)本身和應(yīng)用場景的不確定性，企業(yè)如果將資源向合規(guī)傾斜，可能面臨著無法維生的窘境。

張欣則指出，相比之下，倫理規(guī)則等軟法更具靈活性，其可以更好地平衡科技創(chuàng)新、公共安全以及社會(huì)秩序等多元利益目標(biāo)。

“數(shù)字社會(huì)的治理，在‘硬法’之外需要‘軟法’的配合。”陳吉棟直言，“硬法”之“硬”在于權(quán)義設(shè)置、程序安排、監(jiān)管責(zé)任等方面的規(guī)則剛性及其背后的強(qiáng)制力。雖然硬法可以為治理提供穩(wěn)定的規(guī)則，但現(xiàn)階段僅適用于高風(fēng)險(xiǎn)、違法性明確的行為，且具有相對的滯后性。然而，人工智能技術(shù)的發(fā)展迅速，對于其發(fā)展軌跡與可能風(fēng)險(xiǎn)，政府、企業(yè)和社會(huì)可能處于共同的無知狀態(tài)，很難對相關(guān)產(chǎn)業(yè)活動(dòng)劃定清晰邊界，此時(shí)用倫理、習(xí)慣和技術(shù)路徑等“軟法”劃定底線和指引方向，是當(dāng)前的不二選擇。如此，軟硬結(jié)合，共同構(gòu)成了科學(xué)的治理體系。

未來之路：多方共舉助力人工智能治理

人工智能產(chǎn)業(yè)方興未艾，我國的治理之路將要走向何方？

清華大學(xué)人工智能國際治理研究院副院長梁正指出，人工智能產(chǎn)業(yè)的治理除了政府，還應(yīng)該包括行業(yè)組織、企業(yè)等主體。人工智能產(chǎn)業(yè)是治理實(shí)踐的“前哨站”，能夠第一時(shí)間發(fā)現(xiàn)和面對問題。也正因如此，國家立法和政府監(jiān)管之外，行業(yè)也可以自發(fā)制定現(xiàn)有法律與倫理底線之上的合規(guī)體系、技術(shù)標(biāo)準(zhǔn)等。

在9月剛剛落幕的世界人工智能大會(huì)上，阿里巴巴就發(fā)布了聯(lián)合多個(gè)研究機(jī)構(gòu)撰寫的《人工智能治理與可持續(xù)發(fā)展實(shí)踐白皮書》，討論行業(yè)人工智能治理實(shí)踐面臨的問題。

“對人工智能的治理需貫穿整條產(chǎn)業(yè)鏈，包括對基礎(chǔ)層、技術(shù)層和應(yīng)用層的治理。”張欣從技術(shù)視角給出了建議?；A(chǔ)層指的是對數(shù)據(jù)以及相關(guān)硬件設(shè)施的治理；技術(shù)層則將關(guān)注的重點(diǎn)放在算法以及底層框架上；而在應(yīng)用層則需要結(jié)合場景和產(chǎn)品對模型系統(tǒng)以及應(yīng)用平臺(tái)進(jìn)行治理。

吳沈括則表示，除了關(guān)注技術(shù)要素，人工智能對相關(guān)社會(huì)組織管理體系的影響以及倫理內(nèi)容的影響也是不可忽視的。

事實(shí)上，我國目前尚未針對人工智能治理專門立法。2017年7月，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，其中提到，計(jì)劃在2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系。未來，我國人工智能治理能否迎來一部專門立法？

張欣解釋了人工智能技術(shù)立法治理的必要性。一方面，人工智能技術(shù)應(yīng)用具有跨域性和場景性，很難通過單一性的法規(guī)或者規(guī)章予以系統(tǒng)解決。另一方面，目前對標(biāo)的主要司法轄區(qū)均出臺(tái)或者提出了人工智能治理的基本法，對人工智能開展系統(tǒng)化的法律制定符合國際治理趨勢。

隨著人工智能對社會(huì)生活、產(chǎn)業(yè)發(fā)展的影響力逐漸擴(kuò)大，未來必然有立法監(jiān)管和治理的必要。梁正直言：“目前國家層面已經(jīng)在對立法可能涉及的各項(xiàng)問題進(jìn)行研究。”