2022年8月30日，深圳市第七屆人民代表大會(huì)常務(wù)委員會(huì)第十一次會(huì)議正式通過了《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》（簡(jiǎn)稱《條例》，下同），這是我國(guó)首部人工智能產(chǎn)業(yè)專項(xiàng)立法。作為國(guó)內(nèi)該領(lǐng)域的先行者，《條例》結(jié)合深圳人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀確立了一系列基礎(chǔ)規(guī)則，對(duì)于促進(jìn)我國(guó)人工智能產(chǎn)業(yè)的未來發(fā)展具有典型示范意義。

一、聚焦AI：世界范圍內(nèi)的人工智能產(chǎn)業(yè)立法

有關(guān)“人工智能”（ArtificialIntelligence，AI）這一概念，最早可以追溯到1956年的達(dá)特茅斯會(huì)議。當(dāng)時(shí)，麥卡錫（McCarthy）、明斯基（Minsky）等來自全美的10位年輕學(xué)者就“機(jī)器能否產(chǎn)生智能”等核心問題進(jìn)行了為期兩個(gè)月的討論，此次會(huì)議也被視為人工智能發(fā)展史上的里程碑事件。時(shí)至60多年后的今天，人工智能已在醫(yī)療、交通、金融、農(nóng)業(yè)、工業(yè)等多個(gè)行業(yè)中廣泛應(yīng)用，并對(duì)傳統(tǒng)商業(yè)模式進(jìn)行了一系列顛覆性創(chuàng)新。據(jù)德勤發(fā)布的《全球人工智能發(fā)展白皮書》預(yù)測(cè)，到2025年，世界人工智能市場(chǎng)規(guī)模將超過6萬億美元。普華永道發(fā)布的《全球AI報(bào)告：探索人工智能革命》也認(rèn)為，到2030年，AI將為全球經(jīng)濟(jì)貢獻(xiàn)高達(dá)15.7萬億美元。AI帶來最大經(jīng)濟(jì)收益的國(guó)家將是中國(guó)（2030年GDP增長(zhǎng)26%）和北美（14.5%），相當(dāng)于10.7萬億美元，占全球經(jīng)濟(jì)影響的近70%。

毫無疑問，人工智能技術(shù)正在重新定義制造業(yè)的發(fā)展方向，未來隨著新一代信息技術(shù)與制造業(yè)的深度融合，人工智能技術(shù)將成為世界各國(guó)產(chǎn)業(yè)競(jìng)爭(zhēng)角逐的焦點(diǎn)。近年來，世界各大經(jīng)濟(jì)體也陸續(xù)開始對(duì)人工智能進(jìn)行系統(tǒng)性布局，如：法國(guó)政府早在2013年就發(fā)布了《法國(guó)機(jī)器人發(fā)展計(jì)劃》；2016年，在谷歌人工智能程序AlphaGo戰(zhàn)勝韓國(guó)圍棋名手李世石后，時(shí)任奧巴馬（Obama）政府發(fā)布了《為人工智能的未來做準(zhǔn)備》、《國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃》和《人工智能、自動(dòng)化與經(jīng)濟(jì)》等系列報(bào)告，而人工智能技術(shù)也得到了各國(guó)政府、產(chǎn)業(yè)界以及學(xué)術(shù)界的普遍重視。包括中國(guó)在內(nèi)，英國(guó)、德國(guó)、印度等國(guó)均在同一時(shí)期前后出臺(tái)了相關(guān)的產(chǎn)業(yè)發(fā)展規(guī)劃。

為了更好的規(guī)范和適應(yīng)人工智能產(chǎn)業(yè)發(fā)展的新情況，各國(guó)關(guān)于人工智能的產(chǎn)業(yè)立法也在穩(wěn)步推進(jìn)。2008年3月，韓國(guó)政府公布了《智能機(jī)器人開發(fā)及普及促進(jìn)法》，并且宣布每五年制定一期“機(jī)器人產(chǎn)業(yè)基本計(jì)劃”，以系統(tǒng)化方式推動(dòng)機(jī)器人產(chǎn)業(yè)育成政策；2017年底，美國(guó)國(guó)會(huì)也提出兩黨議案——《人工智能未來法案》，以保持美國(guó)在人工智能應(yīng)用和創(chuàng)新領(lǐng)域的全球競(jìng)爭(zhēng)力；2021年，歐盟發(fā)布人工智能領(lǐng)域的首份綜合性法案《人工智能法案》，系統(tǒng)性規(guī)范投放和使用人工智能系統(tǒng)的實(shí)體。在我國(guó)，上海市也于今年9月初啟動(dòng)了《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例（草案）》征詢意見程序。顯然，一場(chǎng)規(guī)則領(lǐng)域的競(jìng)爭(zhēng)已經(jīng)在全球范圍展開。

二、“產(chǎn)—規(guī)”一體：《條例》的基本內(nèi)容與特點(diǎn)

1.堅(jiān)持市場(chǎng)導(dǎo)向與政策鼓勵(lì)

作為一項(xiàng)產(chǎn)業(yè)促進(jìn)立法，深圳此次出臺(tái)的《條例》堅(jiān)持了市場(chǎng)化導(dǎo)向與政策鼓勵(lì)并行的發(fā)展格局。一方面，《條例》明確了市人民政府及其辦事部門在產(chǎn)業(yè)發(fā)展中的基本職責(zé)，確立了工業(yè)和信息化部門主管，發(fā)展改革、教育、科技創(chuàng)新、公安、財(cái)政等部門協(xié)同促進(jìn)的監(jiān)管格局；另一方面，《條例》也明確了人工智能產(chǎn)業(yè)發(fā)展中的市場(chǎng)化方向，在基礎(chǔ)研究上，《條例》第十七條明確提出了培育和建設(shè)投資主體多元化、管理制度現(xiàn)代化、運(yùn)行機(jī)制市場(chǎng)化、用工方式靈活化的新型研發(fā)機(jī)構(gòu)；在產(chǎn)業(yè)基礎(chǔ)設(shè)施建設(shè)上，《條例》也提出了完善以市場(chǎng)為主體的建設(shè)運(yùn)營(yíng)機(jī)制，為人工智能產(chǎn)業(yè)發(fā)展提供公共服務(wù)?？傊稐l例》堅(jiān)持市場(chǎng)化的基礎(chǔ)上明確了各方職責(zé)，并擬借助多方力量促進(jìn)人工智能產(chǎn)業(yè)的發(fā)展和提升。

2.兼顧產(chǎn)業(yè)發(fā)展與風(fēng)險(xiǎn)防范

在促進(jìn)產(chǎn)業(yè)發(fā)展的同時(shí)強(qiáng)調(diào)風(fēng)險(xiǎn)防范是《條例》的第二項(xiàng)特點(diǎn)?；艚穑℉awking）曾表示：“研發(fā)人工智能將成為人類歷史上犯的最大錯(cuò)誤。遺憾的是，這也可能是最后一個(gè)錯(cuò)誤，因?yàn)槿斯ぶ悄艿尼绕鹂赡苁侨祟愇拿鞯慕K結(jié)。”人工智能自誕生以來，其應(yīng)用是否會(huì)給經(jīng)濟(jì)社會(huì)帶來風(fēng)險(xiǎn)始終是大眾關(guān)注的焦點(diǎn)。為此，《條例》不僅在規(guī)范原則中明確了“安全可控”的發(fā)展思路，亦在總則部分強(qiáng)調(diào)了要在遵循有關(guān)法律法規(guī)和倫理安全規(guī)范的前提下，推動(dòng)人工智能產(chǎn)品和服務(wù)的普及應(yīng)用，在一定程度上為人工智能技術(shù)探索確立了法律邊界。此外，《條例》還創(chuàng)新性地提出市人民政府應(yīng)當(dāng)設(shè)立人工智能倫理委員會(huì)，并在研究制定人工智能領(lǐng)域的倫理安全規(guī)范、建立健全人工智能倫理安全規(guī)范管理制度以及發(fā)布人工智能倫理安全實(shí)踐指南等方面發(fā)揮作用。

3.踐行多元共治的規(guī)范框架

相比傳統(tǒng)的產(chǎn)業(yè)，人工智能以其數(shù)字化和智能化為代表，但這種行業(yè)壁壘的強(qiáng)化也帶了產(chǎn)業(yè)治理的難題，為此《條例》提出了多元共治的發(fā)展目標(biāo)，明確了在“政府規(guī)范、行業(yè)自律、企業(yè)自治、社會(huì)監(jiān)督”基本格局的基礎(chǔ)上，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，促進(jìn)產(chǎn)業(yè)多元主體協(xié)同共治。不僅如此，《條例》還較為詳細(xì)地界定了市人民政府及其有關(guān)部門、行業(yè)組織、人工智能企業(yè)以及其他單位和個(gè)人在產(chǎn)業(yè)治理中的功能，確立的基本的責(zé)任分配機(jī)制。值得一提的是，《條例》七十一條還強(qiáng)調(diào)了人工智能企業(yè)對(duì)公眾的算法說明義務(wù)，對(duì)于公共決策領(lǐng)域以及涉及公共利益的商業(yè)領(lǐng)域的算法，要求相關(guān)組織或者個(gè)人進(jìn)行必要的算法說明。

三、未竟之題：可能的規(guī)則進(jìn)路

從行業(yè)發(fā)展來看，此次深圳市推出的《條例》無疑是一次有益的探索，該立法在確定監(jiān)管主體、治理框架以及扶持政策等方面均具有典型的示范價(jià)值。但普遍來看，《條例》僅僅只是一個(gè)階段性的立法成果，諸多重大爭(zhēng)議尚未在《條例》中得以體現(xiàn)，發(fā)展人工智能產(chǎn)業(yè)仍然面臨著規(guī)則供給的不足。

1.基礎(chǔ)數(shù)據(jù)的利益分配機(jī)制

人工智能產(chǎn)業(yè)的發(fā)展離不開基礎(chǔ)數(shù)據(jù)支撐，系統(tǒng)的學(xué)習(xí)和自我優(yōu)化均需以海量數(shù)據(jù)投喂為前提，但遺憾的是，目前關(guān)于基礎(chǔ)數(shù)據(jù)的利益分配機(jī)制如何展開尚處于爭(zhēng)議之中。主流觀點(diǎn)認(rèn)為，與個(gè)人身份相關(guān)的底層數(shù)據(jù)，權(quán)利歸用戶本人所有；而經(jīng)過匿名化加工后獲得的數(shù)據(jù)集，則由企業(yè)享有相關(guān)的利益。《條例》第三十三條提出，要推動(dòng)人工智能領(lǐng)域數(shù)據(jù)的流通利用，促進(jìn)數(shù)據(jù)要素資源化、資產(chǎn)化、資本化發(fā)展。并且強(qiáng)調(diào)了個(gè)人數(shù)據(jù)應(yīng)當(dāng)進(jìn)行去標(biāo)識(shí)化處理。但值得注意的是，將脫敏后的數(shù)據(jù)利益歸于平臺(tái)公司固然有利于大數(shù)據(jù)產(chǎn)業(yè)發(fā)展，但這種利益分配格局卻也存在不合理甚至不公平之處，并非是世界范圍內(nèi)的普遍做法。實(shí)踐中已經(jīng)出現(xiàn)了數(shù)字稅（DigitalServiceTax）、數(shù)據(jù)信托（DataTrusts）、數(shù)據(jù)工會(huì)（DataLaborUnion）等治理方式。我國(guó)也有學(xué)者提出，考慮到我國(guó)的特殊情況，可采用由國(guó)有控股大數(shù)據(jù)交易所將其收益以集體轉(zhuǎn)移支付的方式反哺社會(huì)，從而合理分配平臺(tái)公司與用戶之間的數(shù)據(jù)利益。產(chǎn)權(quán)清晰是行業(yè)發(fā)展的前提，如何確定公平合理的基礎(chǔ)數(shù)據(jù)利益分配機(jī)制仍然有待于規(guī)則層面的進(jìn)一步取舍。

2.應(yīng)用場(chǎng)景的邊界限制

隨著人工智能應(yīng)用加速落地，在產(chǎn)品檢驗(yàn)、汽車駕駛、疾病診斷、城市管理等眾多領(lǐng)域已經(jīng)出現(xiàn)了人工智能的身影，但與此同時(shí)，人工智能引發(fā)的倫理道德、隱私保護(hù)、社會(huì)治理等問題也開始顯現(xiàn)。特斯拉的創(chuàng)始人馬斯克（Musk）就曾表示：“人工智能是關(guān)系人類文明存亡的最大威脅，這是汽車事故、飛機(jī)墜毀、濫用藥物或劣質(zhì)食品都比不了的威脅。”由于法律規(guī)制具有一定的滯后效應(yīng)，無法對(duì)人工智能進(jìn)行有效監(jiān)管，如何在鼓勵(lì)創(chuàng)新之余為人工智能劃定應(yīng)用邊界始終是爭(zhēng)議的焦點(diǎn)。2014年，全國(guó)首個(gè)運(yùn)用人工智能技術(shù)的法律應(yīng)用系統(tǒng)在天津正式投入使用，此舉引發(fā)了不少關(guān)于司法公正的爭(zhēng)議。中國(guó)社科院孫萍研究員針對(duì)當(dāng)下外賣平臺(tái)用工的一項(xiàng)研究也發(fā)現(xiàn)：平臺(tái)公司通過算法來支配勞動(dòng)者的勞動(dòng)行為，他們的身體和勞作都被嵌入到極不穩(wěn)定的數(shù)字互聯(lián)和算法分配當(dāng)中，這也進(jìn)一步加劇了他們自身的不穩(wěn)定性。人工智的應(yīng)用具有雙面性，在涉及價(jià)值判斷以及人身管理的領(lǐng)域是否應(yīng)當(dāng)有所限制，這需要仔細(xì)衡量。為此，《條例》第七十二條提出要對(duì)人工智能不利影響進(jìn)行倫理安全規(guī)范審查和風(fēng)險(xiǎn)評(píng)估，但這一評(píng)估程序如何落地卻仍然需要進(jìn)一步明確和細(xì)化。

3.人工智能的責(zé)任承擔(dān)

2013年，美國(guó)學(xué)者約翰·弗蘭克·韋弗出版了《機(jī)器人是人嗎》一書，該書提出了人工智能時(shí)代一個(gè)非常重要的命題，當(dāng)人工智能的獨(dú)立決策達(dá)到相當(dāng)高度時(shí)，誰該對(duì)其行為負(fù)責(zé)？是否需要賦予人工智能有限的法律人格？從此次《條例》的內(nèi)容來看，其基本沿用了當(dāng)下責(zé)任體系，由從事人工智能研究和應(yīng)用的組織或者個(gè)人來承擔(dān)相應(yīng)的賠償責(zé)任。

在技術(shù)發(fā)展發(fā)展初期，要求人工智能服務(wù)提供者對(duì)此負(fù)責(zé)無可厚非，但當(dāng)人工智能的自主意識(shí)和行動(dòng)能力達(dá)到一定的高度時(shí)，是否效仿公司制度賦予其獨(dú)立的法律人格來承擔(dān)責(zé)任卻成為一個(gè)不得不面對(duì)的問題。理論界已經(jīng)提出了強(qiáng)制保險(xiǎn)、賠償基金等思路，人工智能的責(zé)任承擔(dān)關(guān)系到整個(gè)產(chǎn)業(yè)發(fā)展格局和未來，需要進(jìn)行系統(tǒng)性考量。