人工智能國(guó)家安全是當(dāng)代總體國(guó)家安全的重要組成部分，目前，無論是制度上還是學(xué)理上都亟須對(duì)人工智能國(guó)家安全風(fēng)險(xiǎn)法治體系進(jìn)行整體規(guī)劃。為此，需要在人工智能領(lǐng)域安全風(fēng)險(xiǎn)規(guī)制的人類共同價(jià)值目標(biāo)基礎(chǔ)上，構(gòu)建出具有中國(guó)特色的人工智能國(guó)家安全法治體系。

“人工智能國(guó)家安全”的法學(xué)界定

“國(guó)家安全”的現(xiàn)代用法最早出現(xiàn)在美國(guó)作家李普曼1943年出版的著作《美國(guó)外交政策》中。1947年，美國(guó)頒布了世界上第一部《國(guó)家安全法》，并組建了“國(guó)家安全委員會(huì)”。我國(guó)也于2015年通過了新的《國(guó)家安全法》?？偟膩碚f，傳統(tǒng)法學(xué)意義上的國(guó)家安全是指一國(guó)法律確認(rèn)和保護(hù)的國(guó)家利益免遭內(nèi)部和外部的各種威脅和危險(xiǎn)的客觀狀態(tài)。內(nèi)部威脅來自于威脅國(guó)家安全的本國(guó)公民和組織，外部威脅來自于威脅國(guó)家安全的其他國(guó)家或組織。傳統(tǒng)國(guó)家安全是一種物理安全意義上的客觀安全，主要包括軍事安全和政治安全。

與傳統(tǒng)法學(xué)語(yǔ)境相比，人工智能時(shí)代的國(guó)家安全具有兩大特點(diǎn)。一是人工智能時(shí)代的國(guó)家安全是一種security，而不僅僅是safety。“safety”重在人身安全和財(cái)產(chǎn)安全，如阿西莫夫的機(jī)器人三原則，旨在確保機(jī)器人不會(huì)傷害人類；而“security”則意指政治、經(jīng)濟(jì)、文化、生態(tài)等方面的總體安全，而非對(duì)國(guó)家的財(cái)產(chǎn)和國(guó)土這類物理客體的威脅，如數(shù)據(jù)跨境流動(dòng)給國(guó)家安全帶來的挑戰(zhàn)。二是人工智能時(shí)代的國(guó)家安全風(fēng)險(xiǎn)處于三方結(jié)構(gòu)而非兩方結(jié)構(gòu)之中。傳統(tǒng)國(guó)家安全處于“國(guó)家—個(gè)人”或“國(guó)家—國(guó)家”的兩方結(jié)構(gòu)之中，對(duì)于國(guó)家安全的威脅來自個(gè)人或其他國(guó)家。但在人工智能時(shí)代，在這兩方結(jié)構(gòu)中又加入了“人工智能”這一方。人工智能既可能被個(gè)人或其他國(guó)家有意利用來威脅國(guó)家安全，也可以由于技術(shù)失控或誤用、濫用而產(chǎn)生溢出風(fēng)險(xiǎn)，額外給國(guó)家安全帶來威脅。

總的來說，在法學(xué)上，人工智能時(shí)代的國(guó)家安全指的是國(guó)家利益免遭因人工智能的誤用、濫用以及失控所造成之風(fēng)險(xiǎn)的總體安全。這種安全從外延上看遍及政治安全、經(jīng)濟(jì)安全、軍事安全、文化安全、社會(huì)安全等各方面，從類別上看統(tǒng)攝內(nèi)部安全和外部安全、傳統(tǒng)安全與非傳統(tǒng)安全。其要求有三：一是通過法律降低人工智能不成熟性以及惡意應(yīng)用給國(guó)家社會(huì)帶來的安全風(fēng)險(xiǎn)；二是通過法律推動(dòng)人工智能在網(wǎng)絡(luò)安全和公共安全領(lǐng)域深度應(yīng)用；三是構(gòu)建人工智能安全的法治體系，保障人工智能國(guó)家安全穩(wěn)步發(fā)展。

人工智能國(guó)家安全風(fēng)險(xiǎn)規(guī)制法治化的理論基礎(chǔ)

人工智能技術(shù)與國(guó)家安全之間存在一種結(jié)構(gòu)性互動(dòng)的關(guān)系。一方面，人工智能技術(shù)能夠基于進(jìn)化賦能的實(shí)踐應(yīng)用，從傳統(tǒng)安全、非傳統(tǒng)安全以及兩者間的重疊領(lǐng)域，為國(guó)家安全提供更為有效的維護(hù)和保障機(jī)制。另一方面，人工智能技術(shù)的應(yīng)用也存在著超出預(yù)期設(shè)想的可能性，存在因技術(shù)濫用而導(dǎo)致的外溢風(fēng)險(xiǎn)與因技術(shù)自身缺陷而產(chǎn)生的內(nèi)生風(fēng)險(xiǎn)。為應(yīng)對(duì)這兩類風(fēng)險(xiǎn)，需要首先夯實(shí)人工智能國(guó)家安全風(fēng)險(xiǎn)規(guī)制法治化的理論基礎(chǔ)：一是風(fēng)險(xiǎn)社會(huì)的法治原理，二是人工智能技術(shù)創(chuàng)新模式的變遷原理。

人工智能安全風(fēng)險(xiǎn)規(guī)制是風(fēng)險(xiǎn)社會(huì)治理的組成部分。與傳統(tǒng)社會(huì)模式不同，風(fēng)險(xiǎn)社會(huì)中最為稀缺的價(jià)值需求就是對(duì)于確定性的追求，法律作為一種確定性的價(jià)值在風(fēng)險(xiǎn)社會(huì)的運(yùn)作中充當(dāng)著最佳的調(diào)控模式。同時(shí)，風(fēng)險(xiǎn)社會(huì)的治理也提出了不同于傳統(tǒng)法治的新要求：一是法律要在穩(wěn)定性與靈活性之間保持平衡。人工智能時(shí)代帶來了“軟法革命”，制定具有靈活性和彈性化的法律規(guī)范可能給重大風(fēng)險(xiǎn)的應(yīng)急和處理帶來更為可期的良好效果。二是需要法律將規(guī)則確定性與原則指引性相結(jié)合。在風(fēng)險(xiǎn)社會(huì)，新技術(shù)的發(fā)展前景尚不完全確定，人工智能帶來的社會(huì)關(guān)系變化的結(jié)果尚未完全固定，應(yīng)增強(qiáng)法律的原則指引性。相反，一旦當(dāng)相關(guān)領(lǐng)域的社會(huì)關(guān)系固化下來，或某些做法被證明行之有效、在相當(dāng)長(zhǎng)的時(shí)間內(nèi)可以穩(wěn)定不變，就可以上升為具體明確的規(guī)則。三是要求倚重事先預(yù)防的方式來應(yīng)對(duì)風(fēng)險(xiǎn)?？萍硷L(fēng)險(xiǎn)會(huì)引發(fā)大規(guī)模的、人為的災(zāi)難性后果，預(yù)防原則應(yīng)當(dāng)成為政府以法律的手段因應(yīng)科技風(fēng)險(xiǎn)的主要原則。

人工智能安全風(fēng)險(xiǎn)規(guī)制法治化的思路也與人工智能技術(shù)創(chuàng)新模式的變遷休戚相關(guān)。半個(gè)多世紀(jì)以來，西方資本主義法律體系主要反映的是熊彼特技術(shù)創(chuàng)新模式。熊彼特模式本質(zhì)上是一種效益創(chuàng)新模式，其核心內(nèi)涵是市場(chǎng)要素的商業(yè)化組合。它有四個(gè)主要特性：有足夠的商業(yè)利益、滿足用戶需求、有稅收、高效率。效益創(chuàng)新模式不要求產(chǎn)品滿足功能性因素之外的倫理要求，因此出現(xiàn)倫理風(fēng)險(xiǎn)不可避免。顯而易見，這種創(chuàng)新模式已不再適合于風(fēng)險(xiǎn)社會(huì)中的人工智能技術(shù)的應(yīng)用，尤其不適合于與國(guó)家安全有關(guān)的人工智能技術(shù)的應(yīng)用。人工智能時(shí)代法律所保護(hù)的創(chuàng)新模式應(yīng)當(dāng)從效益創(chuàng)新模式升級(jí)為公義創(chuàng)新模式。后一種模式的主要特點(diǎn)在于：第一，與效益創(chuàng)新主要追求經(jīng)濟(jì)效益的顯著增長(zhǎng)不同，公義創(chuàng)新追求經(jīng)濟(jì)效益和社會(huì)效益的協(xié)同提升。第二，與效益創(chuàng)新將目標(biāo)對(duì)置于滿足用戶需求的具體產(chǎn)品/服務(wù)不同，公義創(chuàng)新的目標(biāo)對(duì)象是符合社會(huì)發(fā)展需要的人工/人造系統(tǒng)。第三，與效益創(chuàng)新延續(xù)、強(qiáng)化工業(yè)文明傳統(tǒng)不同，公義創(chuàng)新探索更具包容性的文明路徑。在這種新模式下，法律對(duì)人的關(guān)注將得到根本性加強(qiáng)，對(duì)人和機(jī)器的認(rèn)識(shí)將大幅度更新，人與機(jī)器的關(guān)系在法律上將得到重新定義。法律將在福祉原則的指導(dǎo)下，推動(dòng)人、機(jī)器和環(huán)境的更具包容性的一體化發(fā)展。

人工智能國(guó)家安全風(fēng)險(xiǎn)規(guī)制的法治框架

人工智能時(shí)代的法律運(yùn)作理念將由“如何修復(fù)和恢復(fù)社會(huì)”轉(zhuǎn)向“如何規(guī)訓(xùn)和塑造社會(huì)”。人工智能國(guó)家安全風(fēng)險(xiǎn)規(guī)制應(yīng)采取一種重在預(yù)防、重在塑造相關(guān)主體行為邏輯、重在風(fēng)險(xiǎn)規(guī)制的模式?；谶@一模式，應(yīng)當(dāng)構(gòu)建以法律規(guī)制為核心、多種規(guī)范體系和治理機(jī)制協(xié)力的人工智能國(guó)家安全風(fēng)險(xiǎn)規(guī)制法治體系。具體而言，這一體系應(yīng)由三重框架組成。

一是價(jià)值—規(guī)范框架，它從高到低由三個(gè)層次構(gòu)成：頂層是“基本原則”，以“國(guó)民福祉原則”為核心，以“可信可控原則”和“人類監(jiān)管原則”為支撐；中層是“一般倫理準(zhǔn)則”，包括合法合規(guī)、風(fēng)險(xiǎn)防范、安全透明、敏捷治理、穩(wěn)健性（魯棒性）、保密性、完整性、可用性、公平性和問責(zé)性等；底層是“具體實(shí)施細(xì)則”，包括產(chǎn)品標(biāo)準(zhǔn)（企業(yè)標(biāo)準(zhǔn)）、技術(shù)標(biāo)準(zhǔn)（國(guó)際標(biāo)準(zhǔn)/國(guó)家標(biāo)準(zhǔn)）、行業(yè)規(guī)范、產(chǎn)業(yè)政策、法律法規(guī)和倫理守則等多方面的具體要求和規(guī)范。

二是區(qū)分和評(píng)估框架，包括人工智能國(guó)家安全風(fēng)險(xiǎn)的區(qū)分監(jiān)管框架與人工智能國(guó)家安全風(fēng)險(xiǎn)的評(píng)估框架標(biāo)準(zhǔn)。前者又包括三個(gè)方面：首先是人工智能國(guó)家安全風(fēng)險(xiǎn)的分類，包括網(wǎng)絡(luò)國(guó)家安全風(fēng)險(xiǎn)、數(shù)據(jù)國(guó)家安全風(fēng)險(xiǎn)和算法國(guó)家安全風(fēng)險(xiǎn)；其次是人工智能國(guó)家安全風(fēng)險(xiǎn)的分級(jí)，包括人工智能系統(tǒng)應(yīng)用場(chǎng)景的國(guó)家安全風(fēng)險(xiǎn)分級(jí)，以及網(wǎng)絡(luò)國(guó)家安全風(fēng)險(xiǎn)分級(jí)和數(shù)據(jù)國(guó)家安全風(fēng)險(xiǎn)分級(jí)；最后是人工智能國(guó)家安全風(fēng)險(xiǎn)的分階段監(jiān)管，包括人工智能系統(tǒng)開發(fā)過程中、投入使用前、使用過程中的風(fēng)險(xiǎn)監(jiān)管以及系統(tǒng)漏洞的應(yīng)對(duì)與事故處置。后者則包含人工智能國(guó)家安全風(fēng)險(xiǎn)評(píng)估的總體要求和可行的評(píng)估基本清單。

三是治理體系框架，包括人工智能國(guó)家安全風(fēng)險(xiǎn)的治理體制、治理措施和治理機(jī)制。人工智能國(guó)家安全風(fēng)險(xiǎn)的治理體制包括決策和議事協(xié)調(diào)機(jī)構(gòu)、中央和省級(jí)地方兩級(jí)的審查和監(jiān)管機(jī)構(gòu)（包括規(guī)范化和標(biāo)準(zhǔn)化機(jī)構(gòu)），以及負(fù)有安全風(fēng)險(xiǎn)審查和報(bào)告義務(wù)的創(chuàng)新主體（企業(yè)、科研機(jī)構(gòu)）。治理措施包括技術(shù)方法與非技術(shù)方法兩類，治理機(jī)制則包含被動(dòng)防御機(jī)制、主動(dòng)防御機(jī)制、情報(bào)信息機(jī)制、反制進(jìn)攻機(jī)制等層級(jí)。

（本文系2022年度部級(jí)法學(xué)研究課題“人工智能國(guó)家安全風(fēng)險(xiǎn)及其治理體系研究”（CLS（2022）C15）階段性成果）

（作者單位：天津商業(yè)大學(xué)法學(xué)院）

來源：中國(guó)社會(huì)科學(xué)網(wǎng)-中國(guó)社會(huì)科學(xué)報(bào)　作者：馮潔