人工智能技術(shù)的發(fā)展對(duì)未來(lái)人類社會(huì)構(gòu)成治理挑戰(zhàn)的是，社會(huì)技術(shù)系統(tǒng)對(duì)公共生存領(lǐng)域的廣泛嵌入與重構(gòu)，這涉及智能機(jī)器的自主權(quán)與人類控制權(quán)之間的新型分配秩序問(wèn)題。近年來(lái)，隨著自動(dòng)駕駛、手術(shù)機(jī)器人、智能家居、智能招聘、智能問(wèn)診等算法決策系統(tǒng)的商業(yè)化與社會(huì)化應(yīng)用的日益普及，使得人類主體在關(guān)鍵決策領(lǐng)域不斷讓渡控制權(quán)，而智能機(jī)器自主權(quán)擴(kuò)大的同時(shí)，又相應(yīng)增加了人工智能的倫理、法律與社會(huì)監(jiān)管問(wèn)題。在此情境下，人工智能治理重新強(qiáng)調(diào)人類必須保證對(duì)智能機(jī)器自主決策行為的控制。但在如今非直接操作意義上，如何界定更為抽象的控制關(guān)系，如何保持道德規(guī)范和明確的人類責(zé)任？對(duì)此，便有了“有意義的人類控制”（Meaningful Human Control，MHC）這一新興人工智能倫理治理原則及其理論框架來(lái)指導(dǎo)實(shí)踐。 1 發(fā)展歷程與理論框架 近些年，負(fù)責(zé)任創(chuàng)新、價(jià)值敏感性設(shè)計(jì)、道德物化等研究領(lǐng)域強(qiáng)調(diào)的研發(fā)階段價(jià)值嵌入的倫理設(shè)計(jì)理念，占據(jù)了人工智能全球治理領(lǐng)域的主流。但是，即便在技術(shù)研發(fā)早期階段進(jìn)行價(jià)值嵌入，可能依然無(wú)法規(guī)避人工智能在應(yīng)用時(shí)引發(fā)的潛在風(fēng)險(xiǎn)。原因主要有以下兩點(diǎn)：一方面，人工智能是一項(xiàng)變革性技術(shù)，能夠全面滲透人類生存空間并重塑社會(huì)生產(chǎn)關(guān)系。因此，指導(dǎo)人工智能應(yīng)用的價(jià)值觀念是在動(dòng)態(tài)演變的。另一方面，人工智能技術(shù)的迭代速度非?？?，尤其是在逐步取代人類決策的控制權(quán)方面影響深遠(yuǎn)。在可預(yù)見(jiàn)的未來(lái)，人工智能領(lǐng)域可能出現(xiàn)“完全自主”級(jí)別的智能機(jī)器系統(tǒng)，或?qū)θ祟惿鐣?huì)秩序帶來(lái)重大挑戰(zhàn)。在交通、醫(yī)療、家居等同人類生活緊密相關(guān)的領(lǐng)域，交由智能機(jī)器全權(quán)決策，可能并不符合人類的權(quán)利和道義。因此，人類與機(jī)構(gòu)而非人造技術(shù)物及其算法，應(yīng)最終控制高階自主系統(tǒng)的決策行為，并承擔(dān)倫理與法律責(zé)任。 這一框架性的假設(shè)前提，最早出現(xiàn)在對(duì)人類生存最具威脅性的人工智能驅(qū)動(dòng)的系統(tǒng)——“致命性自主武器系統(tǒng)”（Lethal Autonomous Weapon Systems，LAWS）領(lǐng)域。2012年，美國(guó)國(guó)防部頒布了3000.09指令，首次在國(guó)別層面提出自主武器系統(tǒng)的全生命周期必須得到人類控制并充分反映人類指揮官、操作員的意圖。2014年，紅十字國(guó)際委員會(huì)向全球傳達(dá)就LAWS的關(guān)鍵功能實(shí)施MHC的理念，形成了廣泛共識(shí)。同年，聯(lián)合國(guó)《特定常規(guī)武器公約》正式開(kāi)始將LAWS遵循MHC的倫理議題納入框架議程。直至當(dāng)前，MHC已發(fā)展為國(guó)際社會(huì)探討LAWS的倫理、法律與公共政策框架的概念核心。不過(guò)，這一概念在實(shí)踐層面仍缺乏統(tǒng)一界定。主要原因在于，LAWS具有特殊性，并不是同未來(lái)人類生存與生活存在普遍關(guān)聯(lián)的社會(huì)技術(shù)系統(tǒng)，不大可能對(duì)傳統(tǒng)公眾生活模式進(jìn)行顛覆。但從該領(lǐng)域?qū)HC概念的研究闡述，可以揭示人類控制智能機(jī)器并承擔(dān)道德責(zé)任的基本條件：作出有意識(shí)的決定、充分理解行為的合理性及其情境、掌握應(yīng)用自主系統(tǒng)的技能與知識(shí)。 不過(guò)，以上這些條件并不容易實(shí)現(xiàn)。人工智能的根本倫理挑戰(zhàn)是責(zé)任鴻溝問(wèn)題，這主要是在復(fù)雜場(chǎng)景的人機(jī)交互過(guò)程中才逐漸顯現(xiàn)，導(dǎo)致技術(shù)性、經(jīng)濟(jì)性、道德性、政治性等多方原因的混合介入。另外，責(zé)任鴻溝也有多種類型，不只是道德責(zé)任，還有應(yīng)受責(zé)備、公職責(zé)任、主動(dòng)責(zé)任等。人與高階智能機(jī)器的交互關(guān)系，普遍不是直接操作意義上的，不能被簡(jiǎn)單界定為“一對(duì)一”（操作者直接引導(dǎo)技術(shù)設(shè)備或系統(tǒng)的行為）的因果責(zé)任。因而，人類與智能機(jī)器之間整體上是一種新穎的“分布式控制”關(guān)系，以此作為責(zé)任歸因的行動(dòng)基礎(chǔ)，就需要新的理論框架。 MHC這一概念有兩個(gè)基本構(gòu)成：“有意義”與“控制”。“有意義”指代人類控制智能機(jī)器行為并承擔(dān)道德責(zé)任的基礎(chǔ)條件。“控制”涉及人類主體對(duì)智能機(jī)器的控制形式的多元化。不同的控制與責(zé)任形式的集合，有利于對(duì)智能機(jī)器行為監(jiān)督機(jī)制的實(shí)現(xiàn)。這為消解責(zé)任鴻溝問(wèn)題，提供了理論切入點(diǎn)。德西奧（Filippo Santoni de Sio）和范登霍溫（Jeroen van denHoven）就MHC的道德哲學(xué)基礎(chǔ)進(jìn)行了開(kāi)創(chuàng)性論證。他們基于當(dāng)代相容論的論證理路與認(rèn)知科學(xué)、心靈哲學(xué)的最新研究成果，提供了一種社會(huì)技術(shù)系統(tǒng)視域下“追蹤—追溯”雙重條件的規(guī)則性框架。 “追蹤”原則涉及人類控制者與受控系統(tǒng)之間的關(guān)系性本質(zhì)，即系統(tǒng)行為能夠隨時(shí)隨地反映實(shí)踐情境中人類行動(dòng)理由（意圖、計(jì)劃或是道德理性）的程度或質(zhì)量。這一概念在哲學(xué)與倫理學(xué)中的意蘊(yùn)，即允許非直接操作意義上的控制形式。“追溯”是對(duì)“追蹤”的補(bǔ)充，指代系統(tǒng)行為應(yīng)至少溯及一個(gè)負(fù)責(zé)任代理人（使用者、主管、設(shè)計(jì)師、立法者等）的能力。這些代理人要掌握技術(shù)的顯性知識(shí)和默會(huì)知識(shí)，并意識(shí)到自身的道德承受者身份。 2 倫理規(guī)約機(jī)制 目前，MHC理論已規(guī)定了大致的內(nèi)容與目標(biāo)。根據(jù)“追蹤—追溯”雙重設(shè)計(jì)原則，實(shí)現(xiàn)MHC為導(dǎo)向的智能機(jī)器倫理設(shè)計(jì)，是以整體社會(huì)技術(shù)系統(tǒng)為對(duì)象，而不限于單一的技術(shù)硬件及其研究階段的價(jià)值嵌入。不過(guò)，將MHC的規(guī)范性指示轉(zhuǎn)化為可行的操作存在一些困境：追蹤標(biāo)準(zhǔn)需要確定那些代理人是誰(shuí)、行動(dòng)理由是什么；追溯標(biāo)準(zhǔn)需要識(shí)別這些代理人是否同時(shí)兼具技術(shù)專長(zhǎng)與道德意識(shí)。 針對(duì)追蹤原則的可操作性困境，梅卡奇（Giulio Mecacci）等人基于行動(dòng)哲學(xué)、行為心理學(xué)和交通工程學(xué)的研究成果，提出了一種可聯(lián)結(jié)、可解釋人類行動(dòng)理由與系統(tǒng)行為之關(guān)系性的“理由接近度量表”（proximalscale of reasons）。追蹤原則的操作性標(biāo)準(zhǔn)，需要代理人、行動(dòng)理由對(duì)系統(tǒng)行為產(chǎn)生影響的程度可量化，以此界定道德與法律責(zé)任主體。以代理人與系統(tǒng)在時(shí)間、空間上的近端和遠(yuǎn)端為劃分依據(jù)，代理人可區(qū)分為系統(tǒng)內(nèi)部代理人與系統(tǒng)外部代理人，然后可根據(jù)代理人在內(nèi)外系統(tǒng)的遠(yuǎn)近再進(jìn)行四重角色的區(qū)分。 追溯原則的實(shí)現(xiàn)標(biāo)準(zhǔn)，需要能夠衡量人類在多大程度上從技術(shù)專長(zhǎng)與道德意識(shí)層面理解智能機(jī)器的設(shè)計(jì)、部署與操作，即緊密穩(wěn)定在控制鏈上。但這里的抽象性要素存在可量化的困難?？柛ヌ兀⊿imeon Calvert）開(kāi)發(fā)了一種“評(píng)估級(jí)聯(lián)表”（evaluation cascade table），可以為事關(guān)知識(shí)、能力和意圖的純粹定性評(píng)估提供實(shí)證基礎(chǔ)。 首先，需要細(xì)化受控系統(tǒng)中技術(shù)專長(zhǎng)與道德意識(shí)的類型。對(duì)于智能系統(tǒng)而言，代理人的技術(shù)專長(zhǎng)可分為系統(tǒng)性知識(shí)與決策能力。前者涉及應(yīng)用智能機(jī)器的（形式化與非形式化）知識(shí)以及既有（主動(dòng)或被動(dòng)的）經(jīng)驗(yàn)，后者是實(shí)施行動(dòng)理由（戰(zhàn)略、戰(zhàn)術(shù)、操作）的能力。道德意識(shí)則包含基本價(jià)值準(zhǔn)則（問(wèn)責(zé)、透明度、可解釋等）的理解與道德的所有權(quán)意識(shí)（倫理與法律責(zé)任、對(duì)他者的影響與自身的職責(zé)定位）。 其次，需要就知識(shí)、具身性到道德感層面進(jìn)行系統(tǒng)控制的能力，采用評(píng)估級(jí)聯(lián)表進(jìn)行感知調(diào)查。這是基于“李克特量表”（Likert scale）的綜合應(yīng)用，逐級(jí)從實(shí)施操作控制、人類代理人的參與、代理人理解和使用該系統(tǒng)的能力、代理人理解他們對(duì)系統(tǒng)的道德責(zé)任的能力，這四個(gè)方面對(duì)作為控制主體的代理人參與程度進(jìn)行感知調(diào)查，通過(guò)加總方式計(jì)分來(lái)判斷參與程度的大小。 接下來(lái)研究的關(guān)鍵是，在社會(huì)技術(shù)系統(tǒng)內(nèi)“追蹤—追溯”雙重標(biāo)準(zhǔn)的整合反而成了問(wèn)題。如何判斷滿足追溯條件的技術(shù)專長(zhǎng)和道德意識(shí)的代理人與實(shí)現(xiàn)追蹤條件的代理人是同一主體，并且履行對(duì)應(yīng)的法律法規(guī)，都需要進(jìn)一步拓展MHC的哲學(xué)框架與案例研究。 總體而言，MHC作為倫理原則的意蘊(yùn)是要重申人工智能應(yīng)用領(lǐng)域的人類安全權(quán)，其理論旨趣及實(shí)踐目標(biāo)是要解決技術(shù)的控制問(wèn)題，從而充分反映人類的理由與意圖。MHC研究的迅速推進(jìn)，預(yù)示著人工智能全球治理進(jìn)入新的階段。智能系統(tǒng)的操作者可能不再被視為最主要的追責(zé)主體，在智能系統(tǒng)控制鏈上的代理人其參與程度將決定其責(zé)任地位。我國(guó)正處于人工智能蓬勃發(fā)展機(jī)遇期，需要關(guān)注國(guó)際社會(huì)前沿的人工智能倫理研究，及時(shí)借鑒并完善適用本土的政策法規(guī)。在MHC的道德哲學(xué)框架中，可以納入本土的倫理要素與問(wèn)責(zé)機(jī)制來(lái)拓展理論基礎(chǔ)，進(jìn)而指導(dǎo)、監(jiān)督人工智能的全生命發(fā)展周期。 本文系國(guó)家社科基金重大項(xiàng)目“深入推進(jìn)科技體制改革與完善國(guó)家科技治理體系研究”（21ZDA017）階段性成果

作者單位：清華大學(xué)社會(huì)科學(xué)學(xué)院

來(lái)源：中國(guó)社會(huì)科學(xué)報(bào)