近日，特斯拉首席執(zhí)行官埃隆·馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等上千名科技界大佬簽署公開信，呼吁暫停訓(xùn)練強(qiáng)于OpenAI公司GPT-4的人工智能（AI）系統(tǒng)。公開信的發(fā)布再一次將人工智能推上風(fēng)口浪尖，觸發(fā)人們對(duì)人工智能成為“脫韁野馬”擔(dān)憂的同時(shí)，也給各國的監(jiān)管政策制定上了“發(fā)條”。

人工智能將帶來生存風(fēng)險(xiǎn)？

這封公開信由非營利組織“生命未來研究所（Future of Life Institute）”撰寫，其使命是“減少強(qiáng)大技術(shù)帶來的全球?yàn)?zāi)難性和生存風(fēng)險(xiǎn)”。

信中寫道：“只有在我們確信人工智能的影響是積極的、風(fēng)險(xiǎn)是可控的情況下，才應(yīng)該開發(fā)更強(qiáng)大的人工智能系統(tǒng)。因此，我們呼吁所有人工智能實(shí)驗(yàn)室立即暫停至少6個(gè)月訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)。人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這段時(shí)間，共同開發(fā)和實(shí)施一套高級(jí)人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議，這些協(xié)議由獨(dú)立的外部專家嚴(yán)格審計(jì)和監(jiān)督。”

這封信還澄清說：“這并不意味著人工智能發(fā)展總體上處于暫停狀態(tài)，只是從危險(xiǎn)的競(jìng)賽退回到具有緊急功能、不可預(yù)測(cè)的黑箱模型。”它指的是微軟和谷歌等大型科技公司之間的人工智能競(jìng)賽。

盡管這封信一開始有許多虛假簽名者，被指加劇人工智能炒作、簽名造假以及歪曲論文等，還有很多人工智能研究人員和專家公開對(duì)這封信中的描述和提議的方法表達(dá)了反對(duì)意見。但這一事件的火爆無疑代表了人工智能技術(shù)狂飆突進(jìn)的當(dāng)下，人們對(duì)人工智能倫理的擔(dān)憂。

公開信中提出了幾個(gè)問題：“我們是否應(yīng)該自動(dòng)化所有工作，包括那些讓人有成就感的工作？我們是否應(yīng)該培養(yǎng)非人類思維，這些思維最終可能超過人類智慧并取代我們？我們應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)繼續(xù)開發(fā)人工智能嗎？”

紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)教授加里·馬庫斯說：“這封信并不完美，但其精神是正確的。”

監(jiān)管挑戰(zhàn)迫在眉睫

這樣的警告給各國監(jiān)管機(jī)構(gòu)帶來壓力，要求它們闡明將人工智能嚴(yán)加控制的計(jì)劃。作為公開信的簽字人之一，研究機(jī)構(gòu)Mila創(chuàng)始人兼科學(xué)主任約書亞·本吉奧表示，6個(gè)月的暫停時(shí)間對(duì)于包括政府在內(nèi)的治理機(jī)構(gòu)理解、審計(jì)和驗(yàn)證人工智能系統(tǒng)是必要的，可以確保這些系統(tǒng)對(duì)公眾是安全的。事實(shí)上，許多國家近年來一直致力于制定人工智能領(lǐng)域的法律、法規(guī)。

聯(lián)合國教科文組織敦促各國“毫不拖延地”應(yīng)用關(guān)于人工智能技術(shù)的全球道德框架，包含最大限度發(fā)揮人工智能優(yōu)勢(shì)并減少它帶來的風(fēng)險(xiǎn)。

歐盟正在加快推動(dòng)人工智能立法。歐盟內(nèi)部市場(chǎng)委員蒂埃里·布雷頓表示，這項(xiàng)立法將幫助人們消除對(duì)新近大熱的ChatGPT聊天機(jī)器人乃至人工智能技術(shù)風(fēng)險(xiǎn)的擔(dān)憂。

2021年4月，歐盟委員會(huì)提出了《人工智能法案》條例草案。2022年12月6日，歐盟理事會(huì)通過了關(guān)于《人工智能法案》的共同立場(chǎng)，旨在確保投放到歐盟市場(chǎng)并在歐盟范圍內(nèi)使用的人工智能系統(tǒng)是安全的。

這一提案對(duì)人工智能系統(tǒng)的定義、禁止人工智能應(yīng)用的領(lǐng)域、人工智能系統(tǒng)的高風(fēng)險(xiǎn)分類、與執(zhí)法機(jī)關(guān)有關(guān)的范圍和規(guī)定、支持創(chuàng)新的措施等方面進(jìn)行了闡述。歐盟希望該法案既能推動(dòng)人工智能的投資和創(chuàng)新，又能促進(jìn)保障公民基本權(quán)利和安全的現(xiàn)行法律得到有效執(zhí)行和加強(qiáng)。

負(fù)責(zé)數(shù)字政策和競(jìng)爭(zhēng)事務(wù)的歐委會(huì)執(zhí)行副主席瑪格麗特·韋斯塔格在草案提出時(shí)說，即將出臺(tái)的歐洲規(guī)則將有助于制定“新的全球規(guī)范，確保人工智能可以被信任”。

歐盟理事會(huì)表示，這樣法案將與其他倡議齊頭并進(jìn)，包括旨在加快歐洲人工智能投資的《人工智能協(xié)調(diào)計(jì)劃》。

在英國，對(duì)人工智能挑戰(zhàn)的最新回應(yīng)是一份91頁的白皮書——《支持創(chuàng)新的人工智能監(jiān)管方法》。該文件由英國科學(xué)、創(chuàng)新和技術(shù)部發(fā)布，稱它提出了一個(gè)“世界領(lǐng)先”的人工智能監(jiān)管方法，是“新國家藍(lán)圖的一部分，即打造世界級(jí)監(jiān)管以推動(dòng)負(fù)責(zé)任的創(chuàng)新并保持公眾對(duì)這一革命性技術(shù)的信任”。

該文件稱“政府將避免可能扼殺創(chuàng)新的強(qiáng)硬立法，并采取適應(yīng)性的方法來監(jiān)管人工智能。政府不會(huì)把人工智能治理的責(zé)任交給一個(gè)新的單一監(jiān)管機(jī)構(gòu)，而是授權(quán)現(xiàn)有的監(jiān)管機(jī)構(gòu)——如健康和安全執(zhí)行委員會(huì)、平等和人權(quán)委員會(huì)以及競(jìng)爭(zhēng)和市場(chǎng)管理局——提出量身定制的、針對(duì)具體情況的方法，以適應(yīng)人工智能在其管理領(lǐng)域的實(shí)際應(yīng)用”。

無論如何，監(jiān)管都是設(shè)法實(shí)現(xiàn)一種平衡：一方面注重人工智能發(fā)展帶來的所有好處；另一方面是充分尊重公民的基本權(quán)利。

行到路口，左右觀望

值得注意的是，公開信引起廣泛的關(guān)注，不僅僅在于它提出的問題，而是它引發(fā)的更加充滿分歧的討論。

普林斯頓大學(xué)計(jì)算機(jī)科學(xué)副教授阿爾溫德·納拉亞南表示，計(jì)算機(jī)是否會(huì)取代人類并接管人類文明，這是一個(gè)非常遙遠(yuǎn)的問題……它分散了我們對(duì)當(dāng)前問題的注意力。人工智能被整合到人們的工作中，是減少了對(duì)某些職業(yè)的需求，而不是會(huì)讓我們“過時(shí)”。他表示：“這些可以算是合理的長(zhǎng)期擔(dān)憂，但它們已被反復(fù)提及，轉(zhuǎn)移了人們對(duì)當(dāng)前危害的注意力，包括非常真實(shí)的信息安全和安全風(fēng)險(xiǎn)！而消除這些安全風(fēng)險(xiǎn)需要我們精誠合作。但不幸的是，這封信中的炒作，包括對(duì)人工智能能力和事關(guān)人類生存風(fēng)險(xiǎn)的夸大，可能導(dǎo)致人工智能模型被更多地束縛，使應(yīng)對(duì)風(fēng)險(xiǎn)變得更加困難。”

意大利政府日前對(duì)人工智能態(tài)度的搖擺也是人們關(guān)于人工智能治理困惑的一個(gè)例證。在指責(zé)開發(fā)ChatGPT的OpenAI公司未能遵守用戶數(shù)據(jù)保護(hù)法規(guī)后，意大利負(fù)責(zé)監(jiān)管數(shù)據(jù)的機(jī)構(gòu)3月31日宣布將禁止在其境內(nèi)使用ChatGPT。

根據(jù)意大利監(jiān)管機(jī)構(gòu)的說法，ChatGPT及其母公司OpenAI違反了《歐洲通用數(shù)據(jù)保護(hù)條例》中的部分規(guī)定。這使得意大利當(dāng)局決定禁止（目前只是暫時(shí)）該公司在意大利境內(nèi)開展業(yè)務(wù)。

但兩天后，意大利副總理兼基礎(chǔ)設(shè)施與可持續(xù)交通部部長(zhǎng)馬泰奧·薩爾維尼就在社交媒體上表示，意大利對(duì)ChatGPT的禁令似乎有些過分了，并建議盡快提出合適的解決方案。

他認(rèn)為禁令可能損害意大利的商業(yè)和創(chuàng)新，并希望解除禁令。他說：“每一次技術(shù)革命都會(huì)帶來巨大的變化、風(fēng)險(xiǎn)和機(jī)遇。通過監(jiān)管者和立法者之間的國際合作來對(duì)其進(jìn)行控制和監(jiān)管是正確的，但不能將其封鎖。”

英國政府似乎也對(duì)人工智能的認(rèn)知存在不足。致力于把英國建成“科技超級(jí)大國”的英國首相里希·蘇納克將人工智能定義為“未來技術(shù)”。但根據(jù)英國科學(xué)、創(chuàng)新和技術(shù)部（DSIT）的數(shù)據(jù)，人工智能領(lǐng)域已經(jīng)為英國提供了約5萬個(gè)工作崗位，僅在2022年就為國民經(jīng)濟(jì)貢獻(xiàn)了37億英鎊（約合46億美元）。

事實(shí)上，人工智能早已不是“未來技術(shù)”，它已經(jīng)站在我們面前，并帶著潛在的危險(xiǎn)，確實(shí)有必要在發(fā)生嚴(yán)重問題前對(duì)其進(jìn)行監(jiān)管。

獨(dú)立研究機(jī)構(gòu)Ada Lovelace研究所的人工智能法律和監(jiān)管副主任邁克爾·伯特韋斯特爾認(rèn)為，擬議的戰(zhàn)略“相對(duì)于挑戰(zhàn)的緊迫性和規(guī)模，力量不足”。他還警告說，《支持創(chuàng)新的人工智能監(jiān)管方法》白皮書中的建議“缺乏法定基礎(chǔ)。這意味著監(jiān)管者、開發(fā)者或人工智能系統(tǒng)的用戶沒有新的法律義務(wù)，未來監(jiān)管者可能只有最低限度的責(zé)任。如果不對(duì)現(xiàn)有的監(jiān)管機(jī)構(gòu)進(jìn)行大量投資，英國也將很難有效地監(jiān)管人工智能在各個(gè)領(lǐng)域的不同用途”。

即使是在人工智能監(jiān)管方面走得最快的歐盟，目前，歐洲議會(huì)的議員也未就《人工智能法案》條例草案的基本原則達(dá)成一致。他們爭(zhēng)議的核心是監(jiān)管是否會(huì)阻礙創(chuàng)新，即如何平衡數(shù)據(jù)隱私與避免扼殺人工智能的創(chuàng)新和投資。其中最具爭(zhēng)議的領(lǐng)域是決定哪些人工智能系統(tǒng)將被歸為“高風(fēng)險(xiǎn)”。這些討論也代表了目前對(duì)于人工智能發(fā)展和監(jiān)管的主要爭(zhēng)議：一方面是對(duì)公民基本權(quán)利的關(guān)注；另一方面是對(duì)監(jiān)管約束與創(chuàng)新產(chǎn)生沖突的擔(dān)憂。