11月10日下午，世界互聯(lián)網(wǎng)大會(huì)人工智能與數(shù)字倫理分論壇舉行。在世界互聯(lián)網(wǎng)大會(huì)密集的分論壇議程中，最多有12場分論壇同時(shí)舉行，只有這場“獨(dú)占”半天會(huì)期。

本次分論壇的主題是“人工智能的產(chǎn)業(yè)方向與倫理取向”，分三個(gè)話題：人工智能倫理的技術(shù)邏輯與人類的選擇空間；數(shù)字倫理的法理與道理——現(xiàn)實(shí)世界與數(shù)字世界交融的秩序與規(guī)則；人工智能及其產(chǎn)業(yè)模式優(yōu)化對未來人類社會(huì)生產(chǎn)生活形態(tài)的影響。

“本次論壇的目的是加深國內(nèi)外學(xué)者、業(yè)界的對話，推動(dòng)人工智能的倫理研究和治理體系的探索構(gòu)建，促進(jìn)安全可信可控的人工智能技術(shù)研發(fā)與應(yīng)用場景，確保人工智能始終朝著以人為本、科技向善的方向發(fā)展。”中國網(wǎng)絡(luò)空間安全協(xié)會(huì)秘書長李欲曉表示。

2017年, 在美國加州阿西洛馬召開了“阿西洛馬會(huì)議”，人工智能領(lǐng)域的專家學(xué)者關(guān)注人工智能快速發(fā)展的潛在問題，達(dá)成多項(xiàng)原則，提出目標(biāo)是創(chuàng)造有益的人工智能。去年，我國發(fā)布《新一代人工智能倫理規(guī)范》，提出增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)6項(xiàng)基本倫理要求。

10日的論壇上，學(xué)者專家從不同的角度闡述對人工智能倫理的看法，澎湃新聞（www.thepaper.cn)梳理了部分內(nèi)容。

清華大學(xué)人工智能研究院名譽(yù)院長、中國科學(xué)院院士張鈸線上發(fā)表演講。本文圖片均來自 世界互聯(lián)網(wǎng)大會(huì)官網(wǎng)

清華大學(xué)人工智能研究院名譽(yù)院長、中國科學(xué)院院士張鈸：明晰倫理標(biāo)準(zhǔn)需要全球合作

“當(dāng)機(jī)器不斷進(jìn)步和發(fā)展，有朝一日智力超過人類，特別是具有主觀意識(shí)后，人類將失去對機(jī)器的控制，帶來災(zāi)難性后果”——人工智能的風(fēng)險(xiǎn)早就被提出，霍金也曾發(fā)出警告，但我們一度認(rèn)為是遠(yuǎn)慮。

到本世紀(jì)初，基于大數(shù)據(jù)的深度學(xué)習(xí)在人工智能中崛起的時(shí)候，人們的認(rèn)識(shí)有了變化，感覺人工智能的倫理風(fēng)險(xiǎn)就在眼前，治理迫在眉睫。

根據(jù)目前人工智能的技術(shù)，我們可以通過深層次神經(jīng)網(wǎng)絡(luò)，根據(jù)使用者的要求生成符合要求、質(zhì)量良好的文本和圖像，同樣的，也可以違背要求，生成充滿種族、性別等偏見，不公正和錯(cuò)誤百出的文本和圖像，不受使用者控制。如果根據(jù)這些錯(cuò)誤文本做決策、預(yù)測，可能帶來嚴(yán)重后果。

想讓機(jī)器向智能化發(fā)展，就不能讓機(jī)器完全聽人類擺布，需要賦予它一定的自由度和自主權(quán)——深層次神經(jīng)網(wǎng)絡(luò)就是根據(jù)這個(gè)原理：利用概率這個(gè)數(shù)據(jù)工具，使機(jī)器能生成豐富的文本和圖像。但也因?yàn)檫@個(gè)原因，就一定存在生成不合格、有害文本和圖像的概率。

人工智能的發(fā)展必然帶來對倫理和傳統(tǒng)規(guī)范的沖擊。從根本來講，人工智能的研究、開發(fā)都要以人為本，從公正公平的倫理原則出發(fā)。為此，我們需要努力去建立可解釋的魯棒（Robust的音譯，意為“健壯”，此處指在異常和危險(xiǎn)情況下系統(tǒng)生存的能力）人工智能理論，在此基礎(chǔ)上才可能開發(fā)出安全、可信、可控、可靠和可擴(kuò)展的人工智能技術(shù)。

人工智能的研究和治理需要全世界不同領(lǐng)域人員的合作。除了從事人工智能研發(fā)和使用的人員，還需要法律、道德、倫理等人士參與。需要明晰倫理道德的標(biāo)準(zhǔn)，這需要全球合作，共同制定符合全人類利益的標(biāo)準(zhǔn)。

之江實(shí)驗(yàn)室主任，中國人工智能產(chǎn)業(yè)聯(lián)盟副理事長朱世強(qiáng)

之江實(shí)驗(yàn)室主任、中國人工智能產(chǎn)業(yè)聯(lián)盟副理事長朱世強(qiáng)：構(gòu)建技術(shù)圖譜預(yù)防潛在危害，以道制魔

人工智能技術(shù)給生產(chǎn)生活帶來便利，也帶來負(fù)面的東西，引起對人工智能倫理等方面的思慮甚至是過度擔(dān)憂。

現(xiàn)實(shí)的情況是，人工智能還是弱人工智能，在某些單項(xiàng)領(lǐng)域，如圍棋、蛋白質(zhì)測序上有高于人的個(gè)體能力，但綜合智能還是很弱的。從技術(shù)角度說，智能相對比較容易得到，而要用機(jī)器復(fù)現(xiàn)智慧很難。

我的觀點(diǎn)是，人工智能是人類智能在機(jī)器領(lǐng)域的延伸，真正的主動(dòng)權(quán)仍掌握在人，現(xiàn)階段最重要的仍是發(fā)展技術(shù)，但同時(shí)要預(yù)防因?yàn)榧夹g(shù)自身及其濫用給人類帶來倫理問題。

之江實(shí)驗(yàn)室梳理了AI倫理圖譜，從三方面（研發(fā)主體、使用者、管理主體）分類。我們還在構(gòu)建預(yù)防人工智能危害社會(huì)的技術(shù)圖譜，試圖用技術(shù)來阻止人工智能的濫用和惡意應(yīng)用。我們的邏輯是，菜刀是切菜的，雖然菜刀多次被用來殺人，但它本身沒有原罪，我們的邏輯是“以道制魔”，用技術(shù)手段把菜刀打造得鋒利，但讓它永遠(yuǎn)砍不到人身上。

香港特區(qū)政府?dāng)?shù)字經(jīng)濟(jì)發(fā)展委員會(huì)委員楊德斌發(fā)表視頻演講

香港特區(qū)政府?dāng)?shù)字經(jīng)濟(jì)發(fā)展委員會(huì)委員楊德斌：人類應(yīng)該自我提升，避免逐漸“退化”

電腦的計(jì)算能力越來越強(qiáng)，能為人類做的事越來越多，許多之前靠人力做的工作，由于其重復(fù)性、危險(xiǎn)性、成本問題而逐漸被機(jī)器替代，如智能制造方面的“黑燈工廠”，無人機(jī)代替人探測下水道，機(jī)器人代替保安巡邏等。

由大數(shù)據(jù)引發(fā)的機(jī)器學(xué)習(xí)近年在各行業(yè)百花齊放，機(jī)器人2016年擊敗了圍棋九段李世石和排名世界第一的柯潔，近幾年機(jī)器學(xué)習(xí)在無人駕駛、醫(yī)療診斷甚至寫作、畫畫、作詩方面都取得相當(dāng)進(jìn)展。盡管如此，人工智能與人類智能還是相去甚遠(yuǎn)。

人工智能與人類智能可以比喻為龜兔賽跑，人類是兔，機(jī)器是龜。隨著人類越來越依賴機(jī)器，機(jī)器能做的越來越多，情況將逐漸改變。當(dāng)人類把事情交給機(jī)器時(shí)，我們會(huì)不會(huì)變懶甚至變蠢？之前我們會(huì)記著幾個(gè)常聯(lián)系的家人和朋友的電話，現(xiàn)在只要手機(jī)語音自動(dòng)撥打，不用記了，久而久之，記性便會(huì)變差。

我比較擔(dān)心的不是機(jī)器學(xué)習(xí)有一天超越人類，而是人類因過度依賴機(jī)器而變得不智慧。龜兔賽跑是寓言，它告訴我們，不能因自滿而輸給對手。我們可以教機(jī)器更智慧，而且可以適當(dāng)約束機(jī)器，讓它不危害人類，但人類更應(yīng)該自我提升，避免逐漸退化。

2007年圖靈獎(jiǎng)獲得者、世界頂尖科學(xué)家協(xié)會(huì)會(huì)員約瑟夫·斯發(fā)基斯發(fā)表視頻演講

2007年圖靈獎(jiǎng)獲得者、世界頂尖科學(xué)家協(xié)會(huì)會(huì)員約瑟夫·斯發(fā)基斯:人工智能與倫理的選擇和平衡

我首先想說，人工智能的進(jìn)步使自動(dòng)化系統(tǒng)正轉(zhuǎn)為自治系統(tǒng)，這反映了從弱人工智能向通用人工智能轉(zhuǎn)化的趨勢。

正常的倫理就是要做出正確的決定。為了做出正確的決定，首先你應(yīng)該有選擇的意識(shí)。現(xiàn)在很多人被如何合理使用人工智能的不同意見所困惑，我認(rèn)為社會(huì)必須創(chuàng)造條件，進(jìn)行冷靜、知情和合理的辯論，我們應(yīng)該在嚴(yán)格執(zhí)行風(fēng)險(xiǎn)預(yù)防原則和接受創(chuàng)新以提高效率或質(zhì)量之間取得平衡。我們現(xiàn)在下載一個(gè)系統(tǒng)，都會(huì)面臨選擇風(fēng)險(xiǎn)與性能之間的窘境。

另一個(gè)重要困境是怎樣為人和機(jī)器分工。創(chuàng)新和技術(shù)進(jìn)步可能意味著技能的損失，很難想象機(jī)器可以超越人類的智慧，盡管如此，如果我們貪圖懶惰和安逸，人類的智慧也可以被馴服和征服。如果我們被機(jī)器的復(fù)雜性擊敗，對人類來說是非常糟糕的。

全國人大憲法和法律委員會(huì)副主任委員江必新

全國人大憲法和法律委員會(huì)副主任委員江必新:人工智能倫理構(gòu)建的“五個(gè)源于”和“六全”

為什么要構(gòu)建人工智能倫理、數(shù)字倫理？可以簡單歸納為“五個(gè)源于”：源于數(shù)字技術(shù)和人工智能的二重性，既帶來利益又有風(fēng)險(xiǎn)；源于數(shù)字網(wǎng)絡(luò)的無邊界性、跨國性、專業(yè)性、非透明性；源于法律規(guī)范的局限性；源于道德倫理對人類的不可或缺性；源于網(wǎng)絡(luò)安全發(fā)展對人類道德的依賴性。

我認(rèn)為，這個(gè)倫理體系的基本規(guī)則是求善、求真、求美，這也是人類共識(shí)，根據(jù)不同的時(shí)期、主題、環(huán)境、領(lǐng)域形成具體規(guī)則——現(xiàn)在的人工智能初步階段和未來可能的超強(qiáng)階段，具體規(guī)則是變動(dòng)的。

怎樣使規(guī)則從理念變?yōu)楝F(xiàn)實(shí)，建立什么機(jī)制才能使它變?yōu)楝F(xiàn)實(shí)？我概括為“六全”：全理念、全主體、全鏈條、全要素、全周期、全工具。

中國美術(shù)學(xué)院院長高世名

中國美術(shù)學(xué)院院長高世名:人工智能可以寫詩、畫畫但不具備做這些的沖動(dòng)和激情，而人類有

人工智能對我們的意義不只是模擬、延伸人的思維，更重要的是AI技術(shù)發(fā)展對我們理解人的語言，思維以及智能本身有巨大的推進(jìn)，有助于探索人類的思考、學(xué)習(xí)、分析、推理、規(guī)劃和想象究竟是怎樣的智力過程。

AI不只是研究和制造的工具，更是感知和思維的工具，它是人自我認(rèn)知的鏡子，也是人類社會(huì)意識(shí)的鏡子。它甚至不只是工具，更是伙伴，AI是我們的一部分，是我們未來的一部分。

欲望與意愿或許是我們與人工智能的最大差異。人工智能可以寫詩、畫畫、作曲，可以在棋盤上戰(zhàn)勝人類，但它必須要接受指令才會(huì)寫詩、下棋、作畫、作曲，它不具備做這些行為的沖動(dòng)、欲望和意愿，而人類不但有欲望，還有激情。

如何以算法去應(yīng)對無數(shù)社會(huì)性個(gè)體間復(fù)雜的、充滿非理性和偶然性的相互作用，這是AI技術(shù)的難點(diǎn)，心靈沒有方程式，社會(huì)性的心靈更無法用算法解決。

對人工智能有很多的憂慮，其中一個(gè)是人工智能通過運(yùn)算和模擬正在逐漸替代和置換我們的感受力，AI的無限算力也對人類的想象力產(chǎn)生了壓力和推動(dòng)力。我認(rèn)為，人工智能的發(fā)展不是為取代人，它反過來迫使我們重新理解什么是創(chuàng)造，創(chuàng)造是最富意義的生產(chǎn)，創(chuàng)造還涉及好奇、沖動(dòng)、感性、關(guān)懷、欲望、價(jià)值、目的，最重要的是對于未知、無名的愛——只要我們還葆有這些，就可以大膽宣布那些可以被人工智能取代的都隨它去吧。