11月10日下午,世界互聯(lián)網(wǎng)大會(huì)人工智能與數(shù)字倫理分論壇舉行。在世界互聯(lián)網(wǎng)大會(huì)密集的分論壇議程中,最多有12場(chǎng)分論壇同時(shí)舉行,只有這場(chǎng)“獨(dú)占”半天會(huì)期。
本次分論壇的主題是“人工智能的產(chǎn)業(yè)方向與倫理取向”,分三個(gè)話題:人工智能倫理的技術(shù)邏輯與人類(lèi)的選擇空間;數(shù)字倫理的法理與道理——現(xiàn)實(shí)世界與數(shù)字世界交融的秩序與規(guī)則;人工智能及其產(chǎn)業(yè)模式優(yōu)化對(duì)未來(lái)人類(lèi)社會(huì)生產(chǎn)生活形態(tài)的影響。
“本次論壇的目的是加深國(guó)內(nèi)外學(xué)者、業(yè)界的對(duì)話,推動(dòng)人工智能的倫理研究和治理體系的探索構(gòu)建,促進(jìn)安全可信可控的人工智能技術(shù)研發(fā)與應(yīng)用場(chǎng)景,確保人工智能始終朝著以人為本、科技向善的方向發(fā)展。”中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)秘書(shū)長(zhǎng)李欲曉表示。
2017年, 在美國(guó)加州阿西洛馬召開(kāi)了“阿西洛馬會(huì)議”,人工智能領(lǐng)域的專(zhuān)家學(xué)者關(guān)注人工智能快速發(fā)展的潛在問(wèn)題,達(dá)成多項(xiàng)原則,提出目標(biāo)是創(chuàng)造有益的人工智能。去年,我國(guó)發(fā)布《新一代人工智能倫理規(guī)范》,提出增進(jìn)人類(lèi)福祉、促進(jìn)公平公正、保護(hù)隱私安全、確??煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)6項(xiàng)基本倫理要求。
10日的論壇上,學(xué)者專(zhuān)家從不同的角度闡述對(duì)人工智能倫理的看法,澎湃新聞(www.thepaper.cn)梳理了部分內(nèi)容。
清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、中國(guó)科學(xué)院院士張鈸線上發(fā)表演講。本文圖片均來(lái)自 世界互聯(lián)網(wǎng)大會(huì)官網(wǎng)
清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、中國(guó)科學(xué)院院士張鈸:明晰倫理標(biāo)準(zhǔn)需要全球合作
“當(dāng)機(jī)器不斷進(jìn)步和發(fā)展,有朝一日智力超過(guò)人類(lèi),特別是具有主觀意識(shí)后,人類(lèi)將失去對(duì)機(jī)器的控制,帶來(lái)災(zāi)難性后果”——人工智能的風(fēng)險(xiǎn)早就被提出,霍金也曾發(fā)出警告,但我們一度認(rèn)為是遠(yuǎn)慮。
到本世紀(jì)初,基于大數(shù)據(jù)的深度學(xué)習(xí)在人工智能中崛起的時(shí)候,人們的認(rèn)識(shí)有了變化,感覺(jué)人工智能的倫理風(fēng)險(xiǎn)就在眼前,治理迫在眉睫。
根據(jù)目前人工智能的技術(shù),我們可以通過(guò)深層次神經(jīng)網(wǎng)絡(luò),根據(jù)使用者的要求生成符合要求、質(zhì)量良好的文本和圖像,同樣的,也可以違背要求,生成充滿種族、性別等偏見(jiàn),不公正和錯(cuò)誤百出的文本和圖像,不受使用者控制。如果根據(jù)這些錯(cuò)誤文本做決策、預(yù)測(cè),可能帶來(lái)嚴(yán)重后果。
想讓機(jī)器向智能化發(fā)展,就不能讓機(jī)器完全聽(tīng)人類(lèi)擺布,需要賦予它一定的自由度和自主權(quán)——深層次神經(jīng)網(wǎng)絡(luò)就是根據(jù)這個(gè)原理:利用概率這個(gè)數(shù)據(jù)工具,使機(jī)器能生成豐富的文本和圖像。但也因?yàn)檫@個(gè)原因,就一定存在生成不合格、有害文本和圖像的概率。
人工智能的發(fā)展必然帶來(lái)對(duì)倫理和傳統(tǒng)規(guī)范的沖擊。從根本來(lái)講,人工智能的研究、開(kāi)發(fā)都要以人為本,從公正公平的倫理原則出發(fā)。為此,我們需要努力去建立可解釋的魯棒(Robust的音譯,意為“健壯”,此處指在異常和危險(xiǎn)情況下系統(tǒng)生存的能力)人工智能理論,在此基礎(chǔ)上才可能開(kāi)發(fā)出安全、可信、可控、可靠和可擴(kuò)展的人工智能技術(shù)。
人工智能的研究和治理需要全世界不同領(lǐng)域人員的合作。除了從事人工智能研發(fā)和使用的人員,還需要法律、道德、倫理等人士參與。需要明晰倫理道德的標(biāo)準(zhǔn),這需要全球合作,共同制定符合全人類(lèi)利益的標(biāo)準(zhǔn)。
之江實(shí)驗(yàn)室主任,中國(guó)人工智能產(chǎn)業(yè)聯(lián)盟副理事長(zhǎng)朱世強(qiáng)
之江實(shí)驗(yàn)室主任、中國(guó)人工智能產(chǎn)業(yè)聯(lián)盟副理事長(zhǎng)朱世強(qiáng):構(gòu)建技術(shù)圖譜預(yù)防潛在危害,以道制魔
人工智能技術(shù)給生產(chǎn)生活帶來(lái)便利,也帶來(lái)負(fù)面的東西,引起對(duì)人工智能倫理等方面的思慮甚至是過(guò)度擔(dān)憂。
現(xiàn)實(shí)的情況是,人工智能還是弱人工智能,在某些單項(xiàng)領(lǐng)域,如圍棋、蛋白質(zhì)測(cè)序上有高于人的個(gè)體能力,但綜合智能還是很弱的。從技術(shù)角度說(shuō),智能相對(duì)比較容易得到,而要用機(jī)器復(fù)現(xiàn)智慧很難。
我的觀點(diǎn)是,人工智能是人類(lèi)智能在機(jī)器領(lǐng)域的延伸,真正的主動(dòng)權(quán)仍掌握在人,現(xiàn)階段最重要的仍是發(fā)展技術(shù),但同時(shí)要預(yù)防因?yàn)榧夹g(shù)自身及其濫用給人類(lèi)帶來(lái)倫理問(wèn)題。
之江實(shí)驗(yàn)室梳理了AI倫理圖譜,從三方面(研發(fā)主體、使用者、管理主體)分類(lèi)。我們還在構(gòu)建預(yù)防人工智能危害社會(huì)的技術(shù)圖譜,試圖用技術(shù)來(lái)阻止人工智能的濫用和惡意應(yīng)用。我們的邏輯是,菜刀是切菜的,雖然菜刀多次被用來(lái)殺人,但它本身沒(méi)有原罪,我們的邏輯是“以道制魔”,用技術(shù)手段把菜刀打造得鋒利,但讓它永遠(yuǎn)砍不到人身上。
香港特區(qū)政府?dāng)?shù)字經(jīng)濟(jì)發(fā)展委員會(huì)委員楊德斌發(fā)表視頻演講
香港特區(qū)政府?dāng)?shù)字經(jīng)濟(jì)發(fā)展委員會(huì)委員楊德斌:人類(lèi)應(yīng)該自我提升,避免逐漸“退化”
電腦的計(jì)算能力越來(lái)越強(qiáng),能為人類(lèi)做的事越來(lái)越多,許多之前靠人力做的工作,由于其重復(fù)性、危險(xiǎn)性、成本問(wèn)題而逐漸被機(jī)器替代,如智能制造方面的“黑燈工廠”,無(wú)人機(jī)代替人探測(cè)下水道,機(jī)器人代替保安巡邏等。
由大數(shù)據(jù)引發(fā)的機(jī)器學(xué)習(xí)近年在各行業(yè)百花齊放,機(jī)器人2016年擊敗了圍棋九段李世石和排名世界第一的柯潔,近幾年機(jī)器學(xué)習(xí)在無(wú)人駕駛、醫(yī)療診斷甚至寫(xiě)作、畫(huà)畫(huà)、作詩(shī)方面都取得相當(dāng)進(jìn)展。盡管如此,人工智能與人類(lèi)智能還是相去甚遠(yuǎn)。
人工智能與人類(lèi)智能可以比喻為龜兔賽跑,人類(lèi)是兔,機(jī)器是龜。隨著人類(lèi)越來(lái)越依賴(lài)機(jī)器,機(jī)器能做的越來(lái)越多,情況將逐漸改變。當(dāng)人類(lèi)把事情交給機(jī)器時(shí),我們會(huì)不會(huì)變懶甚至變蠢?之前我們會(huì)記著幾個(gè)常聯(lián)系的家人和朋友的電話,現(xiàn)在只要手機(jī)語(yǔ)音自動(dòng)撥打,不用記了,久而久之,記性便會(huì)變差。
我比較擔(dān)心的不是機(jī)器學(xué)習(xí)有一天超越人類(lèi),而是人類(lèi)因過(guò)度依賴(lài)機(jī)器而變得不智慧。龜兔賽跑是寓言,它告訴我們,不能因自滿而輸給對(duì)手。我們可以教機(jī)器更智慧,而且可以適當(dāng)約束機(jī)器,讓它不危害人類(lèi),但人類(lèi)更應(yīng)該自我提升,避免逐漸退化。
2007年圖靈獎(jiǎng)獲得者、世界頂尖科學(xué)家協(xié)會(huì)會(huì)員約瑟夫·斯發(fā)基斯發(fā)表視頻演講
2007年圖靈獎(jiǎng)獲得者、世界頂尖科學(xué)家協(xié)會(huì)會(huì)員約瑟夫·斯發(fā)基斯:人工智能與倫理的選擇和平衡
我首先想說(shuō),人工智能的進(jìn)步使自動(dòng)化系統(tǒng)正轉(zhuǎn)為自治系統(tǒng),這反映了從弱人工智能向通用人工智能轉(zhuǎn)化的趨勢(shì)。
正常的倫理就是要做出正確的決定。為了做出正確的決定,首先你應(yīng)該有選擇的意識(shí)?,F(xiàn)在很多人被如何合理使用人工智能的不同意見(jiàn)所困惑,我認(rèn)為社會(huì)必須創(chuàng)造條件,進(jìn)行冷靜、知情和合理的辯論,我們應(yīng)該在嚴(yán)格執(zhí)行風(fēng)險(xiǎn)預(yù)防原則和接受創(chuàng)新以提高效率或質(zhì)量之間取得平衡。我們現(xiàn)在下載一個(gè)系統(tǒng),都會(huì)面臨選擇風(fēng)險(xiǎn)與性能之間的窘境。
另一個(gè)重要困境是怎樣為人和機(jī)器分工。創(chuàng)新和技術(shù)進(jìn)步可能意味著技能的損失,很難想象機(jī)器可以超越人類(lèi)的智慧,盡管如此,如果我們貪圖懶惰和安逸,人類(lèi)的智慧也可以被馴服和征服。如果我們被機(jī)器的復(fù)雜性擊敗,對(duì)人類(lèi)來(lái)說(shuō)是非常糟糕的。
全國(guó)人大憲法和法律委員會(huì)副主任委員江必新
全國(guó)人大憲法和法律委員會(huì)副主任委員江必新:人工智能倫理構(gòu)建的“五個(gè)源于”和“六全”
為什么要構(gòu)建人工智能倫理、數(shù)字倫理?可以簡(jiǎn)單歸納為“五個(gè)源于”:源于數(shù)字技術(shù)和人工智能的二重性,既帶來(lái)利益又有風(fēng)險(xiǎn);源于數(shù)字網(wǎng)絡(luò)的無(wú)邊界性、跨國(guó)性、專(zhuān)業(yè)性、非透明性;源于法律規(guī)范的局限性;源于道德倫理對(duì)人類(lèi)的不可或缺性;源于網(wǎng)絡(luò)安全發(fā)展對(duì)人類(lèi)道德的依賴(lài)性。
我認(rèn)為,這個(gè)倫理體系的基本規(guī)則是求善、求真、求美,這也是人類(lèi)共識(shí),根據(jù)不同的時(shí)期、主題、環(huán)境、領(lǐng)域形成具體規(guī)則——現(xiàn)在的人工智能初步階段和未來(lái)可能的超強(qiáng)階段,具體規(guī)則是變動(dòng)的。
怎樣使規(guī)則從理念變?yōu)楝F(xiàn)實(shí),建立什么機(jī)制才能使它變?yōu)楝F(xiàn)實(shí)?我概括為“六全”:全理念、全主體、全鏈條、全要素、全周期、全工具。
中國(guó)美術(shù)學(xué)院院長(zhǎng)高世名
中國(guó)美術(shù)學(xué)院院長(zhǎng)高世名:人工智能可以寫(xiě)詩(shī)、畫(huà)畫(huà)但不具備做這些的沖動(dòng)和激情,而人類(lèi)有
人工智能對(duì)我們的意義不只是模擬、延伸人的思維,更重要的是AI技術(shù)發(fā)展對(duì)我們理解人的語(yǔ)言,思維以及智能本身有巨大的推進(jìn),有助于探索人類(lèi)的思考、學(xué)習(xí)、分析、推理、規(guī)劃和想象究竟是怎樣的智力過(guò)程。
AI不只是研究和制造的工具,更是感知和思維的工具,它是人自我認(rèn)知的鏡子,也是人類(lèi)社會(huì)意識(shí)的鏡子。它甚至不只是工具,更是伙伴,AI是我們的一部分,是我們未來(lái)的一部分。
欲望與意愿或許是我們與人工智能的最大差異。人工智能可以寫(xiě)詩(shī)、畫(huà)畫(huà)、作曲,可以在棋盤(pán)上戰(zhàn)勝人類(lèi),但它必須要接受指令才會(huì)寫(xiě)詩(shī)、下棋、作畫(huà)、作曲,它不具備做這些行為的沖動(dòng)、欲望和意愿,而人類(lèi)不但有欲望,還有激情。
如何以算法去應(yīng)對(duì)無(wú)數(shù)社會(huì)性個(gè)體間復(fù)雜的、充滿非理性和偶然性的相互作用,這是AI技術(shù)的難點(diǎn),心靈沒(méi)有方程式,社會(huì)性的心靈更無(wú)法用算法解決。
對(duì)人工智能有很多的憂慮,其中一個(gè)是人工智能通過(guò)運(yùn)算和模擬正在逐漸替代和置換我們的感受力,AI的無(wú)限算力也對(duì)人類(lèi)的想象力產(chǎn)生了壓力和推動(dòng)力。我認(rèn)為,人工智能的發(fā)展不是為取代人,它反過(guò)來(lái)迫使我們重新理解什么是創(chuàng)造,創(chuàng)造是最富意義的生產(chǎn),創(chuàng)造還涉及好奇、沖動(dòng)、感性、關(guān)懷、欲望、價(jià)值、目的,最重要的是對(duì)于未知、無(wú)名的愛(ài)——只要我們還葆有這些,就可以大膽宣布那些可以被人工智能取代的都隨它去吧。
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報(bào)告》(以下簡(jiǎn)稱(chēng)“報(bào)告”),該報(bào)告…
數(shù)字化浪潮下,安防廠商如何滿足行業(yè)客戶(hù)的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來(lái)自市場(chǎng) “不確定性”因素的沖擊,市場(chǎng)…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶(hù)服務(wù)之舟,在市場(chǎng)變革中逆風(fēng)飛揚(yáng)
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國(guó)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)暨品牌盛會(huì),在深…