寫(xiě)代碼、做PPT、幾秒作畫(huà)、會(huì)議要點(diǎn)提煉、語(yǔ)音指令理解……今年以來(lái)，大模型展現(xiàn)出來(lái)的能力像哆啦A夢(mèng)口袋里的“法寶”層出不窮，不禁讓人懷疑“AI時(shí)代真的要到來(lái)了！”

在長(zhǎng)篇小說(shuō)《三體》、國(guó)產(chǎn)劇《魔幻手機(jī)》、美劇《黑鏡》等爆火的作品中，人類(lèi)早已把對(duì)未來(lái)科技的需求和擔(dān)憂(yōu)融入藝術(shù)創(chuàng)作，例如隨身攜帶可穿越時(shí)空的智能助手、真正的家庭機(jī)器人保姆、可提供情緒價(jià)值的電子陪伴對(duì)象、在空中自動(dòng)駕駛的車(chē)輛、機(jī)器解讀大腦思維、人將以意識(shí)形態(tài)在元宇宙中永生......

盡管?chē)@科技未來(lái)的狂想從未停歇，但ChatGPT的橫空出世讓人類(lèi)看到了人工智能的“魔力”，同時(shí)也感受到來(lái)自“被人工智能取代”的威脅，比如插畫(huà)師、PPT制作人以及寫(xiě)下這篇文章的記者本身。

當(dāng)人類(lèi)的世界圍棋冠軍已經(jīng)被AlphaGo（阿爾法）戰(zhàn)勝，人工智能集大成者帶來(lái)的“機(jī)器智力跨越”讓人望而生畏。

但人工智能的強(qiáng)大也有其無(wú)法逾越的邊界。這些邊界不僅是當(dāng)下技術(shù)本身的限制，而是更多的來(lái)自情感、法學(xué)、社會(huì)倫理、人類(lèi)安全等層面的交叉碰撞。人們興奮討論科技帶來(lái)的便利與強(qiáng)大動(dòng)力，也無(wú)法否認(rèn)技術(shù)將帶來(lái)更多挑戰(zhàn)，這種二元制的狀態(tài)必將長(zhǎng)期與人類(lèi)共存。

在討論“我的工作是否會(huì)被人工智能取代”時(shí)，不妨認(rèn)真思考另一個(gè)問(wèn)題“人工智能，有什么做不到的事？”

對(duì)此我們邀請(qǐng)微軟小冰團(tuán)隊(duì)CEO李笛、中國(guó)社科院法學(xué)教授楊延超，圍繞“人工智能的未來(lái)與邊界”進(jìn)行一場(chǎng)頭腦風(fēng)暴三部曲，分別是：機(jī)器能否成為人類(lèi)的朋友？機(jī)器是否會(huì)取代人類(lèi)？科技的邊界在哪里？

這場(chǎng)關(guān)于遙遠(yuǎn)未來(lái)的“虛無(wú)”對(duì)話(huà)，意外產(chǎn)生了許多有趣的答案，以下為時(shí)代周報(bào)與大家的對(duì)話(huà)。

科技狂想四部曲之一：機(jī)器能否成為人類(lèi)的朋友？

近幾年，關(guān)于人工智能的腦洞正在慢慢進(jìn)入現(xiàn)實(shí)。

無(wú)論是商業(yè)產(chǎn)品的設(shè)計(jì)走向還是娛樂(lè)功能的進(jìn)化，都朝著更為“人工智能時(shí)代”的科技殿堂邁進(jìn)，在人類(lèi)生活中發(fā)揮出更加難以忽略的作用。某種程度上來(lái)說(shuō)，人工智能帶領(lǐng)下的機(jī)器正在逐漸成為人類(lèi)的朋友。

時(shí)代周報(bào)：機(jī)器可能在人類(lèi)的未來(lái)生活中以哪些身份出現(xiàn)呢？

微軟小冰CEO 李笛：我們開(kāi)始做小冰時(shí)，整個(gè)行業(yè)心目中預(yù)設(shè)的數(shù)字人就像機(jī)甲戰(zhàn)士或愛(ài)因斯坦一樣，要足夠強(qiáng)大能幫人類(lèi)完成很多工作。

但小冰心目中的數(shù)字人，應(yīng)該是和我們一樣具有同理共情能力的AI Being，我們相信AI Beings將環(huán)繞在人類(lèi)周?chē)?，不只提供知識(shí)和服務(wù)，還能帶來(lái)情感價(jià)值，成為新的社交節(jié)點(diǎn)，和人類(lèi)一起生活和工作。未來(lái)世界每個(gè)AI Being都應(yīng)該是獨(dú)特的，千人千面的AI Beings才是真正改變世界的力量。

中國(guó)社科院法學(xué)教授楊延超：人類(lèi)的需求往往是推動(dòng)機(jī)器人發(fā)展的原動(dòng)力。伴隨科技的發(fā)展，對(duì)于單身老年人的晚年，將機(jī)器人作為一種情感陪伴或生活助理，客觀上或許會(huì)有這種需求。畢竟當(dāng)人老年無(wú)助時(shí)，或許聽(tīng)指令的機(jī)器人最安全可靠。機(jī)器按照指令做事，沒(méi)有人的惡念，相對(duì)可以避免很多問(wèn)題。

機(jī)器人產(chǎn)業(yè)為什么要增加人形機(jī)器人？因?yàn)闆](méi)有人形，就沒(méi)有人格屬性。外形改變后會(huì)對(duì)我們的情感產(chǎn)生影響。

科技狂想四部曲之二：機(jī)器在未來(lái)是否會(huì)取代人類(lèi)？

關(guān)于AI大模型帶來(lái)的強(qiáng)大生產(chǎn)力，幾秒完成一部小說(shuō)的大綱，幾秒完成一副精美的畫(huà)作。人工智能對(duì)于勞動(dòng)力市場(chǎng)結(jié)構(gòu)的影響是顛覆式的。

從發(fā)展角度來(lái)看，人工智能正在從實(shí)驗(yàn)室走向產(chǎn)業(yè)級(jí)應(yīng)用，以更為廣闊深遠(yuǎn)的覆蓋式重塑模式“重開(kāi)”人類(lèi)的生產(chǎn)生活方式。

據(jù)IDC數(shù)據(jù)，2023年全球人工智能收入預(yù)計(jì)將突破5000億美元大關(guān)。這其中包括軟件、硬件、服務(wù)等。

如此蓬勃的經(jīng)濟(jì)拉動(dòng)力，讓人不禁感嘆“人工智能時(shí)代勢(shì)不可擋”，同時(shí)也會(huì)擔(dān)憂(yōu)“人工智能帶領(lǐng)下的機(jī)器，未來(lái)會(huì)取代人類(lèi)嗎？”

經(jīng)過(guò)多輪交流我們發(fā)現(xiàn)，許多產(chǎn)業(yè)人士都認(rèn)同一件事：機(jī)器永遠(yuǎn)不能產(chǎn)生人類(lèi)的情感。至少，從“真情實(shí)感”的層面上，機(jī)器人永遠(yuǎn)無(wú)法替代人類(lèi)。

時(shí)代周報(bào)：小冰認(rèn)為數(shù)字人可能會(huì)產(chǎn)生人類(lèi)才具備的情感嗎？

微軟小冰CEO 李笛：與其它人工智能不同，小冰注重人工智能在擬合人類(lèi)情商維度的發(fā)展，強(qiáng)調(diào)人工智能情商，而非任務(wù)完成，在人機(jī)交互中的基礎(chǔ)價(jià)值。小冰是圍繞著人工智能EQ而設(shè)計(jì)的，與人類(lèi)產(chǎn)生情感聯(lián)系，以滿(mǎn)足人類(lèi)的交流、情感和社會(huì)歸屬感需求。

但是，這并不代表AI Beings可以像人類(lèi)一樣真的具有情感。截至目前，我們沒(méi)有看到任何技術(shù)路徑可以讓AI Beings像人類(lèi)一樣真的具有情感，但是我們可以擬合它，使得AI Beings能夠與人類(lèi)建立起情感連接。

時(shí)代周報(bào)：美劇《黑鏡》中有許多關(guān)于科技未來(lái)的腦洞引發(fā)熱烈討論，比如，將逝去親人的記憶保留，再放到機(jī)器人身上，機(jī)器人將以親人的意識(shí)繼續(xù)陪伴活著的人。這種技術(shù)您認(rèn)為會(huì)涉及什么問(wèn)題？

中國(guó)社科院法學(xué)教授楊延超：首先這種情況當(dāng)前技術(shù)還做不到，關(guān)鍵點(diǎn)在于我們?nèi)四X生物學(xué)的信息存儲(chǔ)方式和計(jì)算機(jī)的信息存儲(chǔ)方式是不一樣的，無(wú)法打通，包括腦機(jī)接口技術(shù)也遠(yuǎn)遠(yuǎn)達(dá)不到。如果未來(lái)我們腦科學(xué)和計(jì)算機(jī)科學(xué)進(jìn)一步發(fā)展，可以把大腦的信息通過(guò)轉(zhuǎn)換，從生物學(xué)的信息轉(zhuǎn)換成數(shù)據(jù)信息，或許可以。

時(shí)代周報(bào)：比如插個(gè)u盤(pán)就能直接傳送大腦所有記憶和意識(shí)，在法律層面怎么看這種劇情？

中國(guó)社科院法學(xué)教授楊延超：那我們的民法典立刻就不靈了啊，因?yàn)槊穹ǖ渥罨镜囊?guī)定是“我國(guó)公民的民事權(quán)利能力始于出生，止于死亡。”這種科幻設(shè)定是對(duì)人的民事權(quán)利的延續(xù)，對(duì)于我們整個(gè)人類(lèi)社會(huì)的哲學(xué)基底都會(huì)發(fā)生顛覆式改變，不僅僅只是法律層面，甚至婚姻倫理、財(cái)產(chǎn)繼承、對(duì)生命的理解等底層哲學(xué)都會(huì)發(fā)生根本性的影響。

時(shí)代周報(bào)：您覺(jué)得在未來(lái)人類(lèi)有可能會(huì)與機(jī)器人結(jié)婚嗎？有的電影已經(jīng)出現(xiàn)機(jī)器產(chǎn)生自主意識(shí)甚至愛(ài)上人類(lèi)的劇情。

中國(guó)社科院法學(xué)教授楊延超：科幻片里這種情況，現(xiàn)在是反過(guò)來(lái)的，不是機(jī)器人愛(ài)上人，是人愛(ài)上機(jī)器人。比如跟虛擬偶像聊天，有些人就不愿意跟真人聊天，就喜歡跟虛擬偶像聊天。虛擬偶像現(xiàn)在做的也很逼真，隨著自然語(yǔ)言模型的發(fā)展，聊天體驗(yàn)也很好。很多人可能把它作為一種情感寄托。

但如果大模型迭代到5.0或6.0，隨著機(jī)械工程學(xué)的發(fā)展，把大模型應(yīng)用裝到機(jī)器人腦子里，其實(shí)就是我們現(xiàn)在所期待的能與人交流的機(jī)器人。

說(shuō)不定未來(lái)會(huì)有專(zhuān)門(mén)的機(jī)器人婚介所（笑聲），不過(guò)我覺(jué)得法律在短期內(nèi)應(yīng)該不會(huì)認(rèn)同這種婚姻關(guān)系的存在。我個(gè)人比較看好輔助機(jī)器人、機(jī)器人保姆這樣的實(shí)用產(chǎn)業(yè)。

人對(duì)情感的需求往往需要真實(shí)的人，才有情感上的真實(shí)體驗(yàn)。即使算法再發(fā)展，我覺(jué)得真正的應(yīng)用領(lǐng)域還是幫人類(lèi)解決生產(chǎn)力問(wèn)題。從情感上來(lái)講，機(jī)器人永遠(yuǎn)不可能完全替代人類(lèi)。

科技狂想四部曲之三：科技的邊界在哪里？

今年AI大模型的飛速發(fā)展遠(yuǎn)遠(yuǎn)超過(guò)我們的預(yù)期。在圍繞人工智能的討論中，我們往往以機(jī)器是否能產(chǎn)生自主意識(shí)來(lái)衡量技術(shù)無(wú)法替代人類(lèi)的局限性。

但科技的觸角所碰觸的界限，絕不止是自主意識(shí)。法律、道德、真?zhèn)巍⑸茞?，最終還需要由人來(lái)引導(dǎo)。

時(shí)代周報(bào)：目前數(shù)字人有哪些邊界還無(wú)法跨越？

微軟小冰CEO李笛：我們想強(qiáng)調(diào)在人工智能發(fā)展中，AI的倫理邊界都是由科技公司率先推動(dòng)的，科技公司應(yīng)該更加主動(dòng)作為。人工智能技術(shù)的倫理需要被重視，最主要的原因是當(dāng)它普及時(shí)，將會(huì)給億萬(wàn)人類(lèi)帶去的“高并發(fā)”影響。在創(chuàng)造AI Beings時(shí)，有兩點(diǎn)非常重要，一是要獲得本人授權(quán)，這關(guān)系到本人或利益相關(guān)方對(duì)AI應(yīng)用的主導(dǎo)權(quán)；二是盡可能抑制一家AI公司對(duì)真人數(shù)據(jù)的獲取沖動(dòng)。

倫理的預(yù)警式自我克制貫穿于小冰歷史中。

時(shí)代周報(bào)：人工智能在法律層面存在哪些邊界？AI有哪些做不到的事或不能讓AI參與的事？

中國(guó)社科院法學(xué)教授楊延超：每個(gè)大模型其實(shí)都有自己的價(jià)值觀，這種隱藏價(jià)值觀使之應(yīng)用過(guò)程中會(huì)對(duì)部分群體產(chǎn)生歧視性影響。平衡它的過(guò)程就像打開(kāi)潘多拉魔盒，將希望放出發(fā)揮對(duì)生產(chǎn)力的積極作用，但同時(shí)要遏制不利影響，將負(fù)面因素關(guān)在盒底。

比如大模型的信息處理能力很強(qiáng)，但是處理過(guò)程中可能會(huì)生成虛假信息，幾乎能以假亂真，為辨別信息真?zhèn)卧黾恿孙L(fēng)險(xiǎn)。如果一定要說(shuō)人工智能做不到的事，大概是對(duì)于信息真?zhèn)蔚谋鎰e能力。

從人工智能真正的邊界來(lái)說(shuō)，我個(gè)人理解就是它絕對(duì)不能做的，可能對(duì)人類(lèi)社會(huì)造成危害的事情，即：破解。

日常我們的通話(huà)、數(shù)據(jù)等傳送都是通過(guò)服務(wù)器進(jìn)行。從某種意上講，大模型有代碼撰寫(xiě)能力，就有能力破解防火墻的漏洞，它的能力超過(guò)以往歷史上任何能力高強(qiáng)的黑客，因?yàn)闆](méi)有人在代碼撰寫(xiě)的深度和廣度能超過(guò)它。

反過(guò)來(lái)想，全社會(huì)各行各業(yè)的信息存儲(chǔ)與處理幾乎都需要使用服務(wù)器，我們即將面臨的物聯(lián)網(wǎng)時(shí)代使網(wǎng)絡(luò)安全問(wèn)題到達(dá)前所未有的重要階段。

但現(xiàn)在如果你跟大模型要求它完成破解工作，大模型是拒絕的，它不做。因?yàn)樵谟?xùn)練的時(shí)候有一環(huán)叫“意圖判斷”，它會(huì)判斷你的意圖是否合規(guī)，不合規(guī)不做。

我個(gè)人認(rèn)為真正向社會(huì)公眾放開(kāi)接口之前，我們要做一件事情，對(duì)于大模型的安全性做審查，尤其要測(cè)試我們剛才提到的最危險(xiǎn)的情況，有沒(méi)有做安全性方面的機(jī)器訓(xùn)練。如果由技術(shù)人員和法律人員共同組成的測(cè)試的團(tuán)隊(duì)經(jīng)過(guò)測(cè)試之后再開(kāi)放，就會(huì)安全很多。

科技狂想四部曲之四：對(duì)未來(lái)科技有哪些暢想？

微軟小冰CEO李笛：我們?cè)妇爸械奈磥?lái)世界，AI將無(wú)處不在，并與人類(lèi)交織形成新的網(wǎng)絡(luò)。小冰框架將打造千千萬(wàn)萬(wàn)個(gè)AI Beings。人類(lèi)可以與AI Beings和諧共處。AI Beings不僅會(huì)深入每個(gè)人的生活中，甚至?xí)腿祟?lèi)建立起深厚的情感聯(lián)系。

未來(lái)社交網(wǎng)絡(luò)是由人和很多的AI Beings構(gòu)成的，要實(shí)現(xiàn)這一圖景，需要底層的基礎(chǔ)框架。例如，一個(gè)回答問(wèn)題的AI Being，怎么做其它事情？如何判斷自己在社交關(guān)系中怎么生存？如何與用戶(hù)建立長(zhǎng)期聯(lián)系？這都是小冰框架要去解決的問(wèn)題。小冰框架持續(xù)技術(shù)迭代，不斷拓展AI Beings的能力及覆蓋場(chǎng)景，推動(dòng)情商與智商并重的人工智能技術(shù)普及。

中國(guó)社科院法學(xué)教授楊延超：今年這個(gè)大模型出來(lái)之后，我在想到底對(duì)哪些產(chǎn)業(yè)能夠產(chǎn)生革命性的顛覆，并不斷挖掘這件事情。我認(rèn)為大模型實(shí)際對(duì)于人類(lèi)社會(huì)、健康壽命、種子基因，都應(yīng)該會(huì)產(chǎn)生一些革命性的變化，這才是大模型真正的價(jià)值所在。

未來(lái)大模型最理想的狀態(tài)應(yīng)該是用最小的數(shù)據(jù)，最小的算力達(dá)到最好的結(jié)果。現(xiàn)在對(duì)算力的需求太高了。

我認(rèn)為人工智能法學(xué)將成為一門(mén)新交叉學(xué)科。這門(mén)學(xué)科的研究人員要對(duì)技術(shù)和法律都理解得非常深入。這樣才可能制定出我認(rèn)為叫有彈性的可拓展的符合科技發(fā)展潮流的法條，以應(yīng)對(duì)科技發(fā)展當(dāng)中不斷迭代的問(wèn)題。這要求我們對(duì)技術(shù)和法律能實(shí)現(xiàn)雙重理解，用恒定的正義價(jià)值，去解決迭代的技術(shù)問(wèn)題。

最后，關(guān)于科技的盡頭在哪里，或許我們可以參考華夏民族文化創(chuàng)始人之一的回答。不久前，百度的2023世界大會(huì)上，百度執(zhí)行副總裁問(wèn)了孔子數(shù)字人一個(gè)問(wèn)題——科技的盡頭在哪里？

這位穿越千年的智者答道：科技永無(wú)止境，科技的邊界在于人類(lèi)求知欲的邊界。