行業(yè)專家周四表示，需要做出更大的努力，使人工智能對人類社會安全——在人工智能技術(shù)和算法取得進(jìn)一步進(jìn)展之前，世界各地的監(jiān)管機(jī)構(gòu)必須設(shè)定道德界限。

浙江實(shí)驗(yàn)室主任、人工智能產(chǎn)業(yè)聯(lián)盟副主席朱世強(qiáng)在2022年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會的人工智能和數(shù)字倫理論壇上表示：“刀子可以用來剁食材，但也可以用來殺人。理想情況下，我們應(yīng)該把人工智能發(fā)展成一把鋒利的刀子，它可以成為人類的實(shí)用工具，但永遠(yuǎn)不會傷害我們。”。

清華大學(xué)人工智能研究院院長、中國科學(xué)院院士張波表示，必須采取措施，防止人們失去對人工智能機(jī)器和潛在有感知機(jī)器人的控制，否則，科幻場景可能會發(fā)生。

“我們過去認(rèn)為，只有當(dāng)人工智能超越或接近人類時，機(jī)器才能成為人類的威脅。但事實(shí)是，盡管人工智能還處于萌芽階段，但我們似乎比預(yù)期的更早就開始失去控制，”張波說。

目前，支持人工智能的技術(shù)可以生成高質(zhì)量的信息，包括文本和圖像，以滿足用戶的要求。但人工智能也可以擺脫用戶的控制，被操縱來傳遞有偏見和不準(zhǔn)確的信息。基于這些信息的決策可能導(dǎo)致災(zāi)難。然而，人們應(yīng)該給予人工智能產(chǎn)業(yè)自由和自主權(quán)，使其朝著正確的方向發(fā)展，張波說。

他說：“人工智能系統(tǒng)也容易受到攻擊，因?yàn)樗惴ú话踩?、不可信或不可靠。?dāng)系統(tǒng)受到攻擊時，它們甚至可能產(chǎn)生破壞性行為。”。“像AI deepfakes這樣的技術(shù)——通過操縱視頻和圖像來創(chuàng)建看似真實(shí)但虛構(gòu)的內(nèi)容——對社會產(chǎn)生了巨大影響。”

開發(fā)人員必須在開發(fā)階段對人工智能系統(tǒng)進(jìn)行科學(xué)評估，并對其進(jìn)行密切監(jiān)控。此外，張波說，必須采取措施防止系統(tǒng)受到攻擊或流氓行為。

浙江實(shí)驗(yàn)室的朱教授表示，盡管目前人工智能還處于萌芽階段，但在推動其發(fā)展的同時，人們必須高度重視防止其被濫用。

他說，實(shí)驗(yàn)室已經(jīng)開始開發(fā)方法，防止人工智能危害社會，并將其置于控制之下。