9月7日下午，在2023 inclusion·外灘大會(huì)舉行的《探索下一代安全智能》論壇上，世界權(quán)威國(guó)際產(chǎn)業(yè)組織“云安全聯(lián)盟”（CSA）大中華區(qū)宣布成立“AI安全工作組”，中國(guó)電信、螞蟻集團(tuán)、華為、百度、字節(jié)跳動(dòng)、西安電子科技大學(xué)、國(guó)家金融測(cè)評(píng)中心等30余家機(jī)構(gòu)成為首批發(fā)起單位。該組織致力于共同解決AI技術(shù)快速發(fā)展所帶來的安全難題。

與會(huì)的中國(guó)科學(xué)院院士何積豐表示，“以人工智能為代表的數(shù)字技術(shù)正邁入從高速增長(zhǎng)向高質(zhì)量增長(zhǎng)轉(zhuǎn)變的全新發(fā)展階段，這對(duì)其自身安全性和可靠性提出更高要求，也衍生出新型風(fēng)險(xiǎn)與挑戰(zhàn)。這類風(fēng)險(xiǎn)更加復(fù)雜且隱蔽，只有建設(shè)數(shù)字安全生態(tài)協(xié)作系統(tǒng)，政、產(chǎn)、學(xué)、研各方緊密合作，共同建設(shè)可信可控的數(shù)字安全屏障。”

云安全聯(lián)盟大中華區(qū)AI安全工作組將由中國(guó)電信上海研究院、螞蟻集團(tuán)擔(dān)任聯(lián)席組長(zhǎng)單位，召集聯(lián)盟內(nèi)人工智能相關(guān)的產(chǎn)線上下游企業(yè)、學(xué)校、研究機(jī)構(gòu)、用戶單位等共同研究人工智能安全前沿技術(shù)。

從現(xiàn)場(chǎng)獲悉，AI安全工作組將聚焦人工智能突出的安全風(fēng)險(xiǎn)問題，輸出人工智能內(nèi)生安全、衍生安全、助力安全等領(lǐng)域的白皮書、產(chǎn)業(yè)知識(shí)圖譜、團(tuán)體標(biāo)準(zhǔn)、系統(tǒng)框架、解決方案等，為整個(gè)行業(yè)提供一個(gè)清晰、系統(tǒng)的AI安全研究框架。根據(jù)計(jì)劃，工作組先期將輸出《AI安全白皮書》《大模型安全研究報(bào)告》《AI數(shù)據(jù)安全評(píng)估規(guī)范》等研究成果。

CSA（云安全聯(lián)盟）創(chuàng)立于2009年，是世界領(lǐng)先的權(quán)威國(guó)際產(chǎn)業(yè)組織，共有成員單位1000余家。CSA致力于定義和提高業(yè)界對(duì)云計(jì)算和下一代數(shù)字技術(shù)安全最佳實(shí)踐的認(rèn)識(shí)和全面發(fā)展，憑借敏捷性、中立性、專業(yè)性被各界認(rèn)可。CSA GCR（云安全聯(lián)盟大中華區(qū)）是CSA全球四大區(qū)之一（其它三大區(qū)分別為美洲區(qū)、亞太區(qū)、歐非區(qū)），立足于中國(guó)，作為國(guó)際橋梁聯(lián)接世界，致力于構(gòu)建國(guó)際數(shù)字安全的生態(tài)體系。此次AI安全工作組的成立，也將發(fā)揮國(guó)際橋梁作用，使我國(guó)AI安全研究成果在全球范圍內(nèi)產(chǎn)生影響。

從安全角度看，AI技術(shù)是把“雙刃劍”。它既會(huì)對(duì)數(shù)據(jù)、業(yè)務(wù)和系統(tǒng)等層面構(gòu)成威脅，也能為安全科技發(fā)展賦能。論壇與會(huì)嘉賓表達(dá)了一致的觀點(diǎn)，并提出了建設(shè)性意見。

中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)副秘書長(zhǎng)徐倩華表示，“發(fā)展的前提是安全。這需要各行各業(yè)形成筑牢安全防護(hù)屏障的共識(shí)，注重培養(yǎng)頂尖安全技術(shù)人才，貫徹落實(shí)相關(guān)法律法規(guī)，共同提升數(shù)字安全防護(hù)能力，確保健康可持續(xù)發(fā)展。”

云安全聯(lián)盟大中華區(qū)主席李雨航院士也表示，“發(fā)展與安全是前進(jìn)的雙輪。人工智能技術(shù)的研發(fā)既不能因噎廢食，也不能坐視安全不顧。優(yōu)秀的中國(guó)AI方案應(yīng)該成為全球的樣板。”

中國(guó)電信研究院副院長(zhǎng)、云網(wǎng)基礎(chǔ)設(shè)施安全國(guó)家工程研究中心常務(wù)副主任李安民表示，面對(duì)日益復(fù)雜的云網(wǎng)安全威脅，積極探索AI安全、Web3框架下的安全技術(shù)及其創(chuàng)新應(yīng)用，才能幫助數(shù)據(jù)隱私、交易可信和網(wǎng)絡(luò)穩(wěn)定。

國(guó)家金融與發(fā)展實(shí)驗(yàn)室副主任楊濤表示，“讓金融更安全地?fù)肀Э萍迹环矫嬉鉀Q科技企業(yè)與金融機(jī)構(gòu)建立‘各司其職、風(fēng)險(xiǎn)自擔(dān)’的合作邊界問題，另一方面完善金融科技生態(tài)與夯實(shí)基礎(chǔ)要素。”

中國(guó)民生銀行首席信息官?gòu)埍笳J(rèn)為，“當(dāng)前開放銀行、智慧銀行、場(chǎng)景金融等數(shù)字金融服務(wù)迅猛發(fā)展，金融機(jī)構(gòu)應(yīng)盡快建立與之配套的數(shù)字安全防御體系，驅(qū)動(dòng)金融業(yè)務(wù)更好、更快、更穩(wěn)健發(fā)展。”

作為互聯(lián)網(wǎng)科技企業(yè)，螞蟻集團(tuán)機(jī)器智能部總經(jīng)理、螞蟻安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)介紹，針對(duì)生成式大模型安全問題，螞蟻集團(tuán)基于近10年可信AI沉淀，逐步構(gòu)建“大模型安全檢測(cè)與防御”的一體化解決方案，以保障大模型在生產(chǎn)和使用過程中更加安全、可控、可靠。目前已發(fā)布“蟻鑒”AI安全檢測(cè)平臺(tái)。同時(shí)螞蟻集團(tuán)基于安全基座模型能力，持續(xù)升級(jí)全方位全鏈路的智能風(fēng)控防御體系，與生態(tài)伙伴們一起解決新AI時(shí)代的安全科技難題。

據(jù)了解，本次論壇由中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)指導(dǎo)，金融科技50人論壇、螞蟻集團(tuán)聯(lián)合主辦，多位重磅嘉賓參會(huì)探討數(shù)實(shí)融合發(fā)展中的新型風(fēng)險(xiǎn)與挑戰(zhàn)，分享時(shí)代脈搏下的關(guān)鍵技術(shù)趨勢(shì)和安全科技實(shí)踐成果。