9月7日下午，在2023 inclusion·外灘大會舉行的《探索下一代安全智能》論壇上，世界權(quán)威國際產(chǎn)業(yè)組織“云安全聯(lián)盟”（CSA）大中華區(qū)宣布成立“AI安全工作組”，中國電信、螞蟻集團、華為、百度、字節(jié)跳動、西安電子科技大學(xué)、國家金融測評中心等30余家機構(gòu)成為首批發(fā)起單位。該組織致力于共同解決AI技術(shù)快速發(fā)展所帶來的安全難題。

與會的中國科學(xué)院院士何積豐表示，“以人工智能為代表的數(shù)字技術(shù)正邁入從高速增長向高質(zhì)量增長轉(zhuǎn)變的全新發(fā)展階段，這對其自身安全性和可靠性提出更高要求，也衍生出新型風(fēng)險與挑戰(zhàn)。這類風(fēng)險更加復(fù)雜且隱蔽，只有建設(shè)數(shù)字安全生態(tài)協(xié)作系統(tǒng)，政、產(chǎn)、學(xué)、研各方緊密合作，共同建設(shè)可信可控的數(shù)字安全屏障。”

云安全聯(lián)盟大中華區(qū)AI安全工作組將由中國電信上海研究院、螞蟻集團擔(dān)任聯(lián)席組長單位，召集聯(lián)盟內(nèi)人工智能相關(guān)的產(chǎn)線上下游企業(yè)、學(xué)校、研究機構(gòu)、用戶單位等共同研究人工智能安全前沿技術(shù)。

從現(xiàn)場獲悉，AI安全工作組將聚焦人工智能突出的安全風(fēng)險問題，輸出人工智能內(nèi)生安全、衍生安全、助力安全等領(lǐng)域的白皮書、產(chǎn)業(yè)知識圖譜、團體標準、系統(tǒng)框架、解決方案等，為整個行業(yè)提供一個清晰、系統(tǒng)的AI安全研究框架。根據(jù)計劃，工作組先期將輸出《AI安全白皮書》《大模型安全研究報告》《AI數(shù)據(jù)安全評估規(guī)范》等研究成果。

CSA（云安全聯(lián)盟）創(chuàng)立于2009年，是世界領(lǐng)先的權(quán)威國際產(chǎn)業(yè)組織，共有成員單位1000余家。CSA致力于定義和提高業(yè)界對云計算和下一代數(shù)字技術(shù)安全最佳實踐的認識和全面發(fā)展，憑借敏捷性、中立性、專業(yè)性被各界認可。CSA GCR（云安全聯(lián)盟大中華區(qū)）是CSA全球四大區(qū)之一（其它三大區(qū)分別為美洲區(qū)、亞太區(qū)、歐非區(qū)），立足于中國，作為國際橋梁聯(lián)接世界，致力于構(gòu)建國際數(shù)字安全的生態(tài)體系。此次AI安全工作組的成立，也將發(fā)揮國際橋梁作用，使我國AI安全研究成果在全球范圍內(nèi)產(chǎn)生影響。

從安全角度看，AI技術(shù)是把“雙刃劍”。它既會對數(shù)據(jù)、業(yè)務(wù)和系統(tǒng)等層面構(gòu)成威脅，也能為安全科技發(fā)展賦能。論壇與會嘉賓表達了一致的觀點，并提出了建設(shè)性意見。

中國網(wǎng)絡(luò)空間安全協(xié)會副秘書長徐倩華表示，“發(fā)展的前提是安全。這需要各行各業(yè)形成筑牢安全防護屏障的共識，注重培養(yǎng)頂尖安全技術(shù)人才，貫徹落實相關(guān)法律法規(guī)，共同提升數(shù)字安全防護能力，確保健康可持續(xù)發(fā)展。”

云安全聯(lián)盟大中華區(qū)主席李雨航院士也表示，“發(fā)展與安全是前進的雙輪。人工智能技術(shù)的研發(fā)既不能因噎廢食，也不能坐視安全不顧。優(yōu)秀的中國AI方案應(yīng)該成為全球的樣板。”

中國電信研究院副院長、云網(wǎng)基礎(chǔ)設(shè)施安全國家工程研究中心常務(wù)副主任李安民表示，面對日益復(fù)雜的云網(wǎng)安全威脅，積極探索AI安全、Web3框架下的安全技術(shù)及其創(chuàng)新應(yīng)用，才能幫助數(shù)據(jù)隱私、交易可信和網(wǎng)絡(luò)穩(wěn)定。

國家金融與發(fā)展實驗室副主任楊濤表示，“讓金融更安全地擁抱科技，一方面要解決科技企業(yè)與金融機構(gòu)建立‘各司其職、風(fēng)險自擔(dān)’的合作邊界問題，另一方面完善金融科技生態(tài)與夯實基礎(chǔ)要素。”

中國民生銀行首席信息官張斌認為，“當(dāng)前開放銀行、智慧銀行、場景金融等數(shù)字金融服務(wù)迅猛發(fā)展，金融機構(gòu)應(yīng)盡快建立與之配套的數(shù)字安全防御體系，驅(qū)動金融業(yè)務(wù)更好、更快、更穩(wěn)健發(fā)展。”

作為互聯(lián)網(wǎng)科技企業(yè)，螞蟻集團機器智能部總經(jīng)理、螞蟻安全實驗室首席科學(xué)家王維強介紹，針對生成式大模型安全問題，螞蟻集團基于近10年可信AI沉淀，逐步構(gòu)建“大模型安全檢測與防御”的一體化解決方案，以保障大模型在生產(chǎn)和使用過程中更加安全、可控、可靠。目前已發(fā)布“蟻鑒”AI安全檢測平臺。同時螞蟻集團基于安全基座模型能力，持續(xù)升級全方位全鏈路的智能風(fēng)控防御體系，與生態(tài)伙伴們一起解決新AI時代的安全科技難題。

據(jù)了解，本次論壇由中國網(wǎng)絡(luò)空間安全協(xié)會指導(dǎo)，金融科技50人論壇、螞蟻集團聯(lián)合主辦，多位重磅嘉賓參會探討數(shù)實融合發(fā)展中的新型風(fēng)險與挑戰(zhàn)，分享時代脈搏下的關(guān)鍵技術(shù)趨勢和安全科技實踐成果。