眾所周知，新興技術(shù)的發(fā)展是把雙刃劍，當(dāng)人工智能從1.0時代邁入2.0時代，AIGC（生成式人工智能）為千行百業(yè)帶來市場紅利的同時，也催生了不少行業(yè)安全隱患。

諸如技術(shù)濫用、虛假信息傳播、個人信息權(quán)益被侵害、數(shù)據(jù)泄露或偏見歧視等安全問題，已然成為AIGC產(chǎn)業(yè)持續(xù)發(fā)展的阻礙。因而，基于實際國情，適合我國社會環(huán)境、產(chǎn)業(yè)發(fā)展和技術(shù)創(chuàng)新等監(jiān)管政策的出爐成為當(dāng)務(wù)之急。

一、風(fēng)險凸顯

眾所周知，AI發(fā)展的三駕馬車“算法、算力、數(shù)據(jù)”，數(shù)據(jù)尤為重要，其安全性則是重中之重。而作為AI下一個風(fēng)口的AIGC，更需要海量優(yōu)質(zhì)數(shù)據(jù)為訓(xùn)練模型提供支撐，其訓(xùn)練參數(shù)量從億級飆升到萬億級。

數(shù)據(jù)顯示，2018年GPT預(yù)訓(xùn)練模型參數(shù)量突破1億，2020年的CPT-3模型參數(shù)量達到1750億，GPT-4的參數(shù)量高達1.8萬億，GPT-4的參數(shù)量規(guī)模是GPT-3的10倍以上。

可見，動輒千億、上萬億參數(shù)的模型訓(xùn)練，不僅試錯成本高昂，而且很難在訓(xùn)練過程中進行修正。AIGC的訓(xùn)練模型數(shù)據(jù)需求量大，如若喂給大模型的樣本數(shù)據(jù)存在虛假、不準(zhǔn)確性或涉及到用戶個人隱私安全，其生成內(nèi)容歸屬難定，或?qū)⑸婕暗桨踩螂[私糾紛。

當(dāng)前，AIGC持續(xù)大熱，其應(yīng)用場景不斷拓展，覆蓋千行百業(yè)多個領(lǐng)域。當(dāng)通用大模型向行業(yè)大模型轉(zhuǎn)型升級，對細分行業(yè)的數(shù)據(jù)需求更多，數(shù)據(jù)質(zhì)量要求更高，也對海量數(shù)據(jù)的真實性、準(zhǔn)確性、安全性提出更高要求。

二、可信AI的挑戰(zhàn)

聚焦國內(nèi)市場，伴隨著AI技術(shù)的快速迭代和應(yīng)用場景商業(yè)化落地，AIGC的發(fā)展也亟待解決可釋性、公平性、魯棒性等核心挑戰(zhàn)。

通俗來講，可釋性就是“知其然不知其所以然”。例如當(dāng)購物網(wǎng)站為用戶推薦了一個商品，我們不僅希望用戶看到推薦的結(jié)果，還要告訴用戶為什么推薦這個商品。就是從“知道這個結(jié)果”到“為什么是這個結(jié)果”的溯源，但在人工智能的不斷深度學(xué)習(xí)中，越來越缺少系統(tǒng)的可解釋性。

公平性缺失意味著，在同樣的商品推薦中，基于圖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)隱藏在數(shù)據(jù)中的偏見，對性別、年齡、種族等產(chǎn)生不同的推薦效果，從而降低了對用戶和對推薦物的公平性。

魯棒性的挑戰(zhàn)則指系統(tǒng)、算法或模型在存在異常輸入、算法錯誤或深度偽造數(shù)據(jù)時，容易被欺騙犯錯，從而造成AI系統(tǒng)的不可控和不準(zhǔn)確。

綜上來看，要做到可信AI，需要從可釋性、公平性、魯棒性、倫理性、正確性、安全性等多維度進行考量，才會更好地驅(qū)動AIGC的未來發(fā)展。

由此可見，AIGC的“超能力”將逐步賦能千行百業(yè)，有必要提前預(yù)防可能產(chǎn)生的安全風(fēng)險。因而，為了規(guī)避新技術(shù)帶來的陷阱，對AIGC或?qū)a(chǎn)生的不良影響，亟待政策層面的保障。

三、多國監(jiān)管政策出爐

在AIGC技術(shù)逐步向細分行業(yè)商業(yè)化的落地過程中，其引發(fā)的安全問題已受到全球關(guān)注，并引發(fā)監(jiān)管層面的關(guān)注和行動。

今年4月，AI早期創(chuàng)始人馬斯克聯(lián)合業(yè)內(nèi)千名高管和專家發(fā)布公開信，倡議所有人工智能實驗室應(yīng)立即暫停訓(xùn)練至少6個月，以應(yīng)對AI脫離人類掌控的威脅。

5月，美國政府機構(gòu)強調(diào)對ChatGPT在倫理道德方面的監(jiān)管，研究和制定針對ChatGPT的監(jiān)管政策和指南，以確保ChatGPT的發(fā)展和應(yīng)用符合法律法規(guī)和倫理標(biāo)準(zhǔn)。

6月，歐盟議會宣布《人工智能法案》進入最終討論階段，對AIGC生成圖像和文本的智能模型制定限制性規(guī)則。意大利、愛爾蘭、德國、法國等或?qū)⑼Ｓ肅hatGPT，并調(diào)查它是否符合通用數(shù)據(jù)保護條例。

7月，聯(lián)合國安理會也在開展AI風(fēng)險問題研討。這是該機構(gòu)第一次舉行類型會議，各國政府積極探討如何降低新興AI技術(shù)在全球經(jīng)濟和國際安全方面帶來的風(fēng)險。

同是7月，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），自8月15日正式施行。

從上述各國對待AIGC技術(shù)帶來的風(fēng)險挑戰(zhàn)和應(yīng)對措施來看，在AIGC帶來“超能力”之時，也需要對其引發(fā)的多重風(fēng)險“立規(guī)矩”，助力AIGC更好地落地應(yīng)用。

四、《辦法》打造護城河

歷時3個月，伴隨著AIGC產(chǎn)業(yè)發(fā)展的高歌猛進，其監(jiān)管政策也從征求意見階段進階到正式落地階段，助力AIGC成為真正的“可信AI”。正如業(yè)內(nèi)人士所言：“《辦法》的出臺，就是打造可信AI的護城河”。

《辦法》的出臺，可謂順勢而為。其中，第七條提到生成式人工智能服務(wù)提供者需“使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強訓(xùn)練數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性。

具體規(guī)定包括：1）使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；2）涉及知識產(chǎn)權(quán)的，不得侵害他人依法享受的知識產(chǎn)權(quán)；3）涉及個人信息的，應(yīng)用取得個人同意或符合法律、行政法規(guī)規(guī)定的其他情形；4）采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強訓(xùn)練數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性；5）《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》等法律、行政法規(guī)的其他有關(guān)規(guī)定和有關(guān)主管部門的相關(guān)監(jiān)管要求。

可以說，《辦法》的出臺，即是在政策認(rèn)可前提下的風(fēng)險管控，可以為大數(shù)據(jù)確權(quán)、云計算自主性、網(wǎng)絡(luò)安全等AI配套產(chǎn)業(yè)打造增量需求和服務(wù)，更好地實現(xiàn)“技術(shù)向善”。

隨著AIGC技術(shù)端的突破，將能更好地解決“安防+AI”遇到的個性化需求少、交付速度慢、長尾需求的算法精度差、定制化算法成本高等壁壘，助推“安防+AI”的二次變革，也助力安防產(chǎn)業(yè)收獲第一波AIGC應(yīng)用市場的紅利。

而安防產(chǎn)業(yè)在享受大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)、AIGC算法生成等帶來的紅利時，也必須更高效地應(yīng)對數(shù)據(jù)安全帶來的安全挑戰(zhàn)。特別是安防設(shè)備對圖片、視頻等數(shù)據(jù)的真實性和防偽性要求級別更高，《辦法》的出臺，為AIGC在安防行業(yè)的落地應(yīng)用提供了監(jiān)管保障。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人也表示，出臺《辦法》，旨在促進AIGC健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。

總結(jié)：

縱觀AIGC的發(fā)展軌跡，當(dāng)前其應(yīng)用領(lǐng)域側(cè)重于to-C領(lǐng)域，涵蓋對話、圖片、音頻、視頻等內(nèi)容生成，而未來涉及to-B領(lǐng)域的更多落地化應(yīng)用場景對行業(yè)大模型的需求也不少，但苦于資金、技術(shù)和算力的掣肘，還需要“通用大模型+應(yīng)用場景+訓(xùn)練調(diào)優(yōu)”進行迭代，從而提升行業(yè)大模型能力，深化技術(shù)和應(yīng)用場景。

可預(yù)見的是，基于AIGC應(yīng)用場景的普及和商業(yè)化落地，保護隱私和數(shù)據(jù)安全已刻不容緩。在此時間點，《辦法》的出臺則及時也很必要，可以降低AIGC發(fā)展引發(fā)的多重風(fēng)險，以促進行業(yè)整體健康發(fā)展。