近期，ChatGPT大火，以ChatGPT為代表的人工智能生成內(nèi)容技術(shù)將變革文本、視頻圖像等內(nèi)容的生產(chǎn)方式。AI可以按使用者的個人需求創(chuàng)作生成內(nèi)容，并且生成的內(nèi)容人工已經(jīng)很難辨別真實性。隨之而來的利用AI進行信息造假、網(wǎng)絡(luò)水軍、內(nèi)容侵權(quán)等方面的安全風(fēng)險不容忽視，將會侵犯個人隱私，危害社會穩(wěn)定，甚至威脅國家安全。

為此，迫切需要針對這類生成文本的智能檢測識別技術(shù)和產(chǎn)品，提升監(jiān)管部門對內(nèi)容安全治理的能力。

日前，為規(guī)范深度合成服務(wù)，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）?！兑?guī)定》通過系統(tǒng)性、創(chuàng)新性制度設(shè)計，首次回應(yīng)了對深度合成服務(wù)的管理要求，為互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范發(fā)展提供了基本遵循和合法依據(jù)。(點擊此處了解《規(guī)定》詳情)

4月11日，為促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱：《意見稿》）【文件請點擊資料下載】。生成式人工智能服務(wù)的提供者將迎來更加嚴(yán)格的監(jiān)管。

《意見稿》指出：國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

同時《意見稿》擬規(guī)定，提供生成式人工智能服務(wù)應(yīng)當(dāng)按照《中華人民共和國網(wǎng)絡(luò)安全法》規(guī)定，要求用戶提供真實身份信息。利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息。提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成的圖片、視頻等內(nèi)容進行標(biāo)識。

阻止AI濫用，防止AI作惡，在充分發(fā)揮政府監(jiān)管職能的同時，也需科技企業(yè)發(fā)揮技術(shù)能力，用“魔法”打敗“魔法”。

作為國內(nèi)電子數(shù)據(jù)取證行業(yè)龍頭和公共安全大數(shù)據(jù)領(lǐng)先企業(yè)、網(wǎng)絡(luò)空間安全與社會治理領(lǐng)域國家隊，美亞柏科2017年成立AI研發(fā)中心，深度開展人工智能技術(shù)研究。為了應(yīng)對利用人工智能技術(shù)可能帶來的安全問題，2019年針對深度合成技術(shù)又特別成立專項研究團隊(下稱“專項團隊”)。

專項團隊通過對深度合成和生成式AI技術(shù)的深入研究以及在人工智能安全方向的經(jīng)驗積累，自主研發(fā)深度偽造視頻圖像檢測鑒定的核心引擎，打造出一系列視頻圖像檢測鑒定的一體化智能裝備“AI-3300慧眼視頻圖像鑒真工作站”等。

與此同時，公司基于在電子數(shù)據(jù)取證和公共安全大數(shù)據(jù)多年的行業(yè)積累，已研究推出針對人工智能（如ChatGPT）生成文本內(nèi)容的檢測工具，中文生成文本檢測的準(zhǔn)確率超過90%。

未來，美亞柏科將繼續(xù)聚焦生成式人工智能和AI生成內(nèi)容的檢測識別技術(shù)，踔厲奮發(fā)，持續(xù)發(fā)力，按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理辦法》的管理要求，針對深度合成文本、視頻、圖像的檢測鑒定技術(shù)、生成式人工智能技術(shù)、人工智能安全取證技術(shù)等方面的應(yīng)用需求，不斷打磨推出更為安全、可信、可靠的人工智能技術(shù)產(chǎn)品，為維護和保障人工智能的健康發(fā)展和規(guī)范應(yīng)用貢獻力量！