這段時(shí)間，ChatGPT聊天機(jī)器人風(fēng)靡全網(wǎng)，刷新了人們對(duì)于聊天工具的認(rèn)知。

但是大家知道嗎？關(guān)于這項(xiàng)聊天工具的背后，其實(shí)就是深度合成技術(shù)在現(xiàn)實(shí)生活中的具體應(yīng)用。什么是深度合成技術(shù)？

指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，也從規(guī)范深度合成服務(wù)出發(fā)開(kāi)創(chuàng)了新興算法治理的先河。

一、深度合成技術(shù)包括什么？

1.文本技術(shù)

篇章生成、文本風(fēng)格轉(zhuǎn)換、問(wèn)答對(duì)話等對(duì)文本內(nèi)容進(jìn)行生成或者編輯的技術(shù)。例如文檔轉(zhuǎn)換軟件等。

2.語(yǔ)音技術(shù)

隨著技術(shù)的不斷積累、迭代，人工智能有望推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展，釋放發(fā)展紅利，賦能美好未來(lái)。

文本轉(zhuǎn)語(yǔ)音、語(yǔ)音轉(zhuǎn)換、語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內(nèi)容的技術(shù)。例如語(yǔ)言更改功能軟件等。

3.非語(yǔ)音技術(shù)

音樂(lè)生成、場(chǎng)景聲編輯等生成或編輯非語(yǔ)音內(nèi)容的技術(shù)。例如音樂(lè)制作軟件等。

4.生物特征技術(shù)

人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)。例如AI人臉生成軟件等。

5.非生物特征技術(shù)

圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)。例如一鍵AI繪畫(huà)卡通頭像軟件等。

6.數(shù)字虛擬技術(shù)

三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景的技術(shù)。例如手機(jī)3D建模軟件等。

二、哪些行為不得做？

1.不得制、復(fù)、發(fā)、傳法律法規(guī)禁止的信息

任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。

2.不得從事法律、法規(guī)禁止的活動(dòng)

任何組織和個(gè)人不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。

3.不得制、復(fù)、發(fā)、傳虛假新聞信息

深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。

三、哪些行為必須做？

1.信息安全主體責(zé)任、管理制度、技術(shù)保護(hù)措施

深度合成服務(wù)提供者應(yīng)當(dāng)落實(shí)信息安全主體責(zé)任，建立健全用戶(hù)注冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度，具有安全可控的技術(shù)保障措施。

2.管理規(guī)則、平臺(tái)公約等一般要求

深度合成服務(wù)提供者應(yīng)當(dāng)制定和公開(kāi)管理規(guī)則、平臺(tái)公約，完善服務(wù)協(xié)議，依法依約履行管理責(zé)任，以顯著方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)。

3.真實(shí)身份信息認(rèn)證

深度合成服務(wù)提供者應(yīng)當(dāng)基于移動(dòng)電話號(hào)碼、身份證件號(hào)碼、統(tǒng)一社會(huì)信用代碼或者國(guó)家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等方式，依法對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證，不得向未進(jìn)行真實(shí)身份信息認(rèn)證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。

4.信息內(nèi)容審核義務(wù)

深度合成服務(wù)提供者應(yīng)當(dāng)加強(qiáng)深度合成內(nèi)容管理，采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核。

5.構(gòu)建識(shí)別違法不良信息特征庫(kù)、對(duì)違法不良信息的處置措施

深度合成服務(wù)提供者應(yīng)當(dāng)建立健全用于識(shí)別違法和不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序，記錄并留存相關(guān)網(wǎng)絡(luò)日志。

深度合成服務(wù)提供者發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)依法采取處置措施，保存有關(guān)記錄，及時(shí)向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報(bào)告；對(duì)相關(guān)深度合成服務(wù)使用者依法依約采取警示、限制功能、暫停服務(wù)、關(guān)閉賬號(hào)等處置措施。

6.建立健全辟謠機(jī)制

深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制，發(fā)現(xiàn)利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當(dāng)及時(shí)采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報(bào)告。

7.便利用戶(hù)投訴、舉報(bào)義務(wù)

深度合成服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷的用戶(hù)申訴和公眾投訴、舉報(bào)入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理和反饋處理結(jié)果。

8.應(yīng)用程序分發(fā)平臺(tái)的安全管理

互聯(lián)網(wǎng)應(yīng)用商店等應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)落實(shí)上架審核、日常管理、應(yīng)急處置等安全管理責(zé)任，核驗(yàn)深度合成類(lèi)應(yīng)用程序的安全評(píng)估、備案等情況；對(duì)違反國(guó)家有關(guān)規(guī)定的，應(yīng)當(dāng)及時(shí)采取不予上架、警示、暫停服務(wù)或者下架等處置措施。

9.訓(xùn)練數(shù)據(jù)和生物識(shí)別信息安全管理要求

深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定。

深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

10.技術(shù)管理要求

深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)技術(shù)管理，定期審核、評(píng)估、驗(yàn)證生成合成類(lèi)算法機(jī)制機(jī)理。

深度合成服務(wù)提供者和技術(shù)支持者提供具有以下功能的模型、模板等工具的，應(yīng)當(dāng)依法自行或者委托專(zhuān)業(yè)機(jī)構(gòu)開(kāi)展安全評(píng)估：

(一)生成或者編輯人臉、人聲等生物識(shí)別信息的；

(二)生成或者編輯可能涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識(shí)別信息的。

11.“隱式標(biāo)識(shí)”義務(wù)

深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶(hù)使用的標(biāo)識(shí)，并依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日志信息。

12.“顯著標(biāo)識(shí)”義務(wù)

深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況：

(一)智能對(duì)話、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；

(二)合成人聲、仿聲等語(yǔ)音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；

(三)人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；

(四)沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)；

(五)其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。

深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能，并提示深度合成服務(wù)使用者可以進(jìn)行顯著標(biāo)識(shí)。