中國可向歐盟《人工智能法案》借鑒什么？

2023年12月8日，歐洲議會和歐盟成員國就全球首部監(jiān)管人工智能的全面法規(guī)——歐盟《人工智能法案》（以下簡稱《AI法案》）初步達成一致。這標志著歐盟在建立完備的人工智能監(jiān)管框架和規(guī)則方面邁出了領先全球關鍵的一步，因此被譽為“里程碑”式的立法成就。

然而，《AI法案》的形成之路卻并不平坦。據報道，在法案制定過程中，生成式AI大模型的監(jiān)管方式成為爭議焦點。各方能最終達成一致的結果，體現出歐盟為平衡各方利益所做出的不懈努力。

中國目前主要依托國家網信辦等部門今年7月發(fā)布的《生成式人工智能服務管理暫行辦法》等基礎法規(guī)，對語料安全、個人信息保護等方面進行規(guī)范，但尚需進一步明晰具體要求。此外，中國的監(jiān)管體系相對分散，不同主管部門之間的協(xié)同性有待加強。歐盟《AI法案》有一些好的經驗和做法值得中國借鑒。

語料使用：對個人信息使用明確規(guī)定須授權

相較于治理一般AI，大模型的規(guī)模更大、復雜性更高。大模型的復雜性帶來了多方面的風險提升，包括數據濫用、虛假信息傳播、隱私泄露、知識產權侵犯以及攻擊性用途等問題，甚至有可能極化社會分歧，加劇社會不平等。與此同時，大模型的規(guī)模和復雜性也對其算法的透明度提出了更高要求。因此，當前對大模型的監(jiān)管尤為重要。

在此背景下，歐盟《AI法案》提供了明確而詳細的規(guī)范，從多方面為生成式人工智能大模型設定了清晰的監(jiān)管要求，以有效保障用戶的知識產權和個人信息安全。

其中，在大模型語料使用方面，《AI法案》規(guī)定，要求生成式人工智能服務提供者建立語料來源黑名單、評估來源的安全性，并確保語料的廣泛性和可驗證性。通過確立數據多樣性和可追溯性的要求，法案為服務提供者提供了明確的操作指南，以規(guī)范行業(yè)行為、提高服務水平。

《AI法案》對使用包含個人信息的語料，明確規(guī)定獲得授權同意的條件和標準。中國可以借鑒這一做法，以更好地加強數據隱私保護。在語料安全方面，歐盟法案對語料來源管理、語料內容過濾等都有細致而嚴格的規(guī)定，這將有助于提高生成式人工智能服務的安全水平。

監(jiān)督抽檢：及時發(fā)現和糾正安全問題

《AI法案》還特別強調了安全評估和監(jiān)督抽檢的必要性，要求生成式人工智能服務提供者在服務上線前和發(fā)生重大變更時均需安全評估，并定期監(jiān)督抽檢。這一雙重機制有助于及時發(fā)現和糾正潛在的大模型安全問題。中國可借鑒并引入這一機制，通過安全評估和監(jiān)督抽檢，及時發(fā)現和解決潛在安全問題，提高監(jiān)管效能。

更為重要的是，法案為生成式 AI 模型的透明度設置了特別義務。透明度義務適用于所有模型，具體包括遵守歐盟版權法；在“不損害商業(yè)機密”的情況下發(fā)布足夠詳細的訓練數據概要；要求人工智能生成的內容必須做到能立即可識別等。對于前沿的模型，相關的合規(guī)義務還須納入模型評估、跟蹤系統(tǒng)風險、網絡安全保護以及模型能耗報告。

監(jiān)管與創(chuàng)新：在真實條件下測試人工智能系統(tǒng)

在平衡監(jiān)管與創(chuàng)新方面，《AI法案》提出設立人工智能監(jiān)管沙盒，為人工智能創(chuàng)新系統(tǒng)的開發(fā)、測試和驗證建立受控環(huán)境。這一機制允許在真實條件下測試人工智能系統(tǒng)，為技術創(chuàng)新提供更多實踐機會。并且，法案還規(guī)定了支持中小企業(yè)的行動清單和有限減損規(guī)定，以減輕其負擔。

同時，《AI法案》還強調對生成式人工智能大模型的有效監(jiān)管需要不同部門之間的合作與協(xié)同，以及廣泛的公眾參與，以確保監(jiān)管體系的完備性和全面性。

ChatGPT等人工智能大模型的涌現讓人類進入了新紀元。它們以前所未有的速度和規(guī)模改變著生活和工作方式，對傳統(tǒng)產業(yè)、安全、社會倫理等方面的挑戰(zhàn)也才剛剛開始。但我們的理解和管理仍處于初級階段。因此，探尋AI大模型的有效監(jiān)管路徑，是迫切任務之一。