中國可向歐盟《人工智能法案》借鑒什么?
2023年12月8日,歐洲議會和歐盟成員國就全球首部監(jiān)管人工智能的全面法規(guī)——歐盟《人工智能法案》(以下簡稱《AI法案》)初步達成一致。這標志著歐盟在建立完備的人工智能監(jiān)管框架和規(guī)則方面邁出了領先全球關鍵的一步,因此被譽為“里程碑”式的立法成就。
然而,《AI法案》的形成之路卻并不平坦。據報道,在法案制定過程中,生成式AI大模型的監(jiān)管方式成為爭議焦點。各方能最終達成一致的結果,體現出歐盟為平衡各方利益所做出的不懈努力。
中國目前主要依托國家網信辦等部門今年7月發(fā)布的《生成式人工智能服務管理暫行辦法》等基礎法規(guī),對語料安全、個人信息保護等方面進行規(guī)范,但尚需進一步明晰具體要求。此外,中國的監(jiān)管體系相對分散,不同主管部門之間的協(xié)同性有待加強。歐盟《AI法案》有一些好的經驗和做法值得中國借鑒。
語料使用:對個人信息使用明確規(guī)定須授權
相較于治理一般AI,大模型的規(guī)模更大、復雜性更高。大模型的復雜性帶來了多方面的風險提升,包括數據濫用、虛假信息傳播、隱私泄露、知識產權侵犯以及攻擊性用途等問題,甚至有可能極化社會分歧,加劇社會不平等。與此同時,大模型的規(guī)模和復雜性也對其算法的透明度提出了更高要求。因此,當前對大模型的監(jiān)管尤為重要。
在此背景下,歐盟《AI法案》提供了明確而詳細的規(guī)范,從多方面為生成式人工智能大模型設定了清晰的監(jiān)管要求,以有效保障用戶的知識產權和個人信息安全。
其中,在大模型語料使用方面,《AI法案》規(guī)定,要求生成式人工智能服務提供者建立語料來源黑名單、評估來源的安全性,并確保語料的廣泛性和可驗證性。通過確立數據多樣性和可追溯性的要求,法案為服務提供者提供了明確的操作指南,以規(guī)范行業(yè)行為、提高服務水平。
《AI法案》對使用包含個人信息的語料,明確規(guī)定獲得授權同意的條件和標準。中國可以借鑒這一做法,以更好地加強數據隱私保護。在語料安全方面,歐盟法案對語料來源管理、語料內容過濾等都有細致而嚴格的規(guī)定,這將有助于提高生成式人工智能服務的安全水平。
監(jiān)督抽檢:及時發(fā)現和糾正安全問題
《AI法案》還特別強調了安全評估和監(jiān)督抽檢的必要性,要求生成式人工智能服務提供者在服務上線前和發(fā)生重大變更時均需安全評估,并定期監(jiān)督抽檢。這一雙重機制有助于及時發(fā)現和糾正潛在的大模型安全問題。中國可借鑒并引入這一機制,通過安全評估和監(jiān)督抽檢,及時發(fā)現和解決潛在安全問題,提高監(jiān)管效能。
更為重要的是,法案為生成式 AI 模型的透明度設置了特別義務。透明度義務適用于所有模型,具體包括遵守歐盟版權法;在“不損害商業(yè)機密”的情況下發(fā)布足夠詳細的訓練數據概要;要求人工智能生成的內容必須做到能立即可識別等。對于前沿的模型,相關的合規(guī)義務還須納入模型評估、跟蹤系統(tǒng)風險、網絡安全保護以及模型能耗報告。
監(jiān)管與創(chuàng)新:在真實條件下測試人工智能系統(tǒng)
在平衡監(jiān)管與創(chuàng)新方面,《AI法案》提出設立人工智能監(jiān)管沙盒,為人工智能創(chuàng)新系統(tǒng)的開發(fā)、測試和驗證建立受控環(huán)境。這一機制允許在真實條件下測試人工智能系統(tǒng),為技術創(chuàng)新提供更多實踐機會。并且,法案還規(guī)定了支持中小企業(yè)的行動清單和有限減損規(guī)定,以減輕其負擔。
同時,《AI法案》還強調對生成式人工智能大模型的有效監(jiān)管需要不同部門之間的合作與協(xié)同,以及廣泛的公眾參與,以確保監(jiān)管體系的完備性和全面性。
ChatGPT等人工智能大模型的涌現讓人類進入了新紀元。它們以前所未有的速度和規(guī)模改變著生活和工作方式,對傳統(tǒng)產業(yè)、安全、社會倫理等方面的挑戰(zhàn)也才剛剛開始。但我們的理解和管理仍處于初級階段。因此,探尋AI大模型的有效監(jiān)管路徑,是迫切任務之一。
訪談
更多做行業(yè)賦能者 HID迎接數字化浪潮新機遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現狀報告》(以下簡稱“報告”),該報告…
數字化浪潮下,安防廠商如何滿足行業(yè)客戶的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內的諸多行業(yè)領域都遭受了來自市場 “不確定性”因素的沖擊,市場…
博思高鄧紹昌:乘產品創(chuàng)新及客戶服務之舟,在市場變革中逆風飛揚
11月24日,由慧聰物聯網、慧聰安防網、慧聰電子網主辦的2022(第十九屆)中國物聯網產業(yè)大會暨品牌盛會,在深…