本周末，歐盟就全球首個AI監(jiān)管法案“AI Act”達成初步協(xié)議。根據(jù)彭博社獲得的一份歐盟文件，通用人工智能系統(tǒng)的開發(fā)人員必須滿足基本的透明度要求，除非這些系統(tǒng)是免費開源的。被認為會構(gòu)成“系統(tǒng)性風險”的模型將受到額外規(guī)則的約束。歐盟將根據(jù)訓練模型的計算能力來確定是否存在風險，并為模型設(shè)定閾值是每秒超過10萬億次運算。此外，歐盟執(zhí)行機構(gòu)還可根據(jù)數(shù)據(jù)集的規(guī)模、是否在歐盟擁有至少10000名注冊商業(yè)用戶、注冊用戶的最終數(shù)量等可能的指標來指定其他閾值。

在歐盟委員會制定出更協(xié)調(diào)且長期有效的控制措施期間，“能力更強”的模型應該簽署行為準則。這些模型還必須滿足如下要求：主動報告自身能耗情況，在內(nèi)部或外部進行紅隊測試/對抗性測試，評估和減輕可能的系統(tǒng)性風險，并報告任何事件確保使用適當?shù)木W(wǎng)絡安全控制措施報告用于微調(diào)模型的信息及其系統(tǒng)結(jié)構(gòu)如果制定了更節(jié)能的標準，則開發(fā)過程中應當符合新的標準至于沒有簽署行為準則的模型，則必須向歐盟委員會證明它們確實會遵守《AI法案》。需要注意的是，對開源模型的豁免不適用于那些“被認為會帶來系統(tǒng)性風險”的模型。