歐盟正在考慮采用分級方法來監(jiān)管生成式人工智能（AI）模型。一項(xiàng)提案稱，歐盟將為3個(gè)級別的基礎(chǔ)大型語言模型建立規(guī)則，并對最強(qiáng)大的AI技術(shù)進(jìn)行額外的外部測試。

根據(jù)擬議的規(guī)則，第一級將包括所有基礎(chǔ)模型；第二級針對“非常強(qiáng)大”的基礎(chǔ)模型，將通過用于訓(xùn)練其大型語言模型的算力來區(qū)分，提案稱這些模型可能“超出了當(dāng)前的技術(shù)水平，并且可能尚未被完全理解”；第三級被稱為大規(guī)模通用目的人工智能系統(tǒng)，將包括最流行的人工智能工具，并以用戶總數(shù)來衡量。

像ChatGPT這樣的聊天機(jī)器人依賴于大型語言模型——即使用大量數(shù)據(jù)集來開發(fā)人工智能的算法，在此基礎(chǔ)上開發(fā)的生成式人工智能軟件可以通過文本、圖片和視頻來響應(yīng)人類的提示，其技能水平有時(shí)候令人驚訝和擔(dān)憂。

目前，全球多國都在努力為生成式AI設(shè)置護(hù)欄，以應(yīng)對這一新興技術(shù)迅速發(fā)展帶來的安全風(fēng)險(xiǎn)。歐盟有望成為第一個(gè)對人工智能制定強(qiáng)制性規(guī)則的西方政府。根據(jù)其擬議的《人工智能法案》，開發(fā)和部署人工智能系統(tǒng)的公司需要進(jìn)行風(fēng)險(xiǎn)評估、標(biāo)記人工智能生成的內(nèi)容，并完全禁止使用生物識別監(jiān)控等措施。談判人員希望在10月25日舉行的下次會議上完善該立法，目標(biāo)是在年底前敲定法案。

歐盟3個(gè)機(jī)構(gòu)的代表在本月早些時(shí)候的一次會議上普遍支持分級監(jiān)管方法，但技術(shù)專家提出了更具體的建議。根據(jù)彭博社看到的10月16日的文件，這些想法目前正在形成，但隨著談判的展開，它們可能會發(fā)生變化。

知情人士表示，此舉的目標(biāo)是不讓新初創(chuàng)企業(yè)承受過多監(jiān)管負(fù)擔(dān)，同時(shí)又對大型企業(yè)進(jìn)行控制。

以下為提案對三級監(jiān)管的要求：

1.所有基礎(chǔ)模型（All Foundational Models）

人工智能開發(fā)人員在將任何模型投放市場之前都必須遵守透明度要求。他們必須記錄模型及其訓(xùn)練過程，包括內(nèi)部“紅隊(duì)”工作的結(jié)果，即獨(dú)立專家試圖將模型推向不良行為從而對安全性進(jìn)行評判的過程。開發(fā)人員還將根據(jù)標(biāo)準(zhǔn)化協(xié)議進(jìn)行評估。

模型投放市場后，公司需要向使用該技術(shù)的企業(yè)提供信息，并使它們能夠測試基礎(chǔ)模型。

公司必須對用于開發(fā)模型的內(nèi)容以及如何管理版權(quán)問題提供“足夠詳細(xì)”的摘要，包括確保權(quán)利所有者可以選擇不將其內(nèi)容用于訓(xùn)練模型。公司還必須確保人工智能內(nèi)容能夠與其他材料區(qū)分開來。

談判人員提議將基礎(chǔ)模型定義為一個(gè)能夠“勝任執(zhí)行各種獨(dú)特任務(wù)”的系統(tǒng)。

2.非常強(qiáng)大的基礎(chǔ)模型（Very Capable Foundation Models）

開發(fā)這一級技術(shù)的公司將遵守更嚴(yán)格的規(guī)則。在投放市場之前，這些模型必須接受外部專家的定期紅隊(duì)審查，這些專家將接受歐盟新成立的人工智能辦公室的審查。測試結(jié)果將發(fā)送給該機(jī)構(gòu)。

公司還必須引入系統(tǒng)來幫助發(fā)現(xiàn)系統(tǒng)性風(fēng)險(xiǎn)。這些模型投放市場后，歐盟將讓獨(dú)立審查員和研究人員執(zhí)行合規(guī)控制，包括檢查公司是否遵守透明度規(guī)則。

談判代表還考慮為公司創(chuàng)建一個(gè)論壇，討論最佳實(shí)踐和自愿行為準(zhǔn)則，這些準(zhǔn)則將得到歐盟委員會的認(rèn)可。

非常強(qiáng)大的基礎(chǔ)模型將根據(jù)訓(xùn)練它們所需的算力進(jìn)行分類，使用稱為FLOPS或每秒浮點(diǎn)運(yùn)算的衡量標(biāo)準(zhǔn)。確切的門檻將由歐盟委員會在稍后階段確定，并將根據(jù)需要進(jìn)行更新。

公司可以對這一評估提出異議。相反，即使調(diào)查后未達(dá)到閾值，委員會也可以認(rèn)為模型“非常強(qiáng)大”。談判人員還在考慮使用該模型的“潛在影響”——基于其上構(gòu)建的高風(fēng)險(xiǎn)人工智能應(yīng)用程序的數(shù)量，作為對技術(shù)進(jìn)行分類的一種方式。

3. 大規(guī)模通用目的人工智能系統(tǒng)（General Purpose AI Systems at Scale）

這些系統(tǒng)也必須接受外部專家的紅隊(duì)檢查以識別漏洞，結(jié)果將發(fā)送給委員會的人工智能辦公室。公司還必須引入風(fēng)險(xiǎn)評估和緩解系統(tǒng)。

歐盟將認(rèn)定任何擁有10000名注冊企業(yè)用戶或4500萬注冊終端用戶的系統(tǒng)都屬于大規(guī)模通用目的人工智能系統(tǒng)。委員會稍后將決定如何計(jì)算用戶數(shù)量。

公司可以就其大規(guī)模通用人工智能系統(tǒng)的地位提起上訴，同樣，歐盟可以讓其他系統(tǒng)或模型遵守這些附加規(guī)則，即使它們沒有達(dá)到閾值，但可能“引發(fā)風(fēng)險(xiǎn)”。

此外，提案表示，需要進(jìn)一步討論來確定護(hù)欄，以確保通用目的人工智能系統(tǒng)和非常強(qiáng)大的人工智能系統(tǒng)都不會生成非法和有害內(nèi)容。

大規(guī)模通用目的人工智能和非常強(qiáng)大的基礎(chǔ)模型的附加規(guī)則將由新的人工智能辦公室監(jiān)督。該機(jī)構(gòu)可以索取文件、組織合規(guī)測試、創(chuàng)建注冊制度審核紅隊(duì)測試人員并進(jìn)行調(diào)查。該機(jī)構(gòu)甚至可以“作為最后手段”暫停某個(gè)模型。

人工智能辦公室雖然位于歐盟委員會內(nèi)，但將是“獨(dú)立的”。歐盟可以對大規(guī)模通用目的人工智能和非常強(qiáng)大的基礎(chǔ)模型收取費(fèi)用，從而獲得資金來雇用辦公室人員。