1月17日消息，美國(guó)當(dāng)?shù)貢r(shí)間周二，人工智能領(lǐng)域的佼佼者OpenAI在其博客上宣布，他們正在組建一個(gè)名為“集體對(duì)齊”（Collective Alignment）的全新團(tuán)隊(duì)。

這個(gè)團(tuán)隊(duì)主要由研究人員和工程師構(gòu)成，將專注于設(shè)計(jì)和實(shí)施收集公眾意見的流程，以幫助訓(xùn)練和塑造其人工智能模型的行為，從而解決潛在的偏見和其他問題。

OpenAI在博客中闡述道：“我們的目標(biāo)是打造一個(gè)系統(tǒng)，它能夠收集和‘編碼’公眾對(duì)我們模型行為的看法，并將這些寶貴的見解融入我們的產(chǎn)品和服務(wù)中。這樣一來，我們未來的人工智能模型就能更好地‘與人類價(jià)值觀保持一致’。”

為了實(shí)現(xiàn)這一目標(biāo)，OpenAI正積極招募來自不同技術(shù)背景的研究工程師加入這個(gè)新團(tuán)隊(duì)。他們表示：“我們將與外部顧問和其他團(tuán)隊(duì)緊密合作，包括開展試點(diǎn)工作，將原型整合到我們的模型中。我們需要來自不同領(lǐng)域的專家，共同助力這項(xiàng)工作的推進(jìn)。”

這個(gè)“集體對(duì)齊”團(tuán)隊(duì)其實(shí)是OpenAI去年5月啟動(dòng)的公共項(xiàng)目的一個(gè)延伸。該項(xiàng)目旨在資助建立一個(gè)“民主程序”的實(shí)驗(yàn)，以確定人工智能系統(tǒng)應(yīng)遵循的規(guī)則。OpenAI曾明確表示，該計(jì)劃旨在資助個(gè)人、團(tuán)隊(duì)和組織開發(fā)概念驗(yàn)證，以回答有關(guān)人工智能護(hù)欄和治理的問題。

研究工程師、OpenAI新團(tuán)隊(duì)創(chuàng)始成員泰納·埃倫杜（Tyna Eloundou）強(qiáng)調(diào)：“隨著我們不斷追求超級(jí)智能模型的發(fā)展，這些模型將逐漸成為我們社會(huì)不可或缺的一部分。因此，讓人們有機(jī)會(huì)直接提供意見至關(guān)重要。”

例如，為了確保只有人類才能參與投票和提供意見，OpenAI還考慮與Worldcoin進(jìn)行合作。Worldcoin是OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）創(chuàng)建的一個(gè)加密貨幣項(xiàng)目，它提供了一種有效區(qū)分人類和人工智能機(jī)器人的方法。

自2022年底推出ChatGPT以來，OpenAI憑借其生成式人工智能技術(shù)吸引了公眾的廣泛關(guān)注。這種技術(shù)能夠利用簡(jiǎn)單的提示生成文本，使ChatGPT成為有史以來增長(zhǎng)最快的應(yīng)用程序之一。

然而，人工智能技術(shù)的快速發(fā)展也引發(fā)了人們的擔(dān)憂。特別是其創(chuàng)造“深度偽造”圖片和其他錯(cuò)誤信息的能力，讓人們?cè)诩磳⒌絹淼?024年美國(guó)大選前夕感到不安。批評(píng)人士指出，像ChatGPT這樣的人工智能系統(tǒng)由于其輸入數(shù)據(jù)的影響而具有固有的偏見，用戶已經(jīng)發(fā)現(xiàn)了一些人工智能軟件輸出中存在種族主義或性別歧視的例子。

在最新的博客文章中，OpenAI回顧了資助受助者的工作成果，包括視頻聊天界面、人工智能模型眾包審計(jì)平臺(tái)以及“將信念映射到可用于微調(diào)模型行為的維度的方法”。同時(shí)，他們還公開了所有受助者工作中使用的代碼以及每個(gè)提案的簡(jiǎn)要摘要。

盡管OpenAI試圖將該項(xiàng)目描述為與其商業(yè)利益無關(guān)，但考慮到其首席執(zhí)行官奧特曼對(duì)歐盟人工智能監(jiān)管的批評(píng)態(tài)度，這一說法似乎有些難以令人信服。奧特曼以及OpenAI總裁格雷格·布羅克曼（Greg Brockman）和首席科學(xué)家伊利亞·蘇茨凱弗（Ilya Sutskever）一再?gòu)?qiáng)調(diào)，人工智能的創(chuàng)新速度非?？?，以至于我們無法指望現(xiàn)有的權(quán)威機(jī)構(gòu)能夠充分控制這項(xiàng)技術(shù)。因此，他們提出了將這項(xiàng)工作眾包的解決方案。