論文題目：Thousands of AI Authors on the Future of AI

論文期刊：arxiv

論文地址：https://arxiv.org/abs/2401.02843

一項(xiàng)由近 3000 名機(jī)器學(xué)習(xí)專(zhuān)家參與的關(guān)于人工智能世界將如何改變我們生活的調(diào)查已經(jīng)完成（同類(lèi)調(diào)研中最大的）并得出了結(jié)果。這項(xiàng)調(diào)查涵蓋了2778名在六大頂級(jí)AI會(huì)議（NeurIPS、ICML、ICLR、AAAI、IJCAI、JMLR）上發(fā)表過(guò)研究的專(zhuān)家?？傮w預(yù)測(cè)顯示，到2028年，AI系統(tǒng)至少有50%的可能性實(shí)現(xiàn)幾個(gè)里程碑，包括從頭開(kāi)始構(gòu)建支付處理網(wǎng)站、創(chuàng)作一首與流行音樂(lè)家新歌無(wú)法區(qū)分的歌曲，以及自主下載和微調(diào)大型語(yǔ)言模型。如果科學(xué)研究繼續(xù)不受干擾，到2027年，無(wú)輔助機(jī)器在所有可能的任務(wù)上超越人類(lèi)的可能性估計(jì)為10%，在2047年達(dá)到50%——后一估計(jì)比一年前進(jìn)行的類(lèi)似調(diào)查提前了13年。

圖1：據(jù)預(yù)測(cè)，大多數(shù)里程碑事件在未來(lái)十年內(nèi)發(fā)生的幾率高于平均值，盡管可信日期的范圍很廣。圖中顯示了選定里程碑的預(yù)期時(shí)間的總體分布情況。

圖2：不同年份預(yù)測(cè)AI能夠?qū)崿F(xiàn)的任務(wù)和成就，包括在特定年份內(nèi)AI可能在各種領(lǐng)域達(dá)到人類(lèi)水平或超越人類(lèi)的能力。這些任務(wù)涵蓋了從基礎(chǔ)編程、語(yǔ)言翻譯、游戲競(jìng)技到復(fù)雜的數(shù)學(xué)定理證明等多個(gè)方面。

圖3：對(duì)人類(lèi)水平機(jī)器智能第 50 百分位到達(dá)時(shí)間的總體預(yù)測(cè)在 2022 年至 2023 年期間下降了 13 年。對(duì)勞動(dòng)力完全自動(dòng)化（FAOL）的第 50 百分位數(shù)到達(dá)時(shí)間的預(yù)測(cè)在同期下降了 48 年。

然而，所有人類(lèi)職業(yè)完全自動(dòng)化的可能性預(yù)計(jì)在2037年達(dá)到10%，在2116年達(dá)到50%。大多數(shù)受訪者對(duì)AI進(jìn)展的長(zhǎng)期價(jià)值表達(dá)了重大不確定性：雖然68.3%的人認(rèn)為超級(jí)AI的好結(jié)果比壞結(jié)果更有可能，但在這些純樂(lè)觀主義者中，48%的人給出了至少5%的極端壞結(jié)果（如人類(lèi)滅絕）的可能性，而59%的純悲觀主義者給出了5%或更多的可能性。在37.8%至51.4%的受訪者中，至少有10%的可能性認(rèn)為先進(jìn)的AI會(huì)導(dǎo)致與人類(lèi)滅絕一樣糟糕的結(jié)果。超過(guò)一半的人認(rèn)為對(duì)六種不同的AI相關(guān)情景（包括虛假信息的傳播、專(zhuān)制人口控制和加劇的不平等）應(yīng)給予“實(shí)質(zhì)性”或“極端”的關(guān)注。關(guān)于AI發(fā)展更快還是更慢對(duì)人類(lèi)未來(lái)更好存在分歧。然而，普遍認(rèn)為應(yīng)優(yōu)先考慮旨在最小化AI系統(tǒng)潛在風(fēng)險(xiǎn)的研究。

好消息是大多數(shù)人認(rèn)為，人工智能將在科學(xué)、文學(xué)、數(shù)學(xué)、音樂(lè)和建筑等領(lǐng)域帶來(lái)一波顯著的進(jìn)步，而且比兩年前的類(lèi)似調(diào)查預(yù)測(cè)提前了幾年。壞消息是，我們都會(huì)死。至少38%到51%的受訪者是這么認(rèn)為的，他們認(rèn)為人工智能引發(fā)滅絕的可能性至少有10%。近 60% 的受訪者表示，這種可能性至少為 5%。這項(xiàng)調(diào)查由研究人工智能長(zhǎng)期后果的 AI Impacts 公司進(jìn)行。

并非所有結(jié)果都集中在厄運(yùn)和悲觀上。研究人員發(fā)現(xiàn)，關(guān)鍵的人工智能發(fā)展速度如此之快，以至于受訪者認(rèn)為，一些關(guān)鍵成就的實(shí)現(xiàn)時(shí)間將比兩年前的預(yù)測(cè)提前數(shù)年。例如，受訪者表示，到2047年，機(jī)器至少有50%的可能性能夠在沒(méi)有人類(lèi)協(xié)助的情況下完成所有可能的人類(lèi)任務(wù)，而且會(huì)做得更好、更便宜。而兩年前的預(yù)計(jì)目標(biāo)日期是 2060 年。

其他有趣的人工智能成就早在 2020 年代末就被預(yù)測(cè)出來(lái)了。其中包括從不同角度生成視頻的能力、撰寫(xiě)《紐約時(shí)報(bào)》暢銷(xiāo)小說(shuō)的能力，以及疊衣服的能力。想象一下，AI生成一首完美無(wú)瑕的歌曲，其風(fēng)格和音色與Taylor Swif如出一轍，與真正的藝術(shù)家毫無(wú)區(qū)別。調(diào)查估計(jì)，這將在幾年內(nèi)實(shí)現(xiàn)。一些可信的成果已經(jīng)問(wèn)世。這項(xiàng)研究并未涉及此類(lèi)成果的倫理問(wèn)題。

總之，70% 的專(zhuān)家表示，隨著人工智能變得越來(lái)越聰明和強(qiáng)大，好的結(jié)果比壞的結(jié)果更有可能出現(xiàn)。這項(xiàng)名為“數(shù)千名人工智能作者談?wù)撊斯ぶ悄艿奈磥?lái)”的研究于1月5日發(fā)布在arXiv預(yù)印本服務(wù)器上。