論文題目：Thousands of AI Authors on the Future of AI

論文期刊：arxiv

論文地址：https://arxiv.org/abs/2401.02843

一項由近 3000 名機器學習專家參與的關于人工智能世界將如何改變我們生活的調查已經(jīng)完成（同類調研中最大的）并得出了結果。這項調查涵蓋了2778名在六大頂級AI會議（NeurIPS、ICML、ICLR、AAAI、IJCAI、JMLR）上發(fā)表過研究的專家?？傮w預測顯示，到2028年，AI系統(tǒng)至少有50%的可能性實現(xiàn)幾個里程碑，包括從頭開始構建支付處理網(wǎng)站、創(chuàng)作一首與流行音樂家新歌無法區(qū)分的歌曲，以及自主下載和微調大型語言模型。如果科學研究繼續(xù)不受干擾，到2027年，無輔助機器在所有可能的任務上超越人類的可能性估計為10%，在2047年達到50%——后一估計比一年前進行的類似調查提前了13年。

圖1：據(jù)預測，大多數(shù)里程碑事件在未來十年內發(fā)生的幾率高于平均值，盡管可信日期的范圍很廣。圖中顯示了選定里程碑的預期時間的總體分布情況。

圖2：不同年份預測AI能夠實現(xiàn)的任務和成就，包括在特定年份內AI可能在各種領域達到人類水平或超越人類的能力。這些任務涵蓋了從基礎編程、語言翻譯、游戲競技到復雜的數(shù)學定理證明等多個方面。

圖3：對人類水平機器智能第 50 百分位到達時間的總體預測在 2022 年至 2023 年期間下降了 13 年。對勞動力完全自動化（FAOL）的第 50 百分位數(shù)到達時間的預測在同期下降了 48 年。

然而，所有人類職業(yè)完全自動化的可能性預計在2037年達到10%，在2116年達到50%。大多數(shù)受訪者對AI進展的長期價值表達了重大不確定性：雖然68.3%的人認為超級AI的好結果比壞結果更有可能，但在這些純樂觀主義者中，48%的人給出了至少5%的極端壞結果（如人類滅絕）的可能性，而59%的純悲觀主義者給出了5%或更多的可能性。在37.8%至51.4%的受訪者中，至少有10%的可能性認為先進的AI會導致與人類滅絕一樣糟糕的結果。超過一半的人認為對六種不同的AI相關情景（包括虛假信息的傳播、專制人口控制和加劇的不平等）應給予“實質性”或“極端”的關注。關于AI發(fā)展更快還是更慢對人類未來更好存在分歧。然而，普遍認為應優(yōu)先考慮旨在最小化AI系統(tǒng)潛在風險的研究。

好消息是大多數(shù)人認為，人工智能將在科學、文學、數(shù)學、音樂和建筑等領域帶來一波顯著的進步，而且比兩年前的類似調查預測提前了幾年。壞消息是，我們都會死。至少38%到51%的受訪者是這么認為的，他們認為人工智能引發(fā)滅絕的可能性至少有10%。近 60% 的受訪者表示，這種可能性至少為 5%。這項調查由研究人工智能長期后果的 AI Impacts 公司進行。

并非所有結果都集中在厄運和悲觀上。研究人員發(fā)現(xiàn)，關鍵的人工智能發(fā)展速度如此之快，以至于受訪者認為，一些關鍵成就的實現(xiàn)時間將比兩年前的預測提前數(shù)年。例如，受訪者表示，到2047年，機器至少有50%的可能性能夠在沒有人類協(xié)助的情況下完成所有可能的人類任務，而且會做得更好、更便宜。而兩年前的預計目標日期是 2060 年。

其他有趣的人工智能成就早在 2020 年代末就被預測出來了。其中包括從不同角度生成視頻的能力、撰寫《紐約時報》暢銷小說的能力，以及疊衣服的能力。想象一下，AI生成一首完美無瑕的歌曲，其風格和音色與Taylor Swif如出一轍，與真正的藝術家毫無區(qū)別。調查估計，這將在幾年內實現(xiàn)。一些可信的成果已經(jīng)問世。這項研究并未涉及此類成果的倫理問題。

總之，70% 的專家表示，隨著人工智能變得越來越聰明和強大，好的結果比壞的結果更有可能出現(xiàn)。這項名為“數(shù)千名人工智能作者談論人工智能的未來”的研究于1月5日發(fā)布在arXiv預印本服務器上。