科學(xué)家警告稱，人工智能可能給人類帶來“災(zāi)難性風(fēng)險”。

已經(jīng)對氣候變化、核破壞等問題感到擔(dān)憂的風(fēng)險分析人士已經(jīng)將人工智能列入了名單。

ChatGPT的使用也會進一步削弱人類批判性思考的能力。

一位澳大利亞國會議員聲稱，人工智能的興起正好與教育的衰落相吻合。這是令人擔(dān)憂的原因，風(fēng)險分析師將人工智能（AGI）列為全球關(guān)注的重點。

據(jù)報道，朱利安·希爾在澳大利亞議會的一次演講中表示：“如果你開始思考，很快就會意識到未經(jīng)馴化的AGI帶來的破壞性和災(zāi)難性風(fēng)險是真實的、可信的，而且很容易想象。”。“AGI有可能以我們無法想象的方式徹底改變我們的世界，但如果AGI超越人類智能，如果其目標(biāo)和動機與我們自己的不一致，可能會對人類造成重大傷害。”

隨著關(guān)于人工智能能力的警告越來越多，人類對AGI缺乏控制是主要擔(dān)憂，特別是如果“惡意行為者可能利用AGI進行大規(guī)模殺傷”，希爾說。

希爾表示，軍方已經(jīng)在尋找AGI作為作戰(zhàn)工具。他說：“一個擁有AGI能力的對手可以征服澳大利亞，或者在不受全球共識規(guī)范約束的情況下發(fā)動社會層面的破壞。”。

為了強調(diào)他關(guān)于人工智能日益強大的觀點，希爾使用ChatGPT撰寫了部分演講，講述了隨著越來越多的學(xué)生轉(zhuǎn)向算法進行課堂作業(yè)，人工智能如何限制了教育中的批判性思維技能。

隨著人工智能的持續(xù)快速發(fā)展，意外成為了方程式的一部分。希爾說，控制技術(shù)可能會保護人類（和人類智力）并導(dǎo)致變革，但技術(shù)的不受限制的擴散可能會帶來各種意想不到的后果。

“我想傳達的關(guān)鍵信息，”他談到控制AGI時說，“我們必須從現(xiàn)在開始，有意識控制人工智能的發(fā)展。”