劃重點(diǎn):

研究揭示:AI聊天機(jī)器人可根據(jù)對(duì)話(huà)內(nèi)容推斷用戶(hù)信息

研究人員測(cè)試LLMs是否能準(zhǔn)確推斷用戶(hù)的居住地，結(jié)果發(fā)現(xiàn)OpenAI的GPT-4在85%到95%的時(shí)間內(nèi)能夠正確預(yù)測(cè)私人信息

建議用戶(hù)注意信息安全，謹(jǐn)慎在公共平臺(tái)分享個(gè)人信息

站長(zhǎng)之家(ChinaZ.com) 10月18日 消息:近期研究揭示了一個(gè)令人不安的事實(shí):AI聊天機(jī)器人可能會(huì)根據(jù)您與它們的對(duì)話(huà)內(nèi)容來(lái)推斷您的個(gè)人信息。

瑞士州立科學(xué)學(xué)校ETH Zurich的計(jì)算機(jī)科學(xué)家們?cè)诮邮躓ired采訪(fǎng)時(shí)描述了他們的最新研究成果，盡管尚未經(jīng)過(guò)同行評(píng)審，但這一發(fā)現(xiàn)已經(jīng)引發(fā)了對(duì)互聯(lián)網(wǎng)隱私的新?lián)鷳n(yōu)。

大多數(shù)人現(xiàn)在都知道，像OpenAI的ChatGPT和Google的Bard等聊天機(jī)器人是通過(guò)從互聯(lián)網(wǎng)上獲取的大量數(shù)據(jù)進(jìn)行訓(xùn)練的。但將LLMs訓(xùn)練于公開(kāi)可用的數(shù)據(jù)中存在一個(gè)巨大弊端:它可以用來(lái)識(shí)別有關(guān)某人的個(gè)人信息，包括他們的一般位置、種族或其他對(duì)廣告商或黑客有價(jià)值的敏感信息。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

研究團(tuán)隊(duì)使用Reddit帖子中的文本，用戶(hù)在其中測(cè)試LLMs是否能夠準(zhǔn)確推斷他們的居住地或來(lái)自哪里。ETH Zurich的Martin Vechev領(lǐng)導(dǎo)的團(tuán)隊(duì)發(fā)現(xiàn)，這些模型在僅基于上下文或語(yǔ)言線(xiàn)索的情況下，對(duì)用戶(hù)的準(zhǔn)確信息有著令人不安的猜測(cè)能力。OpenAI的GPT-4，它是ChatGPT的付費(fèi)版本的核心，能夠驚人地在85%到95%的情況下準(zhǔn)確預(yù)測(cè)用戶(hù)的私人信息。

例如，當(dāng)用戶(hù)輸入“我總是在一個(gè)交叉口等著轉(zhuǎn)彎（hook turn ）”的內(nèi)容時(shí)，GPT-4能夠準(zhǔn)確判斷用戶(hù)位于澳大利亞墨爾本，盡管這個(gè)句子對(duì)大多數(shù)非澳大利亞人來(lái)說(shuō)并不引人注目，但LLM正確地識(shí)別了“轉(zhuǎn)彎( hook turn )”這個(gè)詞匯是墨爾本特有的交通動(dòng)作。

推斷用戶(hù)的居住地還只是其中的一種情況，更令人擔(dān)憂(yōu)的是，根據(jù)偶然的評(píng)論來(lái)推斷用戶(hù)的種族。ETH Zurich的博士生和項(xiàng)目成員Mislav Balunovi?告訴Wired:“如果你提到你住在紐約市附近的一家餐館，該模型可以找出這家餐館所在的區(qū)域，然后通過(guò)回顧其訓(xùn)練數(shù)據(jù)中該區(qū)域的人口統(tǒng)計(jì)數(shù)據(jù)，極有可能推斷你是黑人。”

盡管網(wǎng)絡(luò)安全研究人員和反跟蹤倡導(dǎo)者都敦促社交媒體用戶(hù)要注意“信息安全”，即“infosec”，不要在網(wǎng)上分享過(guò)多的身份信息，無(wú)論是附近的餐館還是你的選舉傾向，但普通互聯(lián)網(wǎng)用戶(hù)對(duì)于在公開(kāi)平臺(tái)發(fā)布的隨意評(píng)論可能對(duì)他們構(gòu)成風(fēng)險(xiǎn)的危險(xiǎn)仍然相對(duì)不太了解。

考慮到人們?nèi)匀徊恢啦灰诒尘爸邪l(fā)布帶有街道標(biāo)志的照片，因此那些使用聊天機(jī)器人的人可能不會(huì)考慮到這些算法可能正在推斷有關(guān)他們的信息，或者這些信息可能被出售給廣告商，甚至更糟。