加拿大康考迪亞大學(xué)官網(wǎng)近日?qǐng)?bào)道稱，該校學(xué)者尼哈·楚格（Neha Chugh）研究認(rèn)為，將人工智能應(yīng)用于加拿大刑事司法體系為時(shí)尚早，因?yàn)槟壳斑€沒有足夠的措施應(yīng)對(duì)機(jī)器和人類的偏見問題。最新一期《IEEE技術(shù)與社會(huì)雜志》刊發(fā)了楚格的新研究《風(fēng)險(xiǎn)評(píng)估工具拷問：人工智能系統(tǒng)的去與留》。

如今，人工智能技術(shù)被廣泛應(yīng)用于各種領(lǐng)域，包括刑事司法系統(tǒng)。在美國(guó)審前程序的風(fēng)險(xiǎn)評(píng)估中，算法和數(shù)據(jù)越來越多地被用于評(píng)估被告再犯罪的風(fēng)險(xiǎn)。支持者認(rèn)為，人工智能可以避免警察、法官或檢察官等刑事司法人員的固有偏見。楚格對(duì)這種說法提出了質(zhì)疑。她在論文中提出，盡管人工智能風(fēng)險(xiǎn)評(píng)估尚未應(yīng)用于加拿大法院，但已經(jīng)出現(xiàn)了一些危險(xiǎn)信號(hào)，有些問題急需司法系統(tǒng)解決。她表示，在刑事司法系統(tǒng)中，原住民被告的比例過高，導(dǎo)致其更容易受到數(shù)據(jù)驅(qū)動(dòng)性工具缺陷的影響。

楚格認(rèn)為，風(fēng)險(xiǎn)評(píng)估工具普遍存在問題，如埃沃特訴加拿大案（Ewert v. Canada）。杰弗里·埃沃特（Jeffrey

Ewert）是“梅蒂人”，即父母一方為加拿大原住民，另一方為歐裔，他因謀殺和謀殺未遂而被判終身監(jiān)禁。埃沃特聲稱加拿大懲戒署的心理風(fēng)險(xiǎn)評(píng)估系統(tǒng)對(duì)原住民有文化偏見，使原住民刑期遠(yuǎn)超非原住民，且服刑條件更差。最后，埃沃特在最高法院申訴成功。

楚格表示，偏見與歧視的存在誤導(dǎo)了評(píng)估工具，那么如何確保算法最終得出正確的結(jié)果？使用人工智能進(jìn)行風(fēng)險(xiǎn)評(píng)估只是將偏見從人類轉(zhuǎn)移到人類創(chuàng)造的算法中罷了，有偏差的數(shù)據(jù)信息庫(kù)只會(huì)讓算法得出有偏差的結(jié)果。法律和法規(guī)為法官的工作提供了一定的空間，并為考慮個(gè)人歷史和特殊情況等因素保留了余地。過度依賴人工智能進(jìn)行風(fēng)險(xiǎn)評(píng)估的主要問題之一，在于缺失主觀判斷和尊重。楚格強(qiáng)調(diào)，她并不反對(duì)在法院系統(tǒng)中使用人工智能，但對(duì)此還需要進(jìn)一步的研究。例如，需要分析算法所采用的信息，以及人們的偏見對(duì)結(jié)果的影響等。