近今年以后，人工智能的發(fā)展可謂突飛猛進(jìn)，在圖像識(shí)別，語音識(shí)別，自然語言交互等很多方面都取得了進(jìn)展。

但是當(dāng)前的人工智能存在的一個(gè)問題是不可解釋性問題或者可解釋性很差，意思就是AI的能力很強(qiáng)，但是缺少邏輯性，AI不能說明為什么是A結(jié)果而不是B結(jié)果，就是不可解釋，人類不能理解其原因。

究其根本原因，主要是因?yàn)槿斯ぶ悄茉谟?xùn)練過程中，采用了大量的非線性的計(jì)算，非線性計(jì)算以及大規(guī)模的參數(shù)使得人們無法理解為什么AI得出了正確的結(jié)論。就是無法說清楚輸入與輸出之間的邏輯關(guān)系。

可解釋性可以說是人類理性的標(biāo)志，人們做一件事情的時(shí)候，都是需要找到依據(jù)，就是可以為什么是這樣不是那樣。理性思考就是找到推進(jìn)事物發(fā)展的原因， 如果一個(gè)事物不知道原因就去做，就容易引入風(fēng)險(xiǎn)，引入恐懼，而恐懼也是人類的天性，恐懼其實(shí)也是促進(jìn)人類發(fā)展的一種屬性。

因此，AI的不可解釋性，實(shí)際上是加深了人類的恐懼心理。從這個(gè)角度看，AI的重要發(fā)展方向就是可解釋性，也是目前AI科學(xué)家，工程師的發(fā)展發(fā)向，比如以人類為中心的AI，透明的AI等等。