信任可解釋的人工智能和迫在眉睫的利潤機(jī)會(huì)

人工智能(AI)正在成為一項(xiàng)重要的業(yè)務(wù)，具有各種迷人的機(jī)會(huì)。增長(zhǎng)非同尋常：2015年全球人工智能收入為1260億美元，去年收入為4820億美元。對(duì)2024年的預(yù)測(cè)是收入將達(dá)到3.061萬億美元。

人工智能的進(jìn)步使得計(jì)算機(jī)可以承擔(dān)人類正式完成的更多任務(wù)。雖然這種趨勢(shì)正在提高效率，但它也增加了人們認(rèn)為他們正在談?wù)摳綦x墻的程度。只需考慮與手機(jī)上的現(xiàn)場(chǎng)人員交談與導(dǎo)航一系列菜單選項(xiàng)之間的區(qū)別，順便說一下最近已經(jīng)改變了，所以請(qǐng)仔細(xì)聆聽。

人工智能在金融服務(wù)中的作用很大。2017年，大約85%的在線支付和信用卡交易依賴于AI技術(shù)。隨著金融科技的發(fā)展，有時(shí)候“人工智能”中的“情報(bào)”看起來就像是用詞不當(dāng)，導(dǎo)致人們?cè)谡f“走向數(shù)字”時(shí)感到有道理。這是因?yàn)橐恍┤斯ぶ悄芫拖褚粋€(gè)“黑匣子”，意味著人工智能過程是不透明的，很難讓每個(gè)人都理解，包括AI開發(fā)人員。隨著“黑匣子”和“走向數(shù)字”的到來令人沮喪。

沮喪是一種情緒反應(yīng)，情緒正在推動(dòng)對(duì)可解釋人工智能的需求。我最近觀看了一個(gè)關(guān)于可解釋AI的優(yōu)秀在線教程，名為“行業(yè)中的可解釋AI”。該教程由最近在人工智能和數(shù)據(jù)的KDD會(huì)議上由兩個(gè)小組提出。一個(gè)展示小組來自Fiddler Labs，一家專門研究可解釋AI的公司，另一個(gè)來自LinkedIn的Fair Machine Learning團(tuán)隊(duì)。

在線教程中的一個(gè)特定幻燈片引起了我的注意，關(guān)于新機(jī)器學(xué)習(xí)模型的用戶問自己：“我什么時(shí)候可以信任你?”以“你”為模型。作為一家令人興奮的硅谷創(chuàng)業(yè)公司，F(xiàn)iddler Labs了解到他們是一家技術(shù)公司，其產(chǎn)品可以提供信任。

情感，如信任，是我們心理學(xué)的一部分。從廣義上講，信任是現(xiàn)代經(jīng)濟(jì)中交換的重要組成部分。大多數(shù)人沒有足夠的知識(shí)來猜測(cè)我們認(rèn)為是專家的人。人們依賴于醫(yī)生，會(huì)計(jì)師，牙醫(yī)，機(jī)械師和承包商的建議。他們往往信任他們收到的建議。這種信任往往源于過去的經(jīng)驗(yàn)。然而，在缺乏經(jīng)驗(yàn)的情況下，信任通常源于轉(zhuǎn)介，而轉(zhuǎn)介又是基于我們從我們信任的其他人那里聽到的內(nèi)容。

如果他們認(rèn)為AI是敵人而不是朋友，人們就會(huì)不信任AI。如果AI認(rèn)為其結(jié)構(gòu)違反道德規(guī)范，那么人們就會(huì)不信任AI。如果他們覺得算法缺乏能力，人們會(huì)不信任AI。最后，如果人們發(fā)現(xiàn)AI的結(jié)果不可預(yù)測(cè)，他們就會(huì)不信任AI。

對(duì)人工智能對(duì)我們生活的影響的擔(dān)憂變得如此之大，以至于國會(huì)兩黨通過監(jiān)管來解決這個(gè)問題。今年6月26日，眾議院金融服務(wù)委員會(huì)的人工智能工作組舉行了一次題為“人工智能的視角：我們?cè)谀睦镆约敖鹑诜?wù)的下一個(gè)前沿” 的聽證會(huì)。

金融服務(wù)委員會(huì)多數(shù)工作人員撰寫的一份備忘錄提出了“可解釋的人工智能”這一問題，表達(dá)了“對(duì)金融服務(wù)應(yīng)用的潛在關(guān)注”，涉及“系統(tǒng)的不透明性和可解釋性”。通過可解釋性，他們意味著能夠“解釋”對(duì)人類用戶的決定和行動(dòng)。“

心理學(xué)家保羅·斯洛維奇(Paul Slovic)說，人們對(duì)風(fēng)險(xiǎn)的看法傾向于由兩個(gè)特征驅(qū)動(dòng)。首先是恐懼，人們害怕危險(xiǎn)情況的潛在結(jié)果的程度。第二個(gè)是基于熟悉程度的知識(shí)，人們認(rèn)為他們理解風(fēng)險(xiǎn)的程度。

人們將缺乏對(duì)他們認(rèn)為有風(fēng)險(xiǎn)的活動(dòng)的信任，因?yàn)樗麄円庾R(shí)到他們不了解相關(guān)的風(fēng)險(xiǎn)并且害怕潛在的后果。

舉一個(gè)非金融的例子，A??I是自動(dòng)駕駛汽車的基礎(chǔ)，意味著自動(dòng)駕駛汽車。人們對(duì)行人被自動(dòng)駕駛車輛殺死的事件的恐懼做出反應(yīng)。不理解為什么車輛的傳感器無法識(shí)別汽車路徑中的行人會(huì)增加風(fēng)險(xiǎn)感。

當(dāng)然，金融服務(wù)委員會(huì)的重點(diǎn)是金融部門，而不是汽車部門。這就是為什么委員會(huì)邀請(qǐng)Jesse McWaters的證詞，他在世界經(jīng)濟(jì)論壇上就金融創(chuàng)新相關(guān)問題工作。McWaters的重點(diǎn)是“探索包括人工智能在內(nèi)的新技術(shù)在金融體系的快速轉(zhuǎn)型中發(fā)揮的作用。”他證實(shí)了信任，并指出了“必須具備知情信任所必需的背景，透明度和控制”的重要性。在一個(gè)特定用例的模型中。“薩里大學(xué)的學(xué)者Bonnie Buchanan也提到了對(duì)她的證詞的信任，并將其與治理問題聯(lián)系起來。

與AI相關(guān)的金融風(fēng)險(xiǎn)很大。信任是這些賭注的一部分。信任比獲得更容易丟失。因此，出于財(cái)務(wù)和道德原因，讓AI可解釋的原因非常重要。