是什么東西使AI算法變得危險(xiǎn)

歡迎閱讀AI書評(píng)，這是一系列探討人工智能最新文獻(xiàn)的文章。

在討論人工智能的威脅時(shí)，首先想到的是天網(wǎng)，黑客帝國和機(jī)器人啟示錄的圖像。排名第二的是技術(shù)失業(yè)，這是在可預(yù)見的未來的愿景，在該愿景中，人工智能算法將接管所有工作，并促使人們?cè)诓辉傩枰斯趧?dòng)的世界中為無意義的生存而奮斗。

這些威脅中的任何一個(gè)還是兩個(gè)都是真實(shí)存在的，在科學(xué)家和思想領(lǐng)袖之間引起了激烈的爭(zhēng)論。但是AI算法也以不那么明顯和難以理解的方式構(gòu)成了當(dāng)今更加迫在眉睫的威脅。

在數(shù)學(xué)破壞性武器：大數(shù)據(jù)如何增加不平等并威脅民主的書中，數(shù)學(xué)家凱茜·奧尼爾(Cathy O'Neil)探索了盲目地相信算法以做出敏感決策如何傷害許多接受決策的人。

AI算法的危險(xiǎn)可以表現(xiàn)在算法偏差和危險(xiǎn)的反饋循環(huán)中，并且可以擴(kuò)展到日常生活的各個(gè)領(lǐng)域，從經(jīng)濟(jì)到社會(huì)互動(dòng)，再到刑事司法系統(tǒng)。

盡管在決策中使用數(shù)學(xué)和算法并不是什么新鮮事，但深度學(xué)習(xí)的最新進(jìn)展以及黑匣子AI系統(tǒng)的泛濫放大了它們的影響，無論是好是壞。而且，如果我們不了解AI的當(dāng)前威脅，我們將無法從其優(yōu)勢(shì)中受益。

危險(xiǎn)AI算法的特征

我們使用算法進(jìn)行建模以理解和處理許多事情。“畢竟，模型只不過是某種過程的抽象表示，無論是棒球比賽，石油公司的供應(yīng)鏈，外國政府的行為，還是電影院的出席，”奧尼爾在《數(shù)學(xué)武器》中寫道破壞。“無論是在計(jì)算機(jī)程序中運(yùn)行還是在我們的頭腦中運(yùn)行，該模型都會(huì)利用我們所知道的知識(shí)，并用它來預(yù)測(cè)各種情況下的響應(yīng)。”

但是，由于深度學(xué)習(xí)的進(jìn)步以及我們生活各個(gè)方面的數(shù)字化日益增強(qiáng)，越來越多的模型已經(jīng)從我們的頭腦轉(zhuǎn)移到了計(jì)算機(jī)上。得益于寬帶互聯(lián)網(wǎng)，云計(jì)算，移動(dòng)設(shè)備，物聯(lián)網(wǎng)(IoT)，可穿戴設(shè)備以及一系列其他新興技術(shù)，我們可以收集和處理越來越多關(guān)于任何事物的數(shù)據(jù)。

對(duì)數(shù)據(jù)和計(jì)算能力的這種不斷增長(zhǎng)的訪問幫助創(chuàng)建了可以自動(dòng)執(zhí)行越來越多任務(wù)的AI算法。以前僅限于研究實(shí)驗(yàn)室的深度神經(jīng)網(wǎng)絡(luò)已經(jīng)進(jìn)入許多以前對(duì)計(jì)算機(jī)具有挑戰(zhàn)性的領(lǐng)域，例如計(jì)算機(jī)視覺，機(jī)器翻譯，語音和面部識(shí)別。