是什么東西使AI算法變得危險

歡迎閱讀AI書評，這是一系列探討人工智能最新文獻的文章。

在討論人工智能的威脅時，首先想到的是天網(wǎng)，黑客帝國和機器人啟示錄的圖像。排名第二的是技術(shù)失業(yè)，這是在可預(yù)見的未來的愿景，在該愿景中，人工智能算法將接管所有工作，并促使人們在不再需要人工勞動的世界中為無意義的生存而奮斗。

這些威脅中的任何一個還是兩個都是真實存在的，在科學(xué)家和思想領(lǐng)袖之間引起了激烈的爭論。但是AI算法也以不那么明顯和難以理解的方式構(gòu)成了當今更加迫在眉睫的威脅。

在數(shù)學(xué)破壞性武器：大數(shù)據(jù)如何增加不平等并威脅民主的書中，數(shù)學(xué)家凱茜·奧尼爾(Cathy O'Neil)探索了盲目地相信算法以做出敏感決策如何傷害許多接受決策的人。

AI算法的危險可以表現(xiàn)在算法偏差和危險的反饋循環(huán)中，并且可以擴展到日常生活的各個領(lǐng)域，從經(jīng)濟到社會互動，再到刑事司法系統(tǒng)。

盡管在決策中使用數(shù)學(xué)和算法并不是什么新鮮事，但深度學(xué)習(xí)的最新進展以及黑匣子AI系統(tǒng)的泛濫放大了它們的影響，無論是好是壞。而且，如果我們不了解AI的當前威脅，我們將無法從其優(yōu)勢中受益。

危險AI算法的特征

我們使用算法進行建模以理解和處理許多事情。“畢竟，模型只不過是某種過程的抽象表示，無論是棒球比賽，石油公司的供應(yīng)鏈，外國政府的行為，還是電影院的出席，”奧尼爾在《數(shù)學(xué)武器》中寫道破壞。“無論是在計算機程序中運行還是在我們的頭腦中運行，該模型都會利用我們所知道的知識，并用它來預(yù)測各種情況下的響應(yīng)。”

但是，由于深度學(xué)習(xí)的進步以及我們生活各個方面的數(shù)字化日益增強，越來越多的模型已經(jīng)從我們的頭腦轉(zhuǎn)移到了計算機上。得益于寬帶互聯(lián)網(wǎng)，云計算，移動設(shè)備，物聯(lián)網(wǎng)(IoT)，可穿戴設(shè)備以及一系列其他新興技術(shù)，我們可以收集和處理越來越多關(guān)于任何事物的數(shù)據(jù)。

對數(shù)據(jù)和計算能力的這種不斷增長的訪問幫助創(chuàng)建了可以自動執(zhí)行越來越多任務(wù)的AI算法。以前僅限于研究實驗室的深度神經(jīng)網(wǎng)絡(luò)已經(jīng)進入許多以前對計算機具有挑戰(zhàn)性的領(lǐng)域，例如計算機視覺，機器翻譯，語音和面部識別。