讓我們把精力放在建立安全的人工智能上

伊隆馬斯克最近評(píng)論了規(guī)范人工智能的必要性，并稱其為人類存在的風(fēng)險(xiǎn)。正如任何人類創(chuàng)造的情況一樣，增加的杠桿技術(shù)可以為人類提供善或惡，但我們需要害怕人工智能并在其發(fā)展的早期對(duì)其進(jìn)行規(guī)范的前提并不是很有根據(jù)。我們可能會(huì)考慮的第一個(gè)問題是，我們擔(dān)心的是人工智能可能會(huì)變得冷漠或惡意。

我提出這個(gè)問題是因?yàn)轳R斯克本人之前已經(jīng)將人工智能的發(fā)展稱為“召喚惡魔”，將邪惡的形象與之聯(lián)系起來。對(duì)人類歷史的任何誠實(shí)評(píng)估都向我們表明，最令人震驚的惡意意圖可能來自人類的心靈和思想。

然而，歷史也表明，技術(shù)壓倒性地推動(dòng)了我們共享的人類經(jīng)驗(yàn)。從印刷機(jī)到互聯(lián)網(wǎng)，一直有反對(duì)者宣傳對(duì)新技術(shù)的恐懼。然而，當(dāng)領(lǐng)導(dǎo)者為集體利益引導(dǎo)時(shí)，這些技術(shù)雖然破壞了已知的生活方式，但卻在我們的人類經(jīng)歷中創(chuàng)造了一種積極的進(jìn)化。AI也不例外。

在負(fù)責(zé)任的道德領(lǐng)導(dǎo)者手中，該技術(shù)有望以一種可以釋放無法想象的人類潛力的方式增強(qiáng)人的能力。與任何技術(shù)一樣，AI是中立的。技術(shù)的道德性反映了我們的集體道德，這取決于我們?nèi)绾芜x擇使用它。

想象一下歷史上任何一個(gè)擁有大型核武庫的獨(dú)裁者。如果他們的復(fù)仇武器是核彈并可以到達(dá)地球的所有地方，他們將如何塑造其余的歷史?例如，考慮一下Vlad the Impaler，Ivan the Terrible和Genghis Khan會(huì)做些什么。這些惡毒的人類不僅實(shí)際上成了男人的領(lǐng)袖和國王。技術(shù)已經(jīng)發(fā)展到一個(gè)瘋子可以為地球浪費(fèi)的地步嗎?有了核武器，生物武器和化學(xué)武器，答案很遺憾，是的。我們已經(jīng)忍受了來自我們自身的惡意和技術(shù)的乘法效應(yīng)的存在風(fēng)險(xiǎn)。我們不需要人工智能。

在這個(gè)階段陷入恐懼的犧牲將損害建設(shè)性的人工智能發(fā)展。有人認(rèn)為技術(shù)推動(dòng)了歷史。如果有人的目的，那就是在學(xué)習(xí)，進(jìn)化，進(jìn)步和建設(shè)中找到它。發(fā)揮我們的創(chuàng)造潛力，擺脫困擾我們的資源限制以及帶來我們最壞情況的稀缺性。通過這種方式，人工智能 - 可以模仿最奇妙的人類品質(zhì)，思想品質(zhì)的技術(shù) - 可以成為一種解放力量和我們的最終成就。在這個(gè)階段，人工智能還有很多好處。

如果這還不夠，請(qǐng)花一點(diǎn)時(shí)間思考創(chuàng)新的不可逆轉(zhuǎn)性。沒有開發(fā)出有意義的技術(shù)，然后將其放回瓶中，可以這么說。當(dāng)世界被分割和斷開時(shí)，有時(shí)會(huì)丟失一些知識(shí)，但幾乎總是在一個(gè)獨(dú)立的思想家的地球的遙遠(yuǎn)角落重新發(fā)現(xiàn)，與原始發(fā)現(xiàn)無關(guān)。這就是技術(shù)和知識(shí)的本質(zhì)......它渴望被發(fā)現(xiàn)。如果我們認(rèn)為監(jiān)管和控制會(huì)阻礙人工智能的發(fā)展，那我們就錯(cuò)了。他們可能做的是阻止那些有良好意愿的人開發(fā)它。他們不會(huì)停止休息。

在考慮禁令時(shí)，重要的是要考慮是否可以執(zhí)行禁令，以及受禁令明顯影響的各方如何實(shí)際行事。博弈論是一個(gè)涉及沖突與合作條件決策的數(shù)學(xué)分支，它提出了一個(gè)著名的問題叫做“囚徒困境”。

這種困境是這樣的：一個(gè)團(tuán)伙A和B的兩名成員都被逮捕并獨(dú)立封鎖。如果他們互相背叛，每人都服刑兩年。如果A背叛了B，但是B并沒有暗示他的同志，那么A就會(huì)自由，但是B會(huì)服用三年。如果他們都保持沉默，他們每人服務(wù)一年。雖然似乎“光榮”的事情是保持沉默并服務(wù)一年，以便懲罰是平等和最小的，但任何一方都不能相信對(duì)方會(huì)采取這一光榮的過程。原因在于，通過背叛對(duì)方，可以獲得無恥行為的不光彩演員。B和A都必須考慮對(duì)方可能采取最適合自己情況的方法，如果是這種情況，被出賣方將遭受最大損害(即 三年監(jiān)禁)。因此，雙方可以采取的合理行動(dòng)方針是相互背叛并“定居”一年。

讓我們擴(kuò)展這個(gè)框架，看看它如何適用于AI禁令。人工智能顯然是一項(xiàng)在各個(gè)領(lǐng)域都具有變革影響的技術(shù); 從醫(yī)藥，制造業(yè)，能源到國防和政府。如果人工智能在活動(dòng)中被禁止，那么會(huì)有多個(gè)政黨 - 在這種情況下的 - 在我們的囚徒困境中會(huì)開始像A和B一樣思考。如果他們尊重禁令，但其他人通過暗中繼續(xù)武器化人工智能的發(fā)展而“背叛”，那么其他人的優(yōu)勢(shì)就會(huì)最大化，而禁令追隨者的負(fù)面影響是巨大的。

如果所有各方都自愿放棄這種發(fā)展并遵守禁令，那么我們就有了最好的案例。但不能保證會(huì)出現(xiàn)這種情況......就像囚犯一樣，這些正在閉門造車，對(duì)另一方可能做的事情知之甚少。最后，如果所有各方都開發(fā)此類技術(shù)，那么情景就不如遵守禁令那么樂觀 - 存在風(fēng)險(xiǎn) - 但所有各方至少都意識(shí)到，如果其中任何一方?jīng)Q定使用人工智能武器，他們將面臨抵抗，即存在威懾力到位。

我們應(yīng)該希望人工智能用于良好嗎?要治愈而不是傷害?我們應(yīng)該致力于這一目標(biāo)并努力實(shí)現(xiàn)這一目標(biāo)嗎?當(dāng)然。但不要以欺騙自己為代價(jià)，認(rèn)為我們可以簡(jiǎn)單地禁止我們的問題。AI就在這里，它就在這里。它將不斷變得更聰明，更有能力。知識(shí)希望被發(fā)現(xiàn)，沒有任何禁令可以阻止創(chuàng)新在時(shí)機(jī)到來時(shí)飆升。我們實(shí)際上需要在可解釋的人工智能，道德系統(tǒng)和人工智能安全等領(lǐng)域加倍投入更快速的人工智能推進(jìn)，而不是沿著d和禁令的道路走下去。這些是并且可以成為真正的技術(shù)，能力和算法，可以安全處理事故和計(jì)數(shù)器，以便故意濫用。

除了我們的實(shí)驗(yàn)室之外，在更廣泛的社區(qū)，包括德克薩斯大學(xué)奧斯汀分校，正在思考AI系統(tǒng)安全的各個(gè)方面，正在做大量的工作。讓我們走過“禁止思考”，卷起袖子，努力開發(fā)框架，讓人類積極地利用人工智能 - 我們最偉大的發(fā)明 - 讓我們的孩子獲得難以想象的獎(jiǎng)勵(lì)。“