防止人工智能做出不道德決定的新數(shù)學(xué)公式

英國(guó)和瑞士的研究人員發(fā)現(xiàn)了一種數(shù)學(xué)方法，可以幫助監(jiān)管機(jī)構(gòu)和企業(yè)監(jiān)管人工智能系統(tǒng)做出不道德的、可能非常昂貴且具有破壞性的選擇。

來(lái)自華威大學(xué)、倫敦帝國(guó)理工學(xué)院和洛桑EPFL的合作者以及戰(zhàn)略公司Sciteb Ltd認(rèn)為，在一個(gè)決策越來(lái)越?jīng)]有人為干預(yù)的環(huán)境中，有一個(gè)非常強(qiáng)烈的動(dòng)機(jī)，知道在什么情況下人工智能系統(tǒng)可能會(huì)采取一個(gè)不道德的戰(zhàn)略，并發(fā)現(xiàn)和減少這種風(fēng)險(xiǎn)，或完全消除，如果可能的話。

人工智能(AI)越來(lái)越多地應(yīng)用于商業(yè)環(huán)境中。例如，考慮使用人工智能來(lái)設(shè)定要銷售給特定客戶的保險(xiǎn)產(chǎn)品的價(jià)格。為不同的人設(shè)定不同的價(jià)格是有正當(dāng)理由的，但做出某些最終損害公司利益的決定可能會(huì)更有利可圖。

人工智能有大量的潛在策略可供選擇，但有些策略是不道德的，如果監(jiān)管機(jī)構(gòu)征收巨額罰款或客戶抵制你，或兩者兼而有之，它們不僅會(huì)招致道德成本，還會(huì)招致巨大的潛在懲罰。

這就是為什么這些數(shù)學(xué)家和統(tǒng)計(jì)學(xué)家走到一起：通過(guò)創(chuàng)造一個(gè)新的“不道德的優(yōu)化原則”來(lái)幫助企業(yè)和監(jiān)管者，這將提供一個(gè)簡(jiǎn)單的公式來(lái)估計(jì)人工智能決策的影響。