建立負(fù)責(zé)任的AI系統(tǒng)并非始于技術(shù)團(tuán)隊(duì)

馬爾科姆·格拉德威爾(Malcolm Gladwell)在他的《與陌生人交談》一書中，討論了一項(xiàng)人工智能實(shí)驗(yàn)，該實(shí)驗(yàn)研究了紐約市法官進(jìn)行的554,689次保釋聽證。正如一個(gè)在線出版物所指出的那樣：“在釋放的40萬人中，有40%以上的人未能在隨后的審判中露面，或因另一行而被捕。”但是，機(jī)器學(xué)習(xí)算法建議的拘留或釋放對(duì)象的決定將導(dǎo)致減少25%。這是一個(gè)人工智能系統(tǒng)比人類更少偏見的示例。但是，并非總是如此。

人工智能系統(tǒng)越來越多地用于決策中。例子包括刑事司法，信貸/貸款，招聘，教育和臨床診斷。在AI出現(xiàn)之前，聯(lián)邦，州和地方法律主導(dǎo)著這些決定，因此它們是公正，透明和公平的。由于AI算法是從大量數(shù)據(jù)中學(xué)習(xí)的，因此AI構(gòu)建的機(jī)器學(xué)習(xí)模型可以放大數(shù)據(jù)中存在的某些固有偏差。這就引出了道德上合理的人工智能系統(tǒng)的問題，該系統(tǒng)的輸出不會(huì)遮蓋人類的判斷力。

教科文組織將“道德的AI”一詞定義為“尊重人權(quán)和基本自由應(yīng)被視為基本價(jià)值之一，因?yàn)楸仨毟鶕?jù)國(guó)際人權(quán)標(biāo)準(zhǔn)發(fā)展，部署和采用AI技術(shù)。”提到的其他原則還包括關(guān)于歧視和偏見以及維護(hù)社會(huì)和文化多樣性，不同價(jià)值體系，不同年齡段，殘疾人，婦女和女童以及處境不利，邊緣化和脆弱人群的特殊需求等問題的包容性AI。

人工智能和機(jī)器學(xué)習(xí)的飛速發(fā)展不僅提供了創(chuàng)新的解決方案，而且還帶來了挑戰(zhàn)，以理解和確定系統(tǒng)的道德含義。