您的位置: 首頁(yè) >科技 >

技術(shù)專家就如何控制算法提出了四點(diǎn)建議

2019-04-21 17:07:41 編輯: 來(lái)源:
導(dǎo)讀 賓夕法尼亞大學(xué)技術(shù)與數(shù)字業(yè)務(wù)教授Kartik Hosanagar說(shuō):我聽到很多算法都是強(qiáng)大的技術(shù),而且這些公司都是壟斷企業(yè),我們對(duì)它們無(wú)能為力,

賓夕法尼亞大學(xué)技術(shù)與數(shù)字業(yè)務(wù)教授Kartik Hosanagar說(shuō):“我聽到很多算法都是強(qiáng)大的技術(shù),而且這些公司都是壟斷企業(yè),我們對(duì)它們無(wú)能為力,谷歌是唯一的選擇。” “我試圖說(shuō)我們不是。”

Hosanagar是“ 人類機(jī)器智能指南:算法如何塑造我們的生活以及我們?nèi)绾伪3挚刂?rdquo;的作者,該計(jì)劃 于3月12日由企鵝蘭登書屋出版。本書向讀者介紹了算法觸及日常生活的所有方式。Verge向Hosanagar講述了本書的最后部分:實(shí)施四項(xiàng)建議或“支柱”,以防止有害的,意料之外的后果。

我對(duì)如何“控制”算法的問(wèn)題感興趣。但在我們到達(dá)那里之前,你能告訴我他們?yōu)槭裁葱枰豢刂茊?

我認(rèn)為大多數(shù)人以非常被動(dòng)的方式使用技術(shù),不一定要注意技術(shù)如何在幕后工作。如果所有這一切都在改變決策的效率,那就沒(méi)關(guān)系但是它們也帶來(lái)了某些風(fēng)險(xiǎn)和意想不到的后果,比如沒(méi)有明確編程的偏見(jiàn)。而且因?yàn)樗麄兇笠?guī)模地做出決策 - 意味著成千上萬(wàn)甚至數(shù)百萬(wàn)人 - 風(fēng)險(xiǎn)在于這些偏見(jiàn),如量刑算法中的種族偏見(jiàn),可能幾乎被制度化。

那講得通?,F(xiàn)在讓我們談?wù)勀愕乃膫€(gè)建議 - 或者,正如你所說(shuō)的那樣,“支柱” - 用于控制算法。

第一個(gè)問(wèn)題與所使用數(shù)據(jù)的透明度有關(guān)。但在我去那里之前,透明度始于讓用戶知道算法正在做出決定。通常,我們不知道。您申請(qǐng)貸款并被拒絕,您甚至不知道是誰(shuí)做出了決定。因此,您需要首先讓用戶知道算法在幕后工作。

更重要的是,您需要有關(guān)所使用數(shù)據(jù)的透明度。例如,抵押貸款申請(qǐng)中使用了哪些不同的變量?然后,第二件事是你需要關(guān)于模型的透明度,這意味著不僅解釋了所使用的數(shù)據(jù),而且解釋了事物的加權(quán)方式。也許某些事情比工作經(jīng)歷更重要。或者頂部變量可能是地址,我們可能想知道為什么這是最重要的。它允許我們首先了解正在使用的內(nèi)容,如果有任何問(wèn)題,我們可以質(zhì)疑它。我認(rèn)為這有助于解決信任和意外后果。

透明度太高可能會(huì)帶來(lái)什么成本?我知道,對(duì)于算法,很多這些信息都是商業(yè)機(jī)密,所以他們并沒(méi)有完全放棄這些數(shù)據(jù)。

在這個(gè)領(lǐng)域,我覺(jué)得監(jiān)管機(jī)構(gòu)的努力是錯(cuò)誤的。當(dāng)我們談?wù)撏该鞫葧r(shí),我會(huì)看到努力揭示源代碼,這違反了公司的知識(shí)產(chǎn)權(quán)。另一方面,揭示源代碼無(wú)論如何都不會(huì)告訴我們很多關(guān)于算法的信息。

所以我不認(rèn)為透明度必然意味著揭示源代碼。它應(yīng)該是高級(jí)的,只是關(guān)于數(shù)據(jù)和變量。此外,如果您有關(guān)于算法如何工作的大量詳細(xì)信息,用戶將不堪重負(fù)。實(shí)際上,研究表明,非常高的透明度實(shí)際上會(huì)損害用戶對(duì)算法的信任。

你能告訴我更多有關(guān)該研究的信息嗎?

在斯坦福大學(xué)進(jìn)行了一些研究關(guān)于這個(gè)話題。大學(xué)課程評(píng)分的一個(gè)問(wèn)題是不同的TA或多或少是寬松的。因此,他們使用算法來(lái)標(biāo)準(zhǔn)化或修改等級(jí),以使寬大程度保持一致。然后,一組接收到關(guān)于算法如何工作的最小信息,第二組獲得一些高級(jí)數(shù)據(jù),第三組獲得有關(guān)算法如何工作以及原始數(shù)據(jù)和所有更改的所有信息。結(jié)果是第三組的信任程度降低到與未收到任何信息的組相同的水平。所以它表明,如果你揭示了那么多信息,就好像你什么也沒(méi)透露一樣。對(duì)用戶來(lái)說(shuō),好消息是你不需要算法的內(nèi)部工作,

然后還有另一個(gè)問(wèn)題,即在審計(jì)過(guò)程中需要什么樣的透明度,這需要更高的透明度,并且需要由獨(dú)立于制作模型的團(tuán)隊(duì)的團(tuán)隊(duì)來(lái)完成。

第三個(gè)想法是,用戶和算法之間總是需要一些反饋循環(huán)。這怎么可行?

同樣,用戶通常不會(huì)做任何事情,只能使用算法并且無(wú)法控制并且迫使我們變得被動(dòng)。我主張應(yīng)該有一個(gè)反饋循環(huán),比如可以說(shuō),“我不喜歡這篇文章。”或者在更重要的情況下,如抵押貸款,這就是透明度的來(lái)源。如果我們知道哪些變量是在使用時(shí),我們可以抗議,比方說(shuō),使用地址或郵政編碼作為變量,因?yàn)榈刂放c種族相關(guān)。

最后一個(gè)支柱就是人們需要對(duì)用戶如何受到算法決策的影響負(fù)責(zé)。我們有我們的美元和選票,我們應(yīng)該尋找知道這些問(wèn)題的當(dāng)選代表,他們認(rèn)真對(duì)待并倡導(dǎo)消費(fèi)者保護(hù)。我們應(yīng)該使用我們的錢包進(jìn)行投票,并了解數(shù)據(jù)的使用方式。對(duì)于不同的人來(lái)說(shuō),這條線可能看起來(lái)不同,但我們必須更加謹(jǐn)慎地選擇。

我們應(yīng)該有更多的監(jiān)管,也許是聯(lián)邦算法安全委員會(huì),它為行業(yè)提供最佳實(shí)踐并提供某種監(jiān)督。需要一個(gè)獨(dú)立的機(jī)構(gòu)來(lái)調(diào)查投訴和問(wèn)題。


免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請(qǐng)聯(lián)系刪除!

最新文章

精彩推薦

圖文推薦

點(diǎn)擊排行

2016-2022 All Rights Reserved.平安財(cái)經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ280 715 8082   備案號(hào):閩ICP備19027007號(hào)-6

本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。