技術(shù)專家就如何控制算法提出了四點建議

賓夕法尼亞大學(xué)技術(shù)與數(shù)字業(yè)務(wù)教授Kartik Hosanagar說：“我聽到很多算法都是強大的技術(shù)，而且這些公司都是壟斷企業(yè)，我們對它們無能為力，谷歌是唯一的選擇。” “我試圖說我們不是。”

Hosanagar是“ 人類機器智能指南：算法如何塑造我們的生活以及我們?nèi)绾伪３挚刂?rdquo;的作者，該計劃 于3月12日由企鵝蘭登書屋出版。本書向讀者介紹了算法觸及日常生活的所有方式。Verge向Hosanagar講述了本書的最后部分：實施四項建議或“支柱”，以防止有害的，意料之外的后果。

我對如何“控制”算法的問題感興趣。但在我們到達那里之前，你能告訴我他們?yōu)槭裁葱枰豢刂茊?

我認為大多數(shù)人以非常被動的方式使用技術(shù)，不一定要注意技術(shù)如何在幕后工作。如果所有這一切都在改變決策的效率，那就沒關(guān)系但是它們也帶來了某些風(fēng)險和意想不到的后果，比如沒有明確編程的偏見。而且因為他們大規(guī)模地做出決策 - 意味著成千上萬甚至數(shù)百萬人 - 風(fēng)險在于這些偏見，如量刑算法中的種族偏見，可能幾乎被制度化。

那講得通?，F(xiàn)在讓我們談?wù)勀愕乃膫€建議 - 或者，正如你所說的那樣，“支柱” - 用于控制算法。

第一個問題與所使用數(shù)據(jù)的透明度有關(guān)。但在我去那里之前，透明度始于讓用戶知道算法正在做出決定。通常，我們不知道。您申請貸款并被拒絕，您甚至不知道是誰做出了決定。因此，您需要首先讓用戶知道算法在幕后工作。

更重要的是，您需要有關(guān)所使用數(shù)據(jù)的透明度。例如，抵押貸款申請中使用了哪些不同的變量?然后，第二件事是你需要關(guān)于模型的透明度，這意味著不僅解釋了所使用的數(shù)據(jù)，而且解釋了事物的加權(quán)方式。也許某些事情比工作經(jīng)歷更重要?；蛘唔敳孔兞靠赡苁堑刂罚覀兛赡芟胫罏槭裁催@是最重要的。它允許我們首先了解正在使用的內(nèi)容，如果有任何問題，我們可以質(zhì)疑它。我認為這有助于解決信任和意外后果。

透明度太高可能會帶來什么成本?我知道，對于算法，很多這些信息都是商業(yè)機密，所以他們并沒有完全放棄這些數(shù)據(jù)。

在這個領(lǐng)域，我覺得監(jiān)管機構(gòu)的努力是錯誤的。當(dāng)我們談?wù)撏该鞫葧r，我會看到努力揭示源代碼，這違反了公司的知識產(chǎn)權(quán)。另一方面，揭示源代碼無論如何都不會告訴我們很多關(guān)于算法的信息。

所以我不認為透明度必然意味著揭示源代碼。它應(yīng)該是高級的，只是關(guān)于數(shù)據(jù)和變量。此外，如果您有關(guān)于算法如何工作的大量詳細信息，用戶將不堪重負。實際上，研究表明，非常高的透明度實際上會損害用戶對算法的信任。

你能告訴我更多有關(guān)該研究的信息嗎?

在斯坦福大學(xué)進行了一些研究關(guān)于這個話題。大學(xué)課程評分的一個問題是不同的TA或多或少是寬松的。因此，他們使用算法來標(biāo)準(zhǔn)化或修改等級，以使寬大程度保持一致。然后，一組接收到關(guān)于算法如何工作的最小信息，第二組獲得一些高級數(shù)據(jù)，第三組獲得有關(guān)算法如何工作以及原始數(shù)據(jù)和所有更改的所有信息。結(jié)果是第三組的信任程度降低到與未收到任何信息的組相同的水平。所以它表明，如果你揭示了那么多信息，就好像你什么也沒透露一樣。對用戶來說，好消息是你不需要算法的內(nèi)部工作，

然后還有另一個問題，即在審計過程中需要什么樣的透明度，這需要更高的透明度，并且需要由獨立于制作模型的團隊的團隊來完成。

第三個想法是，用戶和算法之間總是需要一些反饋循環(huán)。這怎么可行?

同樣，用戶通常不會做任何事情，只能使用算法并且無法控制并且迫使我們變得被動。我主張應(yīng)該有一個反饋循環(huán)，比如可以說，“我不喜歡這篇文章。”或者在更重要的情況下，如抵押貸款，這就是透明度的來源。如果我們知道哪些變量是在使用時，我們可以抗議，比方說，使用地址或郵政編碼作為變量，因為地址與種族相關(guān)。

最后一個支柱就是人們需要對用戶如何受到算法決策的影響負責(zé)。我們有我們的美元和選票，我們應(yīng)該尋找知道這些問題的當(dāng)選代表，他們認真對待并倡導(dǎo)消費者保護。我們應(yīng)該使用我們的錢包進行投票，并了解數(shù)據(jù)的使用方式。對于不同的人來說，這條線可能看起來不同，但我們必須更加謹慎地選擇。

我們應(yīng)該有更多的監(jiān)管，也許是聯(lián)邦算法安全委員會，它為行業(yè)提供最佳實踐并提供某種監(jiān)督。需要一個獨立的機構(gòu)來調(diào)查投訴和問題。