如何避免AI實(shí)施中的偏見 你知道嗎

在大多數(shù)圈子中，“偏見”一詞具有明顯的負(fù)面含義。關(guān)于媒體，這意味著新聞傾向于某種方式。在科學(xué)中，這意味著先入為主的觀念導(dǎo)致了不準(zhǔn)確的結(jié)論。當(dāng)談到人工智能時(shí)，對(duì)軟件進(jìn)行編程的人的偏見 - 以及從中學(xué)習(xí)的數(shù)據(jù) - 會(huì)導(dǎo)致不滿意的結(jié)果。

任何偏見都是在收集，分析或解釋數(shù)據(jù)時(shí)與現(xiàn)實(shí)的偏差。無論是否有意，大多數(shù)人對(duì)他們?nèi)绾慰创澜缬幸恍┢?，這會(huì)影響他們對(duì)數(shù)據(jù)的解釋。由于技術(shù)在從就業(yè)到刑事司法的各個(gè)方面發(fā)揮著越來越重要的作用，因此有偏見的人工智能系統(tǒng)可以產(chǎn)生重大影

在人類可以信任機(jī)器來學(xué)習(xí)和解釋它們周圍的世界之前，我們必須消除AI系統(tǒng)從中學(xué)習(xí)的數(shù)據(jù)中的偏見。以下是在實(shí)施自己的AI解決方案時(shí)如何避免這種偏見。

1.從一個(gè)高度多元化的團(tuán)隊(duì)開始。

任何AI系統(tǒng)的深度學(xué)習(xí)模型都將受到其背后團(tuán)隊(duì)的集體經(jīng)驗(yàn)的限制。如果該團(tuán)隊(duì)是孤立的，系統(tǒng)將根據(jù)高度不準(zhǔn)確的模型做出判斷和預(yù)測(cè)。對(duì)于Adam Kalai來說，他是“男人是計(jì)算機(jī)程序員，女人是家庭主婦”的合著者。消除詞語嵌入，“ 消除AI中的偏見就像撫養(yǎng)孩子一樣。無論好壞，嬰兒 - 或人工智能系統(tǒng) - 都會(huì)想到你如何教它思考。它還需要一個(gè)村莊。因此，組建一個(gè)高度多樣化的團(tuán)隊(duì)來領(lǐng)導(dǎo)您的AI工作。您將更有可能更早，更準(zhǔn)確地識(shí)別細(xì)微差別。

為了減少組建團(tuán)隊(duì)時(shí)的招聘偏差，請(qǐng)檢查招聘廣告的語言并刪除有偏見的措辭。例如，“忍者”這個(gè)詞似乎可以讓你的工作更具吸引力。然而，它可以阻止女性申請(qǐng)，因?yàn)?社會(huì)認(rèn)為這個(gè)詞是男性化的。另一種策略是減少工作要求的數(shù)量，將其列為首選資格。這同樣會(huì)鼓勵(lì)更多的女性候選人申請(qǐng) - 不是因?yàn)樗麄儧]有這樣的證書，而是因?yàn)槌撬麄儞碛兴羞@些證書，否則他們往往不會(huì)申請(qǐng)。最后，創(chuàng)建標(biāo)準(zhǔn)面試問題和面試后情況匯報(bào)流程，以確保貴公司的所有面試官在評(píng)估求職者時(shí)都在同一框架內(nèi)工作。

2.讓您的多元化團(tuán)隊(duì)教您的聊天機(jī)器人。

與人類一樣，當(dāng)機(jī)器人擁有更多數(shù)據(jù)和經(jīng)驗(yàn)時(shí)，他們會(huì)做出更明智的選擇。“為聊天機(jī)器人收集足夠的數(shù)據(jù)以做出正確的決定。自動(dòng)化代理商應(yīng)該不斷學(xué)習(xí)和適應(yīng)，但只有在獲得正確數(shù)據(jù)的情況下才能做到這一點(diǎn)，“ Linc Global首席執(zhí)行官兼聯(lián)合創(chuàng)始人方誠說。聊天機(jī)器人通過研究以前的對(duì)話來學(xué)習(xí)，因此您的團(tuán)隊(duì)?wèi)?yīng)該提供您的機(jī)器人數(shù)據(jù)，教導(dǎo)它以您希望的方式做出響應(yīng)。例如，瑞典SEB 甚至教會(huì)其虛擬助手Aida檢測(cè)呼叫者語音中的沮喪語氣，此時(shí)機(jī)器人知道將呼叫者傳遞給人類代表。

為了完成類似的事情而不會(huì)成為偏見的犧牲品，您可能需要?jiǎng)?chuàng)建數(shù)據(jù)集，為您的機(jī)器人提供來自多個(gè)人口統(tǒng)計(jì)數(shù)據(jù)的示例。制定流程來檢測(cè)問題。無論您是使用自動(dòng)化平臺(tái)還是手動(dòng)查看客戶對(duì)話，都可以在客戶聊天中搜索模式。在打電話詢問特定問題時(shí)，客戶是否選擇了人類代表或更加沮喪?某些客戶角色會(huì)更頻繁地被挫敗嗎?您的聊天機(jī)器人可能會(huì)錯(cuò)誤處理或誤解某種類型的客戶問題 - 或某種類型客戶的疑慮。一旦您在沮喪的客戶查詢中識(shí)別出共同的線索，您就可以為您的AI提供正確的課程所需的信息。

3.向世界展示你的AI如何思考。

在建立人們可以信任的人工智能系統(tǒng)時(shí)，透明度可能與多樣性同樣重要。目前沒有關(guān)于受AI算法決策制約的消費(fèi)者權(quán)利的法律。至少公司可以做的是與消費(fèi)者完全透明為什么做出決定。盡管存在共同的行業(yè)擔(dān)憂，但這并不意味著披露人工智能背后的代碼。

只需提供系統(tǒng)用于做出決策的標(biāo)準(zhǔn)。例如，如果系統(tǒng)拒絕信用申請(qǐng)，請(qǐng)說明拒絕哪些因素以及消費(fèi)者可以采取哪些措施來提高他們下次獲得資格的機(jī)會(huì)。IBM推出了一項(xiàng)軟件服務(wù)，可以查找AI系統(tǒng)中的偏差，并確定自動(dòng)決策的原因。這樣的工具可以幫助您實(shí)現(xiàn)透明度。

羞辱公司人工智能計(jì)劃的可能性是一個(gè)真正令人擔(dān)憂的問題。幸運(yùn)的是，有很多方法可以擴(kuò)展AI源數(shù)據(jù)的多樣性，并消除重大偏差。通過消除偏見，您將幫助您的公司 - 以及社會(huì) - 真正實(shí)現(xiàn)AI提供的好處。