在人工智能技術(shù)中偏差存在的三個(gè)平臺(tái)

在2018年末，Google決定阻止其“智能撰寫”功能(該功能可預(yù)測(cè)用戶打算在電子郵件中寫的內(nèi)容并自動(dòng)完成句子)，不建議使用基于性別的代詞，例如“他”，“她”和“其”。為什么?Google擔(dān)心該工具帶有偏見，并且容易暗示不正確的基于性別的代詞。這種變化是促使由谷歌科學(xué)家誰(shuí)類型，見證智能撰寫“下周我滿足投資者”建議采取以下跟進(jìn)的問(wèn)題：“你想見見他。”問(wèn)題?有問(wèn)題的投資者是女性。

偏差是AI的致命弱點(diǎn)。DataRobot的研究發(fā)現(xiàn)，在和英國(guó)，近一半(42%)的AI專業(yè)人員“非常”或“極其”擔(dān)心AI偏見。AI可以在最意想不到的地方徘徊。沒有系統(tǒng)是免疫的。隨著AI在工作場(chǎng)所的穩(wěn)固據(jù)點(diǎn)，必須警惕可能會(huì)持續(xù)存在偏見的地方和平臺(tái)。

招聘工具

人工智能工具有望最大程度地減少招聘偏見。LinkedIn的研究表明，有43%的招聘人員和招聘經(jīng)理表示，AI的主要優(yōu)勢(shì)在于其消除人類偏見的潛力。然而，承諾將偏差最小化的相同AI工具也可以將偏差注入到招聘過(guò)程中。以Google的招聘廣告算法為例，該算法不成比例地向男性顯示高薪工作。同樣，許多由AI驅(qū)動(dòng)的招聘工具都依賴于面部識(shí)別技術(shù)。研究表明，即使是表現(xiàn)最好的面部識(shí)別系統(tǒng)，識(shí)別黑臉的比率也比白臉高出五到十倍。

雖然很難消除AI驅(qū)動(dòng)的招聘工具的偏見，但我們可以朝正確的方向采取許多步驟。它始于監(jiān)督。負(fù)責(zé)構(gòu)建，實(shí)施和使用招聘工具的團(tuán)隊(duì)必須多樣化，否則他們自己的偏見將被納入該工具。其次，必須仔細(xì)檢查數(shù)據(jù)。太多公司依賴AI驅(qū)動(dòng)的招聘工具，這些工具主要基于歷史數(shù)據(jù)。由于許多公司都優(yōu)先考慮某些類別的個(gè)人(例如，男性和頂尖大學(xué)的畢業(yè)生)對(duì)歷史的偏愛，因此這些個(gè)人還可以通過(guò)對(duì)歷史數(shù)據(jù)進(jìn)行訓(xùn)練的算法來(lái)獲得優(yōu)勢(shì)。在將它們以及類似的關(guān)聯(lián)構(gòu)建到AI工具中之前，必須仔細(xì)檢查并刪除它們。最后，所有由AI驅(qū)動(dòng)的招聘工具都應(yīng)接受內(nèi)部和外部審核。像這樣的公司創(chuàng)建基于AI的招聘工具的HireVue致力于參與內(nèi)部和外部審計(jì)，以查明其工具中可能存在偏見的地方。這是朝正確方向邁出的一步。

Slack等工作場(chǎng)所協(xié)作工具已在工作場(chǎng)所中無(wú)處不在。最近，幾家公司已經(jīng)開始開發(fā)和啟動(dòng)基于AI的工具，以幫助管理人員和領(lǐng)導(dǎo)者了解電子郵件，Slack和類似平臺(tái)上正在發(fā)生的通信。例如，Vibe是一家總部位于東京的公司，它搜索公共Slack消息并利用AI來(lái)評(píng)估員工滿意度。它可以通過(guò)掃描五種情緒來(lái)表達(dá)員工情緒狀態(tài)的關(guān)鍵字和表情符號(hào)，從而做到這一點(diǎn)：幸福，激怒，不贊成，失望和壓力。

問(wèn)題在于，許多這些由AI驅(qū)動(dòng)的工具都沒有考慮到個(gè)人具有不同的情感傾向和其他傾向的事實(shí)。例如，男性和女性在工作場(chǎng)所協(xié)作工具上的行為有所不同。Quartz的記者Leah Fessler指出“您公司的Slack可能是性別歧視者”。她解釋說(shuō)，男性傾向于主導(dǎo)公共頻道的Slack對(duì)話，而女性則更可能使用支持性和友好的標(biāo)點(diǎn)符號(hào)。

Slack本身越來(lái)越傾向于人工智能。特別是，它創(chuàng)建了一個(gè)“工作圖”來(lái)分析用戶之間的相互關(guān)系。“工作圖”的概念并不新鮮。谷歌已經(jīng)建立了自己的“知識(shí)圖”，而Facebook則建立了自己的“社會(huì)圖”。工作圖使Slack能夠在Slack平臺(tái)內(nèi)進(jìn)行更快，更準(zhǔn)確的搜索，同時(shí)還使用戶能夠確定最重要的消息。根據(jù)《麻省理工學(xué)院技術(shù)評(píng)論》的說(shuō)法，“它的目標(biāo)是成為一個(gè)無(wú)情的，多任務(wù)處理的助手，他了解正在發(fā)生的一切，并僅向您簡(jiǎn)要介紹最突出的事件。”

鑒于普通用戶每天發(fā)送70條消息，因此不可避免的是，許多企業(yè)將依靠AI更好地了解其工人在Slack和類似工具上的協(xié)作。至關(guān)重要的是，我們必須保持警惕，以了解如何訓(xùn)練這些工具所基于的模型以及它們?nèi)绾我子诋a(chǎn)生偏差。

銷售工具

人工智能工具正在迅速滲透到銷售組織中。最有前途的用例之一是線索評(píng)分。根據(jù)Gleanster Research的數(shù)據(jù)，一半的潛在客戶是合格的，但尚未準(zhǔn)備好購(gòu)買。一些AI工具允許公司挖掘其依賴的所有各種渠道來(lái)與客戶聯(lián)系，并提取人口統(tǒng)計(jì)，公司和技術(shù)信息，并最終確定銷售線索的質(zhì)量。這些工具甚至可以指出消費(fèi)者的情緒，以預(yù)測(cè)他們的購(gòu)買傾向。

就像所有AI工具一樣，重要的是要了解如何構(gòu)建基于AI的銷售工具的模型。大多數(shù)工具旨在發(fā)現(xiàn)“懸空的果實(shí)”，即最容易關(guān)閉且預(yù)算最大的線索。這些工具很少能提供全面的信息。例如，他們通常不考慮哪些線索可能具有最高的生命周期價(jià)值，或者哪些線索可能會(huì)提供最高的凈啟動(dòng)子分?jǐn)?shù)。

另一個(gè)問(wèn)題是，許多公司將潛在客戶生成與潛在客戶評(píng)分混為一談。也就是說(shuō)，他們假設(shè)符合理想客戶角色的客戶就是理想客戶。他們不考慮潛在客戶準(zhǔn)備就緒，尤其是領(lǐng)導(dǎo)者是否準(zhǔn)備立即購(gòu)買。第三個(gè)問(wèn)題是，基于AI的銷售工具通常會(huì)受到歷史銷售信息的影響。他們會(huì)優(yōu)先考慮看起來(lái)像過(guò)往客戶的客戶，并且這樣做無(wú)法顧及不斷變化的市場(chǎng)動(dòng)態(tài)以及過(guò)去沒有購(gòu)買過(guò)但未來(lái)可能會(huì)通過(guò)擴(kuò)大覆蓋范圍和擴(kuò)大廣告來(lái)成為恒星客戶的客戶。

根據(jù)《哈佛商業(yè)評(píng)論》，使用AI進(jìn)行銷售的公司可以將潛在客戶增加50%。人工智能有助于消除猜測(cè)，并使銷售代表將時(shí)間集中在與客戶建立牢固的關(guān)系上。釋放這些工具潛能的關(guān)鍵是識(shí)別存在偏差的地方并采取積極措施將其最小化。

自蒸汽機(jī)以來(lái)，AI被認(rèn)為是最大的創(chuàng)新。隨著AI成為我們工作場(chǎng)所中不可或缺的一部分，我們必須不斷挑戰(zhàn)和審查工具的基本假設(shè)。通過(guò)指出人工智能偏見可能潛伏的地方，人工智能將賦予我們力量，而不是限制我們。