在人工智能技術(shù)中偏差存在的三個平臺

在2018年末，Google決定阻止其“智能撰寫”功能(該功能可預(yù)測用戶打算在電子郵件中寫的內(nèi)容并自動完成句子)，不建議使用基于性別的代詞，例如“他”，“她”和“其”。為什么?Google擔(dān)心該工具帶有偏見，并且容易暗示不正確的基于性別的代詞。這種變化是促使由谷歌科學(xué)家誰類型，見證智能撰寫“下周我滿足投資者”建議采取以下跟進的問題：“你想見見他。”問題?有問題的投資者是女性。

偏差是AI的致命弱點。DataRobot的研究發(fā)現(xiàn)，在和英國，近一半(42%)的AI專業(yè)人員“非常”或“極其”擔(dān)心AI偏見。AI可以在最意想不到的地方徘徊。沒有系統(tǒng)是免疫的。隨著AI在工作場所的穩(wěn)固據(jù)點，必須警惕可能會持續(xù)存在偏見的地方和平臺。

招聘工具

人工智能工具有望最大程度地減少招聘偏見。LinkedIn的研究表明，有43%的招聘人員和招聘經(jīng)理表示，AI的主要優(yōu)勢在于其消除人類偏見的潛力。然而，承諾將偏差最小化的相同AI工具也可以將偏差注入到招聘過程中。以Google的招聘廣告算法為例，該算法不成比例地向男性顯示高薪工作。同樣，許多由AI驅(qū)動的招聘工具都依賴于面部識別技術(shù)。研究表明，即使是表現(xiàn)最好的面部識別系統(tǒng)，識別黑臉的比率也比白臉高出五到十倍。

雖然很難消除AI驅(qū)動的招聘工具的偏見，但我們可以朝正確的方向采取許多步驟。它始于監(jiān)督。負責(zé)構(gòu)建，實施和使用招聘工具的團隊必須多樣化，否則他們自己的偏見將被納入該工具。其次，必須仔細檢查數(shù)據(jù)。太多公司依賴AI驅(qū)動的招聘工具，這些工具主要基于歷史數(shù)據(jù)。由于許多公司都優(yōu)先考慮某些類別的個人(例如，男性和頂尖大學(xué)的畢業(yè)生)對歷史的偏愛，因此這些個人還可以通過對歷史數(shù)據(jù)進行訓(xùn)練的算法來獲得優(yōu)勢。在將它們以及類似的關(guān)聯(lián)構(gòu)建到AI工具中之前，必須仔細檢查并刪除它們。最后，所有由AI驅(qū)動的招聘工具都應(yīng)接受內(nèi)部和外部審核。像這樣的公司創(chuàng)建基于AI的招聘工具的HireVue致力于參與內(nèi)部和外部審計，以查明其工具中可能存在偏見的地方。這是朝正確方向邁出的一步。

Slack等工作場所協(xié)作工具已在工作場所中無處不在。最近，幾家公司已經(jīng)開始開發(fā)和啟動基于AI的工具，以幫助管理人員和領(lǐng)導(dǎo)者了解電子郵件，Slack和類似平臺上正在發(fā)生的通信。例如，Vibe是一家總部位于東京的公司，它搜索公共Slack消息并利用AI來評估員工滿意度。它可以通過掃描五種情緒來表達員工情緒狀態(tài)的關(guān)鍵字和表情符號，從而做到這一點：幸福，激怒，不贊成，失望和壓力。

問題在于，許多這些由AI驅(qū)動的工具都沒有考慮到個人具有不同的情感傾向和其他傾向的事實。例如，男性和女性在工作場所協(xié)作工具上的行為有所不同。Quartz的記者Leah Fessler指出“您公司的Slack可能是性別歧視者”。她解釋說，男性傾向于主導(dǎo)公共頻道的Slack對話，而女性則更可能使用支持性和友好的標(biāo)點符號。

Slack本身越來越傾向于人工智能。特別是，它創(chuàng)建了一個“工作圖”來分析用戶之間的相互關(guān)系。“工作圖”的概念并不新鮮。谷歌已經(jīng)建立了自己的“知識圖”，而Facebook則建立了自己的“社會圖”。工作圖使Slack能夠在Slack平臺內(nèi)進行更快，更準(zhǔn)確的搜索，同時還使用戶能夠確定最重要的消息。根據(jù)《麻省理工學(xué)院技術(shù)評論》的說法，“它的目標(biāo)是成為一個無情的，多任務(wù)處理的助手，他了解正在發(fā)生的一切，并僅向您簡要介紹最突出的事件。”

鑒于普通用戶每天發(fā)送70條消息，因此不可避免的是，許多企業(yè)將依靠AI更好地了解其工人在Slack和類似工具上的協(xié)作。至關(guān)重要的是，我們必須保持警惕，以了解如何訓(xùn)練這些工具所基于的模型以及它們?nèi)绾我子诋a(chǎn)生偏差。

銷售工具

人工智能工具正在迅速滲透到銷售組織中。最有前途的用例之一是線索評分。根據(jù)Gleanster Research的數(shù)據(jù)，一半的潛在客戶是合格的，但尚未準(zhǔn)備好購買。一些AI工具允許公司挖掘其依賴的所有各種渠道來與客戶聯(lián)系，并提取人口統(tǒng)計，公司和技術(shù)信息，并最終確定銷售線索的質(zhì)量。這些工具甚至可以指出消費者的情緒，以預(yù)測他們的購買傾向。

就像所有AI工具一樣，重要的是要了解如何構(gòu)建基于AI的銷售工具的模型。大多數(shù)工具旨在發(fā)現(xiàn)“懸空的果實”，即最容易關(guān)閉且預(yù)算最大的線索。這些工具很少能提供全面的信息。例如，他們通常不考慮哪些線索可能具有最高的生命周期價值，或者哪些線索可能會提供最高的凈啟動子分?jǐn)?shù)。

另一個問題是，許多公司將潛在客戶生成與潛在客戶評分混為一談。也就是說，他們假設(shè)符合理想客戶角色的客戶就是理想客戶。他們不考慮潛在客戶準(zhǔn)備就緒，尤其是領(lǐng)導(dǎo)者是否準(zhǔn)備立即購買。第三個問題是，基于AI的銷售工具通常會受到歷史銷售信息的影響。他們會優(yōu)先考慮看起來像過往客戶的客戶，并且這樣做無法顧及不斷變化的市場動態(tài)以及過去沒有購買過但未來可能會通過擴大覆蓋范圍和擴大廣告來成為恒星客戶的客戶。

根據(jù)《哈佛商業(yè)評論》，使用AI進行銷售的公司可以將潛在客戶增加50%。人工智能有助于消除猜測，并使銷售代表將時間集中在與客戶建立牢固的關(guān)系上。釋放這些工具潛能的關(guān)鍵是識別存在偏差的地方并采取積極措施將其最小化。

自蒸汽機以來，AI被認(rèn)為是最大的創(chuàng)新。隨著AI成為我們工作場所中不可或缺的一部分，我們必須不斷挑戰(zhàn)和審查工具的基本假設(shè)。通過指出人工智能偏見可能潛伏的地方，人工智能將賦予我們力量，而不是限制我們。