研究針對有偏見的AI人臉識別技術(shù)

多倫多大學(xué)應(yīng)用科學(xué)與工程學(xué)院四年級學(xué)生Deb Raji和麻省理工學(xué)院的研究人員進(jìn)行的一項研究強(qiáng)調(diào)了面部識別服務(wù)中存在的種族和性別偏見。

Raji于2018年夏天在麻省理工學(xué)院媒體實驗室實習(xí)，在那里她對微軟，IBM和亞馬遜等領(lǐng)先公司生產(chǎn)的商業(yè)面部識別技術(shù)進(jìn)行了審核。研究人員發(fā)現(xiàn)，他們所有人都有將膚色較黑的女性誤認(rèn)為男性的趨勢。

但其中一項服務(wù)，尤其是亞馬遜的Rekognition，表現(xiàn)出比其他服務(wù)更高的偏見水平。盡管它可以以近100%的準(zhǔn)確度識別淺膚色男性的性別，但29%的女性將男性分類為男性，而淺膚色的男性31%的女性為男性。

Rekognition最近由佛羅里達(dá)州奧蘭多市的進(jìn)行了試點，將該服務(wù)用于治安場景，例如在相機(jī)上掃描面部并將其與數(shù)據(jù)庫中的面部進(jìn)行匹配。

拉吉說：“該技術(shù)不能很好地描述黑人面孔的事實可能導(dǎo)致對嫌疑人的錯誤識別。” “考慮到亞馬遜正在使用這項技術(shù)的高風(fēng)險場景，亞馬遜應(yīng)承受一些公眾壓力。”

隨著人工智能(AI)產(chǎn)品的快速發(fā)展和部署，這項新研究強(qiáng)調(diào)不僅需要測試系統(tǒng)的性能，還需要測試針對代表性不足的群體的潛在偏見。

盡管算法應(yīng)該是中立的，但Raji解釋說，由于數(shù)據(jù)集(用于“訓(xùn)練” AI模型的信息”來自仍在應(yīng)對日常偏差的社會中，這些偏差已嵌入算法中)。

拉吉說：“我想舉例說明健康皮膚的外觀。如果立即使用Google進(jìn)行搜索，您將看到皮膚白皙的女性。” “在真正向下滾動之前，您將看不到男人，也不會看到膚色黝黑的女人。如果將其輸入AI模型，它將采用這種世界觀并根據(jù)這些偏見來調(diào)整決策。”

拉吉說，應(yīng)該消除這些偏見，就像要追究一個人的責(zé)任一樣。她說：“將偏見嵌入算法時，而不是人們做出有偏見的決定時，危險就增加了。有人會告訴你這是錯的，無論是公眾還是老板。”

“有了人工智能，我們往往會免除這一責(zé)任。沒有人會把算法放進(jìn)監(jiān)獄。”

的Raji對主題的熱情偏置在機(jī)器學(xué)習(xí)來自于她的時間在AI啟動Clarifai，其中AI和道德的話題在注重研究的是經(jīng)常討論一個職業(yè)經(jīng)歷為期一年的帶薪實習(xí)(PEY的Co-op)學(xué)生公司。

她說：“這是該公司注意到的，并且在解決方面非常明確，這是一個引起我個人共鳴的主題，因為我是一個可見的少數(shù)派。”

這也源于她自己對種族偏見技術(shù)的親身經(jīng)歷。她說：“我會在黑客馬拉松上建造一些東西，想知道為什么它不能檢測到我的臉，或者為什么自動水龍頭不能檢測到我的手。”

Raji在麻省理工學(xué)院媒體實驗室與計算機(jī)科學(xué)家和數(shù)字活動家Joy Buolamwini分享了她的經(jīng)驗。這導(dǎo)致了實習(xí)，并使Raji成為她在人工智能進(jìn)步協(xié)會AI倫理與社會會議上發(fā)表的論文的主要作者。

拉吉說：“我知道我好像在三個月內(nèi)寫了一篇研究論文。” “但是這個問題已經(jīng)在我體內(nèi)滲透了很長時間了。”

Raji目前正在完成工程科學(xué)專業(yè)的最后一個學(xué)期，并發(fā)起了一項由學(xué)生主導(dǎo)的計劃，名為Project Include，該計劃培訓(xùn)學(xué)生在多倫多和密西沙加的低收入社區(qū)教授計算機(jī)編程。她還是Google AI的實習(xí)生。作為指導(dǎo)計劃的一部分，她正在撰寫新論文，重點是使公司承擔(dān)責(zé)任的實際解決方案。

拉吉說：“人們有時會輕描淡寫地說：'嗯，人工智能才剛剛開始。' “但是，如果您要架起一座橋梁，該行業(yè)是否可以讓您偷工減料并提供這些借口?”