您的位置: 首頁 >科技 >

研究針對有偏見的AI人臉識別技術(shù)

2022-08-25 06:17:01 編輯:田慶宇 來源:
導(dǎo)讀 多倫多大學(xué)應(yīng)用科學(xué)與工程學(xué)院四年級學(xué)生Deb Raji和麻省理工學(xué)院的研究人員進行的一項研究強調(diào)了面部識別服務(wù)中存在的種族和性別偏見。Raj...

多倫多大學(xué)應(yīng)用科學(xué)與工程學(xué)院四年級學(xué)生Deb Raji和麻省理工學(xué)院的研究人員進行的一項研究強調(diào)了面部識別服務(wù)中存在的種族和性別偏見。

Raji于2018年夏天在麻省理工學(xué)院媒體實驗室實習(xí),在那里她對微軟,IBM和亞馬遜等領(lǐng)先公司生產(chǎn)的商業(yè)面部識別技術(shù)進行了審核。研究人員發(fā)現(xiàn),他們所有人都有將膚色較黑的女性誤認為男性的趨勢。

但其中一項服務(wù),尤其是亞馬遜的Rekognition,表現(xiàn)出比其他服務(wù)更高的偏見水平。盡管它可以以近100%的準確度識別淺膚色男性的性別,但29%的女性將男性分類為男性,而淺膚色的男性31%的女性為男性。

Rekognition最近由佛羅里達州奧蘭多市的進行了試點,將該服務(wù)用于治安場景,例如在相機上掃描面部并將其與數(shù)據(jù)庫中的面部進行匹配。

拉吉說:“該技術(shù)不能很好地描述黑人面孔的事實可能導(dǎo)致對嫌疑人的錯誤識別。” “考慮到亞馬遜正在使用這項技術(shù)的高風(fēng)險場景,亞馬遜應(yīng)承受一些公眾壓力。”

隨著人工智能(AI)產(chǎn)品的快速發(fā)展和部署,這項新研究強調(diào)不僅需要測試系統(tǒng)的性能,還需要測試針對代表性不足的群體的潛在偏見。

盡管算法應(yīng)該是中立的,但Raji解釋說,由于數(shù)據(jù)集(用于“訓(xùn)練” AI模型的信息”來自仍在應(yīng)對日常偏差的社會中,這些偏差已嵌入算法中)。

拉吉說:“我想舉例說明健康皮膚的外觀。如果立即使用Google進行搜索,您將看到皮膚白皙的女性。” “在真正向下滾動之前,您將看不到男人,也不會看到膚色黝黑的女人。如果將其輸入AI模型,它將采用這種世界觀并根據(jù)這些偏見來調(diào)整決策。”

拉吉說,應(yīng)該消除這些偏見,就像要追究一個人的責(zé)任一樣。她說:“將偏見嵌入算法時,而不是人們做出有偏見的決定時,危險就增加了。有人會告訴你這是錯的,無論是公眾還是老板。”

“有了人工智能,我們往往會免除這一責(zé)任。沒有人會把算法放進監(jiān)獄。”

的Raji對主題的熱情偏置在機器學(xué)習(xí)來自于她的時間在AI啟動Clarifai,其中AI和道德的話題在注重研究的是經(jīng)常討論一個職業(yè)經(jīng)歷為期一年的帶薪實習(xí)(PEY的Co-op)學(xué)生公司。

她說:“這是該公司注意到的,并且在解決方面非常明確,這是一個引起我個人共鳴的主題,因為我是一個可見的少數(shù)派。”

這也源于她自己對種族偏見技術(shù)的親身經(jīng)歷。她說:“我會在黑客馬拉松上建造一些東西,想知道為什么它不能檢測到我的臉,或者為什么自動水龍頭不能檢測到我的手。”

Raji在麻省理工學(xué)院媒體實驗室與計算機科學(xué)家和數(shù)字活動家Joy Buolamwini分享了她的經(jīng)驗。這導(dǎo)致了實習(xí),并使Raji成為她在人工智能進步協(xié)會AI倫理與社會會議上發(fā)表的論文的主要作者。

拉吉說:“我知道我好像在三個月內(nèi)寫了一篇研究論文。” “但是這個問題已經(jīng)在我體內(nèi)滲透了很長時間了。”

Raji目前正在完成工程科學(xué)專業(yè)的最后一個學(xué)期,并發(fā)起了一項由學(xué)生主導(dǎo)的計劃,名為Project Include,該計劃培訓(xùn)學(xué)生在多倫多和密西沙加的低收入社區(qū)教授計算機編程。她還是Google AI的實習(xí)生。作為指導(dǎo)計劃的一部分,她正在撰寫新論文,重點是使公司承擔(dān)責(zé)任的實際解決方案。

拉吉說:“人們有時會輕描淡寫地說:'嗯,人工智能才剛剛開始。' “但是,如果您要架起一座橋梁,該行業(yè)是否可以讓您偷工減料并提供這些借口?”


免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!

最新文章

精彩推薦

圖文推薦

點擊排行

2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ280 715 8082   備案號:閩ICP備19027007號-6

本站除標明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。