亞馬遜停止向執(zhí)法部門出售面部識別

一群AI專家已經(jīng)給亞馬遜簽署了一封公開信，要求該公司在發(fā)現(xiàn)偏見后停止向執(zhí)法部門出售面部識別。

在一月份，AI News 報道了算法正義聯(lián)盟創(chuàng)始人Joy Buolamwini的發(fā)現(xiàn)，他研究了一些世界上最流行的面部識別算法。

Buolamwini發(fā)現(xiàn)，大多數(shù)算法都是偏見和錯誤識別的，膚色較深的對象和/或女性更常見。

以下是按準確性降序排列的結(jié)果：

微軟

較輕的男性(100%)

女性打火機(98.3%)

黑暗男性(94%)

深色女性(79.2%)

臉++

黑暗男性(99.3%)

男性較輕(99.2%)

女性打火機(94%)

深色女性(65.5%)

IBM公司

男性較輕(99.7%)

女性打火機(92.9%)

黑暗男性(88%)

深色女性(65.3%)

亞馬遜高管對調(diào)查結(jié)果表示譴責(zé)，并聲稱使用的準確性低于他們建議用于執(zhí)法部門的準確性。

“對新技術(shù)的焦慮的答案不是進行與該服務(wù)的使用方式不一致的'測試'，并通過新聞媒體來放大測試的錯誤和誤導(dǎo)性結(jié)論，”亞馬遜云AI總經(jīng)理Matt Wood計算部門，寫在一月份的博客文章中。

公開信的簽字人來到了布拉姆維尼的辯護人面前，其中包括AI先驅(qū)Yoshua Bengio，他是圖靈獎的最近獲獎?wù)摺?/p>

他們寫道：“與伍德博士的主張相反，在一個系統(tǒng)中發(fā)現(xiàn)的偏見在另一個系統(tǒng)中引起關(guān)注，尤其是在可能嚴重影響人們生活的用例中，例如執(zhí)法應(yīng)用。”

盡管擁有最準確的面部識別能力，但自Buolamwini的工作以來，Microsoft對此并不滿意，并進一步提高了準確性。該公司支持一項政策，要求在使用面部識別的任何地方都必須看到標(biāo)志。

IBM在提高代表社會各階層的算法的準確性方面也取得了長足的進步。今年早些時候，該公司發(fā)布了一個新的100萬圖像數(shù)據(jù)集，該數(shù)據(jù)集更能代表社會的多樣性。

當(dāng)Buolamwini重新評估IBM的算法時，評估深色男性的準確性從88%上升到99.4%，深色女性從65.3%上升到83.5%，深色女性從92.9%上升到97.6%，而深色男性則保持在97不變百分。

Buolamwini評論說：“所以，對于每個觀看我的TED演講的人說：'這不是因為物理而導(dǎo)致您未被發(fā)現(xiàn)的原因嗎?您的皮膚反射率，對比度等”，在我進行研究的2017年12月至2018年發(fā)布新結(jié)果之間，物理定律沒有改變。”

“所做的改變是他們將其作為優(yōu)先事項。”

除了可能自動解決的社會問題(如種族概況)外，不正確的面部識別可能是生與死之間的差異。例如，最近的一項研究(PDF)發(fā)現(xiàn)，無人駕駛汽車在為行人觀察道路時，很難檢測到膚色較深的人。

每個人，不僅是AI專家，都應(yīng)該向公司施加壓力，以確保偏差與算法保持良好的距離。