谷歌云人工智能從云視覺(jué)API中移除性別標(biāo)簽

谷歌云A I正在移除在圖像中將人標(biāo)記為“男人”或“女人”的能力，該公司今天告訴Venture Beat。 標(biāo)簽被用來(lái)分類圖像和訓(xùn)練機(jī)器學(xué)習(xí)模型，但谷歌正在刪除性別標(biāo)簽，因?yàn)樗`反了谷歌的AI原則，以避免創(chuàng)建有偏見(jiàn)的系統(tǒng)。

“鑒于一個(gè)人的性別不能通過(guò)外表來(lái)推斷，我們決定刪除這些標(biāo)簽，以符合谷歌的人工智能原則，特別是原則2：避免制造或強(qiáng)化不公平的偏見(jiàn)。 在今天之后，一位谷歌發(fā)言人在一封電子郵件中告訴Venture Beat，一個(gè)非性別的標(biāo)簽，如“Person”，將由Cloud VisionAPI返回。

風(fēng)險(xiǎn)毆打聯(lián)系微軟的Azure和亞馬遜的AWS，詢問(wèn)他們是否打算從他們的云A I服務(wù)中刪除性別標(biāo)簽。 當(dāng)我們聽(tīng)到回音時(shí)，我們會(huì)用更多的信息來(lái)更新這個(gè)故事。

谷歌云視覺(jué)API為客戶提供計(jì)算機(jī)視覺(jué)，以檢測(cè)對(duì)象和面部。 谷歌以前在2018年阻止了基于性別的代詞在AI工具中的使用。

當(dāng)今市場(chǎng)上的許多面部分析和面部識(shí)別系統(tǒng)預(yù)測(cè)性別，但在識(shí)別不符合性別規(guī)范的人、人和有色人種婦女方面存在挑戰(zhàn)。

科羅拉多大學(xué)去年秋天的一項(xiàng)研究發(fā)現(xiàn)，來(lái)自亞馬遜、Clarifai、微軟和其他公司的人工智能對(duì)順式性別男性和女性的準(zhǔn)確率保持在95%以上，但38%的時(shí)間錯(cuò)誤地將反式男性識(shí)別為女性。 沒(méi)有性別認(rèn)同的人100%被錯(cuò)誤識(shí)別。