AI情感識別不可信任

隨著人工智能被用來做出更多關(guān)于我們生活的決定，工程師們已經(jīng)找到了使其更具情感智慧的方法。這意味著自動化人類自然產(chǎn)生的一些情感任務(wù) - 最明顯的是，看著一個人的臉并知道他們的感受。

為實(shí)現(xiàn)這一目標(biāo)，微軟，IBM和亞馬遜等科技公司都出售他們所謂的“情感識別”算法，這種算法可以推斷人們基于面部分析的感受。例如，如果有人皺眉，噘起嘴唇，就意味著他們生氣了。如果他們的眼睛很寬，他們的眉毛就會抬起，嘴巴張得很緊，這意味著他們會害怕，等等。

客戶可以通過各種方式使用這種技術(shù)，構(gòu)建從尋找“憤怒”威脅的自動化監(jiān)控系統(tǒng)到有望淘汰無聊和不感興趣的候選人的求職面試軟件。

但我們可以很容易地根據(jù)他們看起來如何看待人們的感覺是有爭議的，并且對該研究的一項重要的新評論表明，沒有堅定的科學(xué)理由。

“公司可以說任何他們想要的東西，但數(shù)據(jù)很清楚，”東北大學(xué)心理學(xué)教授，該評論的五位作者之一Lisa Feldman Barrett告訴The Verge。“他們可以發(fā)現(xiàn)一個皺眉，但這與檢測憤怒不是一回事。”

該評價由心理科學(xué)協(xié)會委托，并要求該領(lǐng)域的五位杰出科學(xué)家仔細(xì)檢查證據(jù)。每位評論家都代表了情感科學(xué)領(lǐng)域的不同理論陣營。“我們不確定我們是否能夠就數(shù)據(jù)達(dá)成共識，但我們做到了，”巴雷特說。他們花了兩年時間來檢查數(shù)據(jù)，審查了1000多項不同的研究。

他們的發(fā)現(xiàn)很詳細(xì) - 可以在這里完整閱讀- 但基本的總結(jié)是，情緒以多種方式表達(dá)，這使得很難可靠地從一組簡單的面部動作中推斷出某人的感受。

“人們平均而言，數(shù)據(jù)顯示，當(dāng)他們生氣時，不到30%的時間都會皺起眉頭，”巴雷特說。“所以愁眉苦臉不是憤怒的表現(xiàn); 他們是憤怒的表達(dá) - 許多人之一。這意味著超過70%的時間，人們生氣時不會皺眉。最重要的是，當(dāng)他們不 生氣時，他們會經(jīng)常皺眉。“

“你真的希望在此基礎(chǔ)上確定結(jié)果嗎?”

反過來，這意味著使用人工智能以這種方式評估人們情緒的公司會誤導(dǎo)消費(fèi)者。“你真的希望在此基礎(chǔ)上確定結(jié)果嗎?”巴雷特說。“你想在法庭，雇用情況，醫(yī)療診斷，還是在機(jī)場......那里算法準(zhǔn)確率只有30%的時間?”

當(dāng)然，評論并不否認(rèn)可能存在普通或“原型”的面部表情，也不否認(rèn)我們對面部表情的交際能力的信念在社會中起著巨大的作用。(不要忘記，當(dāng)我們親眼看到人們時，我們有更多關(guān)于情緒背景的信息，而不是簡單的面部分析。)

該評論認(rèn)識到情緒研究領(lǐng)域存在著各種各樣的信念。具體而言，它反駁的是通過表達(dá)可靠地“指紋識別”情緒的想法，這種理論源于20世紀(jì)60年代心理學(xué)家保羅·?？寺?以及?？寺阅菚r起開發(fā)的)的工作。

研究表明，某些面部表情與情緒之間存在強(qiáng)烈相關(guān)性的研究往往在方法上存在缺陷。例如，他們使用演員拉著夸張的面孔作為情感“看起來”的起點(diǎn)。當(dāng)要求測試對象標(biāo)記這些表達(dá)時，他們經(jīng)常被要求從有限的情緒選擇中進(jìn)行選擇，從而推動他們達(dá)成某種共識。

巴雷特說，人們直觀地理解情緒比這更復(fù)雜。“當(dāng)我對人們說，'有時你會憤怒地喊，有時候你會憤怒地哭，有時候你會笑，有時你會靜靜地坐著，計劃你的敵人的死亡，'這說服了他們，”她說。“我說，'聽著，當(dāng)他們生氣的時候，有人因?yàn)榘櫭级A得奧斯卡獎?沒有人認(rèn)為這是偉大的表演。“

然而，這些微妙之處很少被出售情感分析工具的公司所承認(rèn)。在市場對微軟的算法，例如，該公司表示，在人工智能的進(jìn)步使得其軟件“認(rèn)八大核心情緒狀態(tài)......根據(jù)反映這些感受，普遍的面部表情”，這是確切的要求，這次審查駁斥。

當(dāng)然，這不是一個新的批評。巴雷特和其他人一直警告多年來，我們的情感識別的模型過于簡單。作為回應(yīng)，銷售這些工具的公司經(jīng)常說他們的分析是基于更多的信號，而不僅僅是面部表情。困難在于知道這些信號如何平衡，如果有的話。

這個價值200億美元的情感識別市場中的領(lǐng)先公司之一Affectiva 表示，它正在嘗試收集更多指標(biāo)。例如，去年，它推出了一種工具，通過結(jié)合面部和語音分析來衡量駕駛員的情緒。其他研究人員正在研究步態(tài)分析和眼動追蹤等指標(biāo)。

在一份聲明中，Affectiva首席執(zhí)行官兼聯(lián)合創(chuàng)始人Rana el Kaliouby表示，這次審查與該公司的工作“非常一致”。“就像本文的作者一樣，我們不喜歡這個行業(yè)的天真，它注重于6種基本情緒和面部表情與情緒狀態(tài)的原型一對一映射，”el Kaliouby說。“表達(dá)與情感的關(guān)系非常細(xì)微，復(fù)雜而不是原型。”

Barrett相信，通過更復(fù)雜的指標(biāo)，我們將能夠更準(zhǔn)確地衡量未來的情緒。“我絕對相信這是可能的，”她說。但這并不一定會阻止目前??有限的技術(shù)擴(kuò)散。

AI非常適合在數(shù)據(jù)中查找虛假連接

特別是在機(jī)器學(xué)習(xí)的情況下，我們經(jīng)常會看到用于制定決策的指標(biāo) - 不是因?yàn)樗鼈兛煽?，而是因?yàn)樗鼈兛梢员缓饬?。這是一種擅長尋找聯(lián)系的技術(shù)，這可能會導(dǎo)致各種虛假的分析：從掃描保姆的社交媒體帖子到檢測他們的“態(tài)度”，分析公司財報記錄，試圖預(yù)測股票價格。通常，人工智能的提及給人一種不值得信任的外表。

如果情緒識別變得普遍，那么我們就會接受它并改變我們的行為以適應(yīng)其失敗。就像人們現(xiàn)在的行為知識一樣，他們在網(wǎng)上做的事情會被各種算法解釋(例如，選擇不喜歡Instagram上的某些圖片，因?yàn)樗鼤绊懩愕膹V告)，我們最終可能會因?yàn)槲覀兊目鋸埫娌勘砬橹浪鼈儗⑷绾伪粰C(jī)器解釋。這與向其他人發(fā)出信號的情況并無太大差別。

巴雷特說，或許從評論中最重要的一點(diǎn)是，我們需要以更復(fù)雜的方式思考情緒。情緒的表達(dá)是多種多樣的，復(fù)雜的和情境的。她將所需的思維變化與查爾斯達(dá)爾文關(guān)于物種性質(zhì)的研究以及他的研究如何推翻了對動物王國的簡單化觀點(diǎn)進(jìn)行了比較。

“達(dá)爾文認(rèn)識到物種的生物類別沒有本質(zhì)，它是一類高度可變的個體，”巴雷特說。“情緒類別完全相同。”