在人與機器之間建立更好的信任

隨著機器變得更加智能化，它們會嵌入生活的無數(shù)方面。在某些方面，他們幾乎可以扮演人機團(tuán)隊中的正式成員。在這種情況下，與任何團(tuán)隊一樣，信任是良好績效的必要因素。

但人與機器之間的信任動態(tài)尚未得到充分了解。通過SUTD-MIT博士后研究員項目資助的兩年項目，麻省理工學(xué)院與新加坡科技與設(shè)計大學(xué)(SUTD)，博士后Xi Jessie Yang，麻省理工學(xué)院航空航天系助理教授Julie Shah和SUTD合作工程產(chǎn)品開發(fā)KatjaHölttä-Otto教授旨在發(fā)展該領(lǐng)域的更多知識。在她的團(tuán)契期間，楊在SUTD擔(dān)任了一年的博士后，現(xiàn)在正在麻省理工學(xué)院的第二年完成她的研究。她和她的導(dǎo)師希望他們的努力將有助于更好的用戶界面設(shè)計和更好的人機團(tuán)隊績效。

有些任務(wù)可以通過機器或機器的輔助而不僅僅是人類來更有效地完成。但機器可能會出錯，特別是在不確定性和模糊性的情況下。因此，正確校準(zhǔn)對機器的信任是良好的人機團(tuán)隊績效的先決條件。

各種因素交叉在一起，以確定人類信任機器的程度，以及它們對給定任務(wù)的執(zhí)行程度。這些因素包括機器的可靠性，人類的自信程度以及并發(fā)工作量(即人類負(fù)責(zé)同時執(zhí)行的任務(wù)數(shù)量)。梳理任何一個因素的影響可能具有挑戰(zhàn)性，但通過復(fù)雜的實驗設(shè)計，Yang，Shah和Hölttä-Otto已經(jīng)能夠以更現(xiàn)實的方式處理該主題，處理機器的不完善并隔離各種因素。人機信任關(guān)系研究其影響。

在SUTD，Yang和Hölttä-Otto設(shè)計了一個實驗，涉及一個人類參與者在自動決策輔助的幫助下執(zhí)行記憶和識別任務(wù)。在實驗中，參與者記住了一系列圖像，然后在類似圖像池中識別它們。決策輔助工具為圖像選擇提供了建議，對某些人來說非?？煽?，對其他人則不那么可靠。結(jié)果顯示，參與者傾向于使用高度可靠的輔助工具并推翻高度不可靠的輔助工具。隨著人們使用決策輔助獲得更多經(jīng)驗，信任可靠性校準(zhǔn)也得到了改善。

在麻省理工學(xué)院，Yang和Shah探討了界面設(shè)計如何促進(jìn)信任可靠性校準(zhǔn)。Yang和Shah特別感興趣的是可能性警報顯示的潛在好處。與僅指示“威脅”或“無威脅”的傳統(tǒng)二進(jìn)制警報相反，可能性警報提供關(guān)于警報事件的置信水平和緊急性的附加信息。Yang和Shah認(rèn)為，可能性警報將有助于減輕“哭狼”效應(yīng)，這種現(xiàn)象在高風(fēng)險行業(yè)中常見。在這些行業(yè)中，觸發(fā)警報的閾值通常設(shè)置得非常低，以便捕獲每個關(guān)鍵事件。然而，低閾值不可避免地導(dǎo)致錯誤警報，這導(dǎo)致人類用戶失去對警報系統(tǒng)的信任并最終損害任務(wù)性能。

在目前正在進(jìn)行的另一項實驗中，Yang和Shah模擬了一個多任務(wù)場景，其中參與者充當(dāng)士兵來執(zhí)行搜索和檢測任務(wù)。他們必須保持四架無人駕駛飛行器(UAV)的水平飛行，同時檢測從無人機發(fā)回的照片流中的潛在威脅。二進(jìn)制警報或可能性警報可幫助參與者完成其任務(wù)。后者可能會減輕“哭狼”效應(yīng)，并提高參與者的注意力分配，并提高人機團(tuán)隊的表現(xiàn)。

最終，這項研究可以幫助實現(xiàn)跨越許多領(lǐng)域的機器人和人工智能開發(fā)，從應(yīng)用，如實驗?zāi)M，醫(yī)療診斷到機場安全。

“缺乏信任往往被認(rèn)為是更廣泛使用AI和自治系統(tǒng)的關(guān)鍵障礙之一，”Shah說。“這些研究表明，增加用戶對系統(tǒng)的信任并不是正確的目標(biāo)。相反，我們需要新的方法來幫助人們適當(dāng)?shù)匦?zhǔn)他們對系統(tǒng)的信任，特別是考慮到這些系統(tǒng)總是不完美的。”

楊將于今年7月在第7屆應(yīng)用人因和人體工程學(xué)國際會議上展示她的研究成果，以及9月份人類因素和人體工程學(xué)學(xué)會第60屆年會。

SUTD-MIT博士后研究員計劃只是麻省理工學(xué)院和SUTD合作的一個方面。