您的位置: 首頁 >科技 >

新型AI代理會自動實時生成自然語言解釋

2022-09-02 12:05:05 編輯:文友清 來源:
導(dǎo)讀 小編發(fā)現(xiàn)不少朋友對于 新型AI代理會自動實時生成自然語言解釋 這方面的信息都比較感興趣,小編就針對 新型AI代理會自動實時生成自然語言...

小編發(fā)現(xiàn)不少朋友對于 新型AI代理會自動實時生成自然語言解釋 這方面的信息都比較感興趣,小編就針對 新型AI代理會自動實時生成自然語言解釋 整理了一些相關(guān)方面的信息 在這里分享給大家。

喬治亞理工學(xué)院開發(fā)的AI代理會自動實時自動生成自然語言解釋,以解釋其行為背后的動機,理想情況下,那些不是該領(lǐng)域?qū)<业娜丝梢愿孕诺嘏cAI工具進行交互。

該項目由佐治亞理工學(xué)院互動計算學(xué)院的博士候選人Upol Ehsan率先。

Ehsan在致力于新技術(shù)的博客文章中寫道:“人工智能幾乎沒有人為因素。” “它是人類為人類設(shè)計的,從培訓(xùn)到測試再到使用。因此,人工智能系統(tǒng)必須是人類可理解的。令人遺憾的是,隨著基于AI的系統(tǒng)變得越來越復(fù)雜,最終用戶的決策制定往往變得更加“黑匣子”,從而阻礙了信任。”

Ehsan和他的同事與康奈爾大學(xué)和肯塔基大學(xué)的研究人員一起設(shè)計了一個AI代理,該代理可以玩經(jīng)典的街機游戲Frogger,并在屏幕上產(chǎn)生解釋以證明其在游戲中的作用。Frogger的目標(biāo)是讓卡通青蛙安全地回家,而不會被車輛撞到或淹沒在河中。

一群被視為AI的研究參與者參加了游戲,并被要求對每個AI動作的屏幕上基本原理進行評級和排名。一種解釋是由人類撰寫的,一種是由AI生成的,一種是隨機生成的;所有這些都是根據(jù)信心,人性,行動的充分理由及其可理解性來判斷的。

Ehsan和他的團隊報告說,盡管人為做出的回應(yīng)仍然是參與者最喜歡的蛋糕,但AI產(chǎn)生的解釋緊隨其后。當(dāng)參與者表現(xiàn)出對環(huán)境條件和適應(yīng)性的認(rèn)可,并傳達(dá)對即將到來的危險的意識并為之預(yù)先計劃時,他們在AI產(chǎn)生的基本原理中排名較高。多余或明顯的答復(fù)排名最低。

一項后續(xù)研究將人類排除在外,要求參與者對一組AI生成的響應(yīng)進行排名,在AI犯錯或行為異常的情況下,他們傾向于使用這些響應(yīng)。理論依據(jù)既簡潔又有針對性,也可能是整體性的,更多地側(cè)重于游戲的背景。

參與者傾向于以3比1的比例整體回答,這表明他們贊賞AI對未來步驟的思考,而不是立即做出決定。

Ehsan寫道:“該項目提供了對AI代理的基礎(chǔ)理解,可以模仿大聲思考。” “可能的未來方向包括了解人類可以對AI產(chǎn)生的解釋提出異議時會發(fā)生什么。研究人員還將研究代理商在不同情況下的反應(yīng)方式,例如在緊急情況下或在教室中協(xié)助老師時。”

Ehsan等人的工作在計算機協(xié)會2020年智能用戶界面大會上進行了介紹。


免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!

最新文章

精彩推薦

圖文推薦

點擊排行

2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ280 715 8082   備案號:閩ICP備19027007號-6

本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。