您的位置: 首頁 >科技 >

Salesforce旨在為AI帶來更多常識

2022-08-25 20:08:21 編輯:卞弘罡 來源:
導(dǎo)讀 從更強大的語音和圖像識別到自動駕駛汽車,機器學(xué)習(xí)和深度學(xué)習(xí)近年來已取得了許多突破。但是,這些試圖模仿大腦工作方式的人工智能技術(shù)的一...

從更強大的語音和圖像識別到自動駕駛汽車,機器學(xué)習(xí)和深度學(xué)習(xí)近年來已取得了許多突破。但是,這些試圖模仿大腦工作方式的人工智能技術(shù)的一個大問題是,他們使用的神經(jīng)網(wǎng)絡(luò)不具備人們所擁有的常識性知識和上下文,例如社會習(xí)俗,物理學(xué)定律和原因和結(jié)果。

這可能會使他們的決策有時感到困惑或完全錯誤—正如使用Alexa,Google助手或任何數(shù)量的客戶支持聊天機器人的人所知道的那樣。但也許不會太久。

Salesforce.com Inc.的研究團隊今天宣布了一篇論文,概述了改善這種情況的方法。本文將在7月29日至8月的計算語言學(xué)協(xié)會年會上發(fā)表。2在佛羅倫薩,研究人員 建議不僅使用來自各種數(shù)據(jù)集的數(shù)據(jù)來訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型,以如何準(zhǔn)確地回答許多問題,而且還要解釋為什么這些答案是最佳的。

Salesforce聘請了Amazon.com Inc.的Mechanical Turk眾包服務(wù)人員,以舉例說明今年早些時候由特拉維夫大學(xué)和艾倫人工智能研究所的研究人員提出的常識問答或CQA數(shù)據(jù)集。

Salesforce首席科學(xué)家Richard Socher告訴SiliconANGLE:“基本上,它可以提取大量無人監(jiān)管的[未標(biāo)記]文本,從該文本中提取常識,并為其提供推理。”

Salesforce研究科學(xué)家Nazneen Rajani補充說,令人驚訝的結(jié)果是,僅在模型訓(xùn)練階段看到人為推理的示例后,神經(jīng)網(wǎng)絡(luò)在真實測試中的表現(xiàn)要好得多。她在博客中寫道:“我們推測這些解釋捕獲了有關(guān)世界運轉(zhuǎn)方式以及網(wǎng)絡(luò)在測試時根據(jù)這些信息進行推理的有價值的信息。”

在研究的第二部分中,研究人員(包括Salesforce Research的Bryan McCann和Xiong Ximing在內(nèi))都訓(xùn)練了第二個神經(jīng)網(wǎng)絡(luò),只是為了學(xué)習(xí)如何從大量閱讀的模仿CoS-E的人類文本的文本中生成常識性推理。產(chǎn)生的解釋。這個常識自動生成的解釋或CAGE框架在回答的準(zhǔn)確性方面做得更好,盡管它仍然遠遠落后于人類95%的準(zhǔn)確度,但65%的分?jǐn)?shù)超過了其他最新方法。

麥肯表示,他希望隨著模型對世界知識的熟悉,結(jié)果會更好。他希望這些解釋將隨著時間的推移“填補空白”。

Salesforce在論文中承認(rèn),還需要改進的另一個領(lǐng)域,這幾天從實驗室到華盛頓特區(qū)都引起了越來越多的關(guān)注:根除數(shù)據(jù)中的偏差,從而消除了模型中的偏差。例如,在CQA中,Salesforce研究人員注意到“明顯的性別差異和偏見,在負(fù)面語境中使用的女性代詞比例更高。”

拉賈尼說,雖然可能需要在模型中而不是數(shù)據(jù)中發(fā)生,但尚不清楚如何解決這種偏差,目前尚無法清除所有偏差。McCann補充說:“我們想研究一種減少偏見的旋鈕,”但至少新工作為神經(jīng)網(wǎng)絡(luò)如何解決這種偏見提供了更好的解釋。


免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!

精彩推薦

圖文推薦

點擊排行

2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ280 715 8082   備案號:閩ICP備19027007號-6

本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。