Salesforce旨在為AI帶來更多常識

從更強大的語音和圖像識別到自動駕駛汽車，機器學(xué)習(xí)和深度學(xué)習(xí)近年來已取得了許多突破。但是，這些試圖模仿大腦工作方式的人工智能技術(shù)的一個大問題是，他們使用的神經(jīng)網(wǎng)絡(luò)不具備人們所擁有的常識性知識和上下文，例如社會習(xí)俗，物理學(xué)定律和原因和結(jié)果。

這可能會使他們的決策有時感到困惑或完全錯誤—正如使用Alexa，Google助手或任何數(shù)量的客戶支持聊天機器人的人所知道的那樣。但也許不會太久。

Salesforce.com Inc.的研究團隊今天宣布了一篇論文，概述了改善這種情況的方法。本文將在7月29日至8月的計算語言學(xué)協(xié)會年會上發(fā)表。2在佛羅倫薩，研究人員 建議不僅使用來自各種數(shù)據(jù)集的數(shù)據(jù)來訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，以如何準(zhǔn)確地回答許多問題，而且還要解釋為什么這些答案是最佳的。

Salesforce聘請了Amazon.com Inc.的Mechanical Turk眾包服務(wù)人員，以舉例說明今年早些時候由特拉維夫大學(xué)和艾倫人工智能研究所的研究人員提出的常識問答或CQA數(shù)據(jù)集。

Salesforce首席科學(xué)家Richard Socher告訴SiliconANGLE：“基本上，它可以提取大量無人監(jiān)管的[未標(biāo)記]文本，從該文本中提取常識，并為其提供推理。”

Salesforce研究科學(xué)家Nazneen Rajani補充說，令人驚訝的結(jié)果是，僅在模型訓(xùn)練階段看到人為推理的示例后，神經(jīng)網(wǎng)絡(luò)在真實測試中的表現(xiàn)要好得多。她在博客中寫道：“我們推測這些解釋捕獲了有關(guān)世界運轉(zhuǎn)方式以及網(wǎng)絡(luò)在測試時根據(jù)這些信息進行推理的有價值的信息。”

在研究的第二部分中，研究人員(包括Salesforce Research的Bryan McCann和Xiong Ximing在內(nèi))都訓(xùn)練了第二個神經(jīng)網(wǎng)絡(luò)，只是為了學(xué)習(xí)如何從大量閱讀的模仿CoS-E的人類文本的文本中生成常識性推理。產(chǎn)生的解釋。這個常識自動生成的解釋或CAGE框架在回答的準(zhǔn)確性方面做得更好，盡管它仍然遠遠落后于人類95%的準(zhǔn)確度，但65%的分?jǐn)?shù)超過了其他最新方法。

麥肯表示，他希望隨著模型對世界知識的熟悉，結(jié)果會更好。他希望這些解釋將隨著時間的推移“填補空白”。

Salesforce在論文中承認(rèn)，還需要改進的另一個領(lǐng)域，這幾天從實驗室到華盛頓特區(qū)都引起了越來越多的關(guān)注：根除數(shù)據(jù)中的偏差，從而消除了模型中的偏差。例如，在CQA中，Salesforce研究人員注意到“明顯的性別差異和偏見，在負(fù)面語境中使用的女性代詞比例更高。”

拉賈尼說，雖然可能需要在模型中而不是數(shù)據(jù)中發(fā)生，但尚不清楚如何解決這種偏差，目前尚無法清除所有偏差。McCann補充說：“我們想研究一種減少偏見的旋鈕，”但至少新工作為神經(jīng)網(wǎng)絡(luò)如何解決這種偏見提供了更好的解釋。