互聯(lián)網(wǎng)提供了建設(shè)性對(duì)話(huà)與合作的潛力

互聯(lián)網(wǎng)提供了建設(shè)性對(duì)話(huà)與合作的潛力，但在線(xiàn)對(duì)話(huà)往往會(huì)淪為人身攻擊。希望能夠避免這些攻擊，康奈爾大學(xué)的研究人員已經(jīng)創(chuàng)建了一個(gè)模型來(lái)預(yù)測(cè)哪些民事談話(huà)可能會(huì)發(fā)生毒性轉(zhuǎn)變。

在對(duì)維基百科上的數(shù)百個(gè)交易所進(jìn)行分析后，研究人員開(kāi)發(fā)了一個(gè)計(jì)算機(jī)程序，用于掃描紅旗 - 例如重復(fù)，直接提問(wèn)和在前兩個(gè)帖子中使用“你”這個(gè)詞 - 來(lái)預(yù)測(cè)最初的民事談話(huà)會(huì)出錯(cuò)。

研究發(fā)現(xiàn)，早期的交流包括問(wèn)候，表達(dá)感激之情，諸如“似乎”的對(duì)沖以及“我”和“我們”這兩個(gè)詞更可能保持文明。

“有數(shù)百萬(wàn)次這些討論，你不可能現(xiàn)場(chǎng)監(jiān)控它們。這個(gè)系統(tǒng)可能會(huì)幫助人類(lèi)主持人更好地引導(dǎo)他們的注意力，”信息科學(xué)助理教授兼共同作者克里斯蒂安·丹尼斯庫(kù) - 尼庫(kù)列斯庫(kù) - 米齊爾說(shuō)。文章“對(duì)話(huà)失敗：發(fā)現(xiàn)會(huì)話(huà)失敗的早期跡象”。

“我們?nèi)祟?lèi)對(duì)如何檢測(cè)某些事情是否變壞有直覺(jué)，但這只是一種懷疑。我們不能百分之百地做到這一點(diǎn)。因此，我們想知道我們是否可以建立系統(tǒng)來(lái)復(fù)制這種直覺(jué)，因?yàn)槿祟?lèi)既昂貴又忙碌，我們認(rèn)為這是計(jì)算機(jī)有可能超越人類(lèi)的問(wèn)題，“Danescu-Niculescu-Mizil說(shuō)。

計(jì)算機(jī)模型也考慮了Google的Perspective，這是一種用于評(píng)估“毒性”的機(jī)器學(xué)習(xí)工具，大約65%的時(shí)間是正確的。人類(lèi)在72%的時(shí)間里正確猜對(duì)了。

人們可以測(cè)試自己的能力來(lái)猜測(cè)哪些對(duì)話(huà)會(huì)在在線(xiàn)測(cè)驗(yàn)中脫軌。

該研究分析了1,270個(gè)對(duì)話(huà)，這些對(duì)話(huà)是從民間開(kāi)始但墮落為個(gè)人攻擊，從1600萬(wàn)個(gè)維基百科“談話(huà)”頁(yè)面中的5000萬(wàn)個(gè)對(duì)話(huà)中挑選出來(lái)，編輯們討論文章或其他問(wèn)題。他們成對(duì)地檢查了交換，比較了每個(gè)在同一個(gè)主題上取得成功的會(huì)話(huà)，所以結(jié)果并沒(méi)有受到政治等敏感主題的影響。

該論文與康奈爾大學(xué)博士共同撰寫(xiě)。信息科學(xué)專(zhuān)業(yè)學(xué)生Justine Zhang; 博士 計(jì)算機(jī)科學(xué)專(zhuān)業(yè)的學(xué)生Jonathan P. Chang和Yiqing Hua; Jigsaw的Lucas Dixon和Nithum Thain; 維基媒體基金會(huì)的Dario Taraborelli將于7月15日至20日在澳大利亞墨爾本舉行的計(jì)算語(yǔ)言學(xué)協(xié)會(huì)年會(huì)上發(fā)表演講。

研究人員希望這種模式可用于拯救風(fēng)險(xiǎn)對(duì)話(huà)并改善在線(xiàn)對(duì)話(huà)，而不是禁止特定用戶(hù)或?qū)彶槟承┲黝}。一些在線(xiàn)海報(bào)，例如非母語(yǔ)英語(yǔ)使用者，可能沒(méi)有意識(shí)到他們可能被認(rèn)為是攻擊性的，這種系統(tǒng)的警告可以幫助他們自我調(diào)整。

“如果我有找到人身攻擊的工具，那已經(jīng)太晚了，因?yàn)楣粢呀?jīng)發(fā)生，人們已經(jīng)看到了，”Chang說(shuō)。“但是，如果你理解這次談話(huà)朝著一個(gè)糟糕的方向前進(jìn)并采取行動(dòng)，那么這可能會(huì)讓這個(gè)地方更加歡迎。”