研究人員將自動(dòng)文本生成器隱藏起來(lái)以防止誤用

研究人員本周宣布，他們已經(jīng)開(kāi)發(fā)出一種使用人工智能的自動(dòng)文本生成器，這是非常棒的——非常棒，目前還不公開(kāi)細(xì)節(jié)。

OpenAI開(kāi)發(fā)的軟件可以用來(lái)生成新聞故事、產(chǎn)品評(píng)論和其他類型的文章，這些文章可能比以前由計(jì)算機(jī)開(kāi)發(fā)的任何東西都更真實(shí)。

由特斯拉(Tesla)的埃隆·馬斯克(Elon Musk)、亞馬遜(Amazon)和微軟(Microsoft)支持的研究中心OpenAI表示，這款新軟件“在許多語(yǔ)言建?；鶞?zhǔn)上都實(shí)現(xiàn)了最先進(jìn)的性能”，包括總結(jié)和翻譯。

但它不會(huì)向公眾公布這個(gè)項(xiàng)目。

OpenAI的研究人員在周四的一篇博文中說(shuō):“由于我們擔(dān)心這項(xiàng)技術(shù)的惡意應(yīng)用，我們不會(huì)發(fā)布經(jīng)過(guò)訓(xùn)練的模型?！?/p>

這一消息表明，在開(kāi)發(fā)計(jì)算機(jī)生成的文本方面可能會(huì)取得突破，這些文本可能是可信的，但也有潛在的危險(xiǎn)。

研究人員表示，有很多方法可以將該程序用于邪惡的目的，包括生成假新聞、在網(wǎng)上假冒他人，以及在社交媒體上自動(dòng)生成假內(nèi)容。

在一個(gè)例子中，程序被輸入了一段關(guān)于“一群獨(dú)角獸生活在一個(gè)偏遠(yuǎn)的，以前從未被探索過(guò)的山谷中，在安第斯山脈”的內(nèi)容，并寫了一篇300字的新聞報(bào)道。

研究人員寫道:“廣大公眾將需要對(duì)他們?cè)诰W(wǎng)上找到的文本更加懷疑，就像‘深度造假’現(xiàn)象要求人們對(duì)圖片更加懷疑一樣?！鄙疃仍旒僦傅氖侨斯ぶ悄懿倏v的視頻，這種視頻的數(shù)量一直在上升。

研究人員表示，他們的這種名為GPT-2的模型“比其他語(yǔ)言模型表現(xiàn)更好”，這些語(yǔ)言模型在不需要任何專門訓(xùn)練的情況下，就能完成維基百科條目、新聞或書籍等任務(wù)。

OpenAI新聞是最新的展示計(jì)算機(jī)如何獲得語(yǔ)言能力的新聞，此前IBM的Project Debater在與專業(yè)辯論冠軍的公開(kāi)比賽中表現(xiàn)出色。