OpenAI發(fā)布強(qiáng)大的文本生成器

人工智能實(shí)驗(yàn)室OpenAI宣布將為自然語(yǔ)言處理提供功能強(qiáng)大的新型神經(jīng)網(wǎng)絡(luò)，并向公眾限量發(fā)行。

該實(shí)驗(yàn)室由埃隆·馬斯克(Elon Musk)創(chuàng)立，最近獲得了微軟10億美元的資助，該實(shí)驗(yàn)室設(shè)計(jì)了文本生成器，它們創(chuàng)建的可讀段落與人類(lèi)書(shū)寫(xiě)的段落幾乎沒(méi)有區(qū)別。

OpenAI的機(jī)器學(xué)習(xí)方法從Web上抓取大量數(shù)據(jù)，并對(duì)其進(jìn)行分析以得到統(tǒng)計(jì)模式，從而使其能夠現(xiàn)實(shí)地預(yù)測(cè)下一個(gè)字母或單詞可能會(huì)被寫(xiě)成什么。

當(dāng)用戶(hù)向生成器中輸入單詞或短語(yǔ)或更長(zhǎng)的文本片段時(shí)，它會(huì)以令人信服的人性化文本擴(kuò)展到單詞上。結(jié)果可用于創(chuàng)建故事，解決閱讀理解練習(xí)，回答問(wèn)題，總結(jié)論文甚至下棋，解決數(shù)學(xué)問(wèn)題或創(chuàng)建基于文本的地下城場(chǎng)景。

文本生成器稱(chēng)為GPT-3，它依賴(lài)于一個(gè)龐大的數(shù)據(jù)庫(kù)，該數(shù)據(jù)庫(kù)包含通過(guò)掃描網(wǎng)絡(luò)帖子和數(shù)字圖書(shū)收集的近一萬(wàn)億個(gè)單詞。微軟為該項(xiàng)目建造了一個(gè)擁有數(shù)十萬(wàn)個(gè)處理器的超級(jí)計(jì)算機(jī)。

該程序精通??創(chuàng)造事實(shí)段落和小說(shuō)作品。實(shí)際上，早期版本的文本生成器非常擅長(zhǎng)創(chuàng)建原始文本，以至于引起了創(chuàng)作者的關(guān)注，以至于它可能被用于邪惡目的，例如在網(wǎng)絡(luò)上散布虛假新聞報(bào)導(dǎo)或參與旨在通過(guò)欺詐手段欺騙消費(fèi)者的方案虛假的在線(xiàn)聊天。

這些擔(dān)憂(yōu)導(dǎo)致OpenAI在2019年2月采取了不同尋常的步驟，拒絕發(fā)布早期版本GPT-2，理由是擔(dān)心潛在的濫用可能會(huì)造成危險(xiǎn)。

OpenAI政策主管杰克·克拉克(Jack Clark)當(dāng)時(shí)說(shuō)：“我們需要進(jìn)行試驗(yàn)，以找出他們可以做什么和不能做什么。”“如果無(wú)法預(yù)測(cè)模型的全部功能，則必須對(duì)其進(jìn)行生產(chǎn)以了解其功能。比我們更多的人更擅長(zhǎng)于思考它可以惡意地做什么。”

該程序最終向公眾發(fā)布，并且從未意識(shí)到OpenAI的最嚴(yán)重的擔(dān)憂(yōu)。

現(xiàn)在，更新的GPT-3可以通過(guò)商業(yè)途徑租借給數(shù)量有限的來(lái)源。

根據(jù)OpenAI報(bào)告，GPT-3的性能是GPT-2的100倍左右，在測(cè)試中表現(xiàn)出色。它解決了閱讀壓縮練習(xí)，該練習(xí)需要填寫(xiě)單詞空白，解決“即時(shí)推理”并生成多達(dá)500個(gè)單詞的作品。

Google已將此技術(shù)應(yīng)用于處理復(fù)雜搜索查詢(xún)的算法。Microsoft在其Office產(chǎn)品中使用該程序來(lái)不斷改進(jìn)語(yǔ)法檢查功能。

OpenAI仍然擔(dān)心濫用行為，例如偽造新聞發(fā)布，垃圾郵件和網(wǎng)絡(luò)釣魚(yú)。他們的在線(xiàn)論文指出：“我們將針對(duì)明顯有害的用例終止API訪問(wèn)，例如騷擾，垃圾郵件，激進(jìn)化或令人生厭的[掩蓋消息背后的人]。但是我們也知道我們無(wú)法預(yù)見(jiàn)所有可能的情況這項(xiàng)技術(shù)的后果，因此我們今天以非公開(kāi)Beta版(測(cè)試版)推出產(chǎn)品，而不是全面上市。”

只能通過(guò)邀請(qǐng)?jiān)L問(wèn)GPT-3 API。早期用戶(hù)包括自然語(yǔ)言網(wǎng)絡(luò)搜索公司Algolia，心理健康社交網(wǎng)絡(luò)Koko和人工智能聊天機(jī)器人“伴侶”創(chuàng)建者Replika。