您的位置: 首頁 >科技 >

OpenAI發(fā)布了文本生成的AI 稱它太危險了 無法共享

2022-09-08 19:39:22 編輯:荀露婷 來源:
導讀 OpenAI研究實驗室已經(jīng)發(fā)布了文本生成的AI系統(tǒng)的完整版本,專家警告說,該系統(tǒng)可能用于惡意目的。該機構最初于今年2月發(fā)布了該系統(tǒng)GPT-2,但...

OpenAI研究實驗室已經(jīng)發(fā)布了文本生成的AI系統(tǒng)的完整版本,專家警告說,該系統(tǒng)可能用于惡意目的。

該機構最初于今年2月發(fā)布了該系統(tǒng)GPT-2,但由于擔心該程序的完整版本會被用于傳播假新聞,垃圾郵件和虛假信息,因此拒絕了該程序的完整版本。從那時起,它發(fā)布了更小,更簡單的GPT-2版本,并研究了它們的接收情況。其他人也復制了工作。在本周的博客文章中,OpenAI現(xiàn)在表示“沒有明顯的濫用證據(jù)”,并已完全發(fā)布了該模型。

GPT-2可以撰寫虛假的新聞文章,故事,詩歌和代碼

GPT-2是新一代文本生成系統(tǒng)的一部分,它們以最少的提示生成連貫的文本的能力給專家留下了深刻的印象。該系統(tǒng)接受了從網(wǎng)絡上抓取的800萬個文本文檔的培訓,并且可以響應用戶提供的文本片段。例如,給它提供一個偽造的標題,它將撰寫一個新聞故事;給它一首詩的第一行,它將提供一整節(jié)經(jīng)文。

確切地傳達GPT-2的輸出質(zhì)量是很棘手的,但是該模型通常會產(chǎn)生令人信服的,令人信服的文字,這些文字通??梢允谷丝雌饋砗苈斆?盡管這并不是說GPT-2所做的事情涉及我們認為是認知的任何事情) 。但是,在該系統(tǒng)上玩了足夠長的時間,其局限性變得很明顯。它尤其遭受長期一致性的挑戰(zhàn);例如,在故事中始終使用字符的名稱和屬性,或者在新聞文章中使用單個主題。

感受GPT-2的能力的最佳方法是自己嘗試一下。您可以在TalkToTransformer.com上訪問Web版本,然后輸入自己的提示。(“變壓器”是用于創(chuàng)建GPT-2及其同伴的機器學習體系結構的組成部分。)

除了GPT-2的原始功能外,該模型的發(fā)布還值得關注,這是有關AI研究人員減輕其工作造成的損害的責任的持續(xù)辯論的一部分。專家指出,對尖端AI工具的輕松訪問可以使惡意行為者發(fā)動攻擊。例如,通過使用Deepfake制作復仇色情影片,我們已經(jīng)看到了這種動態(tài)。由于這種擔憂,OpenAI限制了其模型的發(fā)布。

但是,并非所有人都對實驗室的方法表示贊賞。許多專家批評了這一決定,稱該決定限制了其他人為減輕該模型的危害而進行的研究的數(shù)量,并且對人工智能的危險進行了不必要的大肆宣傳。

“這句話‘太危險了’被隨便扔在這里沒有很多的思想或?qū)嶒灥模?rdquo;研究員Delip饒告訴瀕臨二月回來。“我認為[OpenAI]花費的時間不足以證明它實際上是危險的。”


免責聲明:本文由用戶上傳,如有侵權請聯(lián)系刪除!

最新文章

精彩推薦

圖文推薦

點擊排行

2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復制必究 聯(lián)系QQ280 715 8082   備案號:閩ICP備19027007號-6

本站除標明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權歸原作者所有。