為防止AI“失控” OpenAI宣布重大措施

在美國當(dāng)?shù)貢r(shí)間2023年的7月5日chat GPT人工智能語言大模型的開發(fā)商open AI公司正式宣布公司將要投入部分的資源，用來組建一支新的研發(fā)團(tuán)隊(duì)，為了防止人工智能失去控制，確保人工智能對于人類社會(huì)沒有任何威脅，讓人工智能技術(shù)可以隨時(shí)受到監(jiān)督。

OpenAI聯(lián)合創(chuàng)始人伊利亞·蘇斯克維爾在當(dāng)?shù)貢r(shí)間7月5日發(fā)表的文章中主要是超級人工智能在未來的發(fā)展前景，已經(jīng)遠(yuǎn)遠(yuǎn)超乎了目前的預(yù)料，如果沒有受到一定管制的話，那么很有可能會(huì)對人類社會(huì)造成一定的威脅，嚴(yán)重的情況下人類都可能因此滅絕，截止到目前為止，公司還沒有一套完善的措施來徹底解決人工智能技術(shù)。另外他預(yù)計(jì)比人類智商更高的人工智能在2030年之前就有可能被研發(fā)出來，現(xiàn)在社會(huì)各界的科技企業(yè)都應(yīng)該共同合作，在此之前研發(fā)出更加嚴(yán)格的監(jiān)管措施，來控制這些超級人工智能。

Open AI公司表示在未來4年的時(shí)間內(nèi)，公司所獲得的20%的算力都會(huì)用在解決人工智能失控的問題中，另外公司還會(huì)特別成立一支研發(fā)團(tuán)隊(duì)專門負(fù)責(zé)監(jiān)管人工智能，公司將這支團(tuán)隊(duì)稱之為超級一致性團(tuán)隊(duì)，目的就是為了打造一個(gè)能夠隨時(shí)監(jiān)管人工智能技術(shù)的研究人員團(tuán)隊(duì)，再加上公司強(qiáng)大的算力基礎(chǔ)進(jìn)一步擴(kuò)大監(jiān)管的范圍。

AI安全擁護(hù)者康納·萊希表示open AI公司所提出的監(jiān)管措施存在著一定的漏洞，因?yàn)楝F(xiàn)在已經(jīng)達(dá)到人類水平的人工智能技術(shù)很有可能在沒有研發(fā)出完善的監(jiān)管措施之前，就已經(jīng)對人類社會(huì)造成了一定的威脅和破壞，所以在打造人類水平的人工智能之前，就必須要解決一致性的問題，這樣才能夠徹底將人工智能控制。