人類(lèi)怎樣監(jiān)督AI OpenAI建議用弱AI監(jiān)督強(qiáng)AI

2023-12-21 14:01:21 編輯：嵇萱寧來(lái)源：

導(dǎo)讀當(dāng)?shù)貢r(shí)間12月18日，OpenAI宣布一套全新的監(jiān)管框架，對(duì)奧特曼的權(quán)力進(jìn)行制約。在新的框架下，有新的安全團(tuán)隊(duì)，將會(huì)定期向董事會(huì)匯報(bào)安全隱患...

當(dāng)?shù)貢r(shí)間12月18日，OpenAI宣布一套全新的監(jiān)管框架，對(duì)奧特曼的權(quán)力進(jìn)行制約。在新的框架下，有新的安全團(tuán)隊(duì)，將會(huì)定期向董事會(huì)匯報(bào)安全隱患，雖然奧特曼可以發(fā)表意見(jiàn)，但董事會(huì)也可以根據(jù)安全報(bào)告做一票否決。在本月14日，OpenAI團(tuán)隊(duì)“超級(jí)對(duì)齊”剛剛發(fā)布第1篇論文，論文結(jié)果顯示用能力較弱的GPT-2來(lái)監(jiān)督能力更強(qiáng)的GPT-4模型具有一定可行性。團(tuán)隊(duì)負(fù)責(zé)人表示，AI在未來(lái)10年內(nèi)會(huì)發(fā)展到比人類(lèi)更聰明的地步。

如果完全依靠GPT-2監(jiān)督新模型的訓(xùn)練和學(xué)習(xí)，那么新模型能夠達(dá)到的水平會(huì)介于GPT-3到GPT-3.5之間，加上少量的人工監(jiān)督模型的水平就能夠達(dá)到GPT-4。研究證明，未來(lái)AI模型可以在完全脫離人類(lèi)監(jiān)管的情況下變得比弱小監(jiān)管者更加聰明，但同時(shí)也有一定的限制條件，需要一步步解決。