最新發(fā)現(xiàn)ChatGPT偽造看起來(lái)合理“支持”科學(xué)假說(shuō)的試驗(yàn)數(shù)據(jù)

2023-11-25 18:27:26 編輯：晏梁麗來(lái)源：

導(dǎo)讀當(dāng)下發(fā)表在《美國(guó)醫(yī)學(xué)會(huì)雜志眼科學(xué)卷》雜志上的相關(guān)研究表示， ChatGPT背后的技術(shù)可以偽造看似真實(shí)有實(shí)驗(yàn)數(shù)據(jù)，看上去能支持未經(jīng)驗(yàn)證的科...

當(dāng)下發(fā)表在《美國(guó)醫(yī)學(xué)會(huì)雜志眼科學(xué)卷》雜志上的相關(guān)研究表示， ChatGPT背后的技術(shù)可以偽造“看似真實(shí)”有實(shí)驗(yàn)數(shù)據(jù)，看上去能“支持”未經(jīng)驗(yàn)證的科學(xué)假說(shuō)。英國(guó)《自然》雜志網(wǎng)站近日也報(bào)道，意大利卡坦扎羅大學(xué)等機(jī)構(gòu)研究人員要求GPT-4，ADA創(chuàng)建一個(gè)關(guān)于圓錐角膜患者的數(shù)據(jù)集。隨后研究人員要求人工智能編造臨床數(shù)據(jù)，以支持深板層角膜移植術(shù)，比穿透性角膜移植術(shù)效果更好的結(jié)論。

通過(guò)實(shí)驗(yàn)結(jié)果可以看到人工智能有偽造數(shù)據(jù)的能力。英國(guó)曼切斯特大學(xué)生物統(tǒng)計(jì)學(xué)家等人經(jīng)過(guò)檢查這些虛假數(shù)據(jù)發(fā)現(xiàn)，許多參與者性別與名字都是不匹配的。手術(shù)前以及手術(shù)后進(jìn)行的視力測(cè)量及眼部成像測(cè)試之間缺乏相關(guān)性。研究人員也表示希望大家能夠?qū)@一試驗(yàn)結(jié)果提起警惕。