最新發(fā)現(xiàn)ChatGPT偽造看起來合理“支持”科學(xué)假說的試驗數(shù)據(jù)

2023-11-25 18:27:26 編輯：晏梁麗來源：

導(dǎo)讀當(dāng)下發(fā)表在《美國醫(yī)學(xué)會雜志眼科學(xué)卷》雜志上的相關(guān)研究表示， ChatGPT背后的技術(shù)可以偽造看似真實有實驗數(shù)據(jù)，看上去能支持未經(jīng)驗證的科...

當(dāng)下發(fā)表在《美國醫(yī)學(xué)會雜志眼科學(xué)卷》雜志上的相關(guān)研究表示， ChatGPT背后的技術(shù)可以偽造“看似真實”有實驗數(shù)據(jù)，看上去能“支持”未經(jīng)驗證的科學(xué)假說。英國《自然》雜志網(wǎng)站近日也報道，意大利卡坦扎羅大學(xué)等機構(gòu)研究人員要求GPT-4，ADA創(chuàng)建一個關(guān)于圓錐角膜患者的數(shù)據(jù)集。隨后研究人員要求人工智能編造臨床數(shù)據(jù)，以支持深板層角膜移植術(shù)，比穿透性角膜移植術(shù)效果更好的結(jié)論。

通過實驗結(jié)果可以看到人工智能有偽造數(shù)據(jù)的能力。英國曼切斯特大學(xué)生物統(tǒng)計學(xué)家等人經(jīng)過檢查這些虛假數(shù)據(jù)發(fā)現(xiàn)，許多參與者性別與名字都是不匹配的。手術(shù)前以及手術(shù)后進行的視力測量及眼部成像測試之間缺乏相關(guān)性。研究人員也表示希望大家能夠?qū)@一試驗結(jié)果提起警惕。