最新發(fā)現(xiàn)ChatGPT偽造看起來合理“支持”科學假說的試驗數(shù)據(jù)

2023-11-25 18:27:26 編輯：晏梁麗來源：

導讀當下發(fā)表在《美國醫(yī)學會雜志眼科學卷》雜志上的相關研究表示， ChatGPT背后的技術可以偽造看似真實有實驗數(shù)據(jù)，看上去能支持未經(jīng)驗證的科...

當下發(fā)表在《美國醫(yī)學會雜志眼科學卷》雜志上的相關研究表示， ChatGPT背后的技術可以偽造“看似真實”有實驗數(shù)據(jù)，看上去能“支持”未經(jīng)驗證的科學假說。英國《自然》雜志網(wǎng)站近日也報道，意大利卡坦扎羅大學等機構研究人員要求GPT-4，ADA創(chuàng)建一個關于圓錐角膜患者的數(shù)據(jù)集。隨后研究人員要求人工智能編造臨床數(shù)據(jù)，以支持深板層角膜移植術，比穿透性角膜移植術效果更好的結(jié)論。

通過實驗結(jié)果可以看到人工智能有偽造數(shù)據(jù)的能力。英國曼切斯特大學生物統(tǒng)計學家等人經(jīng)過檢查這些虛假數(shù)據(jù)發(fā)現(xiàn)，許多參與者性別與名字都是不匹配的。手術前以及手術后進行的視力測量及眼部成像測試之間缺乏相關性。研究人員也表示希望大家能夠?qū)@一試驗結(jié)果提起警惕。