大模型興起使學(xué)術(shù)造假更易于操作？專訪施普林格·自然科研智訊副總裁：AI同樣能幫助識(shí)別造假

每經(jīng)記者 石雨昕    每經(jīng)編輯 陳旭    

4月28日，由北京市科學(xué)技術(shù)委員會(huì)、中關(guān)村科技園區(qū)管理委員會(huì)與Nature Portfolio主辦，北京科技創(chuàng)新促進(jìn)中心承辦的2024中關(guān)村論壇年會(huì)平行論壇“數(shù)字化促進(jìn)大型企業(yè)創(chuàng)新——AI賦能產(chǎn)業(yè)發(fā)展”論壇在京舉辦。

全球著名出版機(jī)構(gòu)施普林格·自然集團(tuán)科研智訊副總裁達(dá)瑞納·哈維爾（Daren Howell）在演講中對(duì)人工智能研究如何轉(zhuǎn)化為產(chǎn)業(yè)進(jìn)行分析，他認(rèn)為，人工智能作為創(chuàng)新催化劑這一角色的不斷發(fā)展，以對(duì)海量知識(shí)、信息和數(shù)據(jù)的分析、結(jié)構(gòu)化為開(kāi)端，實(shí)現(xiàn)信息流的重塑，有助于提高效率，推動(dòng)創(chuàng)新，融入現(xiàn)實(shí)場(chǎng)景，推動(dòng)產(chǎn)業(yè)變革。

論壇期間，圍繞人工智能(AI)對(duì)科研領(lǐng)域產(chǎn)生的影響，《每日經(jīng)濟(jì)新聞》記者對(duì)哈維爾進(jìn)行了專訪。

AI幻覺(jué)其實(shí)是可以受控的

NBD：由于技術(shù)原因，大模型有時(shí)會(huì)出現(xiàn)編造信息、“一本正經(jīng)地胡說(shuō)八道”的AI幻覺(jué)現(xiàn)象。如果AI幻覺(jué)出現(xiàn)在追求嚴(yán)謹(jǐn)和精確的科學(xué)研究領(lǐng)域，后果可能會(huì)非常嚴(yán)重。您認(rèn)為這樣的AI幻覺(jué)有可能得到解決嗎？

哈維爾接受每經(jīng)記者專訪 每經(jīng)記者 石雨昕 攝

哈維爾：我們發(fā)現(xiàn)AI幻覺(jué)其實(shí)是可以受到控制的，關(guān)鍵是要給大型語(yǔ)言模型提供準(zhǔn)確的信息，并告訴它們根據(jù)準(zhǔn)確的信息來(lái)回答問(wèn)題。

假設(shè)我去年讀過(guò)一本書，而你今天問(wèn)我這本書的情況，我可能會(huì)弄錯(cuò)一些細(xì)節(jié)。但如果這本書就擺在我面前，我就可以看著書頁(yè)進(jìn)行詳細(xì)說(shuō)明。因此，如果利用大型語(yǔ)言模型進(jìn)行同樣的處理，可以在很大程度上控制AI幻覺(jué)，但你始終需要一個(gè)人來(lái)檢查并對(duì)輸出結(jié)果負(fù)責(zé)，因?yàn)檫@涉及質(zhì)量控制和所有權(quán)問(wèn)題。

NBD：您認(rèn)為能徹底解決這個(gè)問(wèn)題嗎？我們能否100%信任大模型產(chǎn)出的文本？

哈維爾：如果你將大型語(yǔ)言模型與事實(shí)相結(jié)合，并要求它們檢索這些事實(shí)，那么我認(rèn)為會(huì)有一個(gè)解決方案。大模型在回憶事實(shí)方面會(huì)和很多人一樣好，但人類自己都不一定能準(zhǔn)確記住所有事情，所以我認(rèn)為對(duì)于大模型而言，100%的信任其實(shí)是一個(gè)很高的標(biāo)準(zhǔn)。

NBD：近年來(lái)，隨著人工智能的發(fā)展，利用人工智能代寫論文、數(shù)據(jù)造假等學(xué)術(shù)不端行為層出不窮，您如何看待這一問(wèn)題？

哈維爾：抄襲等學(xué)術(shù)造假行為歷來(lái)存在，但大型語(yǔ)言模型的興起使之更為普遍且易于操作。作為全球知名出版機(jī)構(gòu)，我們向來(lái)非常重視學(xué)術(shù)造假的問(wèn)題。

一方面，我們長(zhǎng)期運(yùn)用人工智能技術(shù)進(jìn)行文本查重及侵權(quán)識(shí)別，有效遏制學(xué)術(shù)造假現(xiàn)象；另一方面，當(dāng)人們發(fā)表文章時(shí)，有且只有一個(gè)作者，作者是有聲譽(yù)的，他們也需要考慮保護(hù)聲譽(yù)這一問(wèn)題。

因此，我想對(duì)作者們說(shuō)，如果文章用到AI，請(qǐng)確保你自己清楚這一點(diǎn)，抄襲、數(shù)據(jù)造假等學(xué)術(shù)不端行為都是我們利用技術(shù)手段可以檢測(cè)出來(lái)的。

實(shí)際上，我們利用人工智能檢測(cè)論文抄襲、學(xué)術(shù)不端、存在造假等行為有很長(zhǎng)一段時(shí)間，隨著技術(shù)進(jìn)步，近期，我們?cè)跈z測(cè)由AI生成的無(wú)意義或虛假論文方面取得新突破。

例如，可以利用人工智能檢測(cè)那些利用大模型生成的“胡說(shuō)八道”的論文，正如上面提到，人工智能被用來(lái)生成文本時(shí)可能會(huì)生成沒(méi)有意義的文本，而通過(guò)我們的方法就能夠甄別出利用大模型編造的不實(shí)內(nèi)容。實(shí)際過(guò)程中我們也會(huì)輔以人工審查，但不可否認(rèn)的是，AI能提高工作效率，幫助我們優(yōu)化解決方法。

開(kāi)發(fā)科技文獻(xiàn)大模型的核心在于數(shù)據(jù)及運(yùn)算

NBD：您認(rèn)為開(kāi)發(fā)科技文獻(xiàn)大模型的核心是在哪些地方？

哈維爾：數(shù)據(jù)和數(shù)據(jù)運(yùn)算，這兩個(gè)是至關(guān)重要的。

目前在創(chuàng)新方面，有些領(lǐng)域擁有適用AI的優(yōu)質(zhì)數(shù)據(jù)。比如我們可以用語(yǔ)言模型學(xué)習(xí)表示蛋白質(zhì)的功能特性，然而我們還沒(méi)有看到在材料方面有如此巨大的進(jìn)步，因?yàn)椴牧系幕瘜W(xué)結(jié)構(gòu)并不適合大型語(yǔ)言模型。

我認(rèn)為這可能會(huì)在未來(lái)得到解決，因?yàn)橐坏┯辛舜罅康挠?xùn)練，你就有了可以預(yù)測(cè)的數(shù)據(jù)，而通過(guò)大量計(jì)算，算法就能夠取得實(shí)質(zhì)性的進(jìn)步，新的算法就會(huì)出現(xiàn)。

NBD：目前，人工智能給科學(xué)研究領(lǐng)域帶來(lái)哪些變化？

哈維爾：許多人花在寫作上的時(shí)間更少了，或者他們能夠用不同的語(yǔ)言寫作，不局限在第一語(yǔ)言，甚至可能是編碼，比如計(jì)算機(jī)編碼，這讓他們?cè)诠ぷ髁鞒讨凶兊酶行省?/p>

行業(yè)領(lǐng)先企業(yè)擁有大量數(shù)據(jù)和強(qiáng)大的計(jì)算能力，他們可以將這兩樣?xùn)|西結(jié)合在一起，創(chuàng)造出許多我們過(guò)去難以實(shí)現(xiàn)的創(chuàng)新。過(guò)去因?yàn)閿?shù)據(jù)太多，一個(gè)人根本無(wú)法理解，但大型語(yǔ)言模型和其他類型的人工智能可以利用所有這些信息實(shí)現(xiàn)創(chuàng)新。

NBD：我們面臨的挑戰(zhàn)不僅在于理解創(chuàng)新，也在于準(zhǔn)確衡量創(chuàng)新。您認(rèn)為應(yīng)該如何衡量創(chuàng)新？

哈維爾：我認(rèn)為衡量創(chuàng)新的標(biāo)準(zhǔn)是影響力。創(chuàng)新關(guān)乎著我們?nèi)绾文軗碛懈玫沫h(huán)境，如何能治愈不同的疾病，如何能改善交通，如何能減少能源使用或創(chuàng)造能源。

對(duì)我們出版機(jī)構(gòu)而言，衡量影響的標(biāo)準(zhǔn)是科研創(chuàng)新如何造福于社會(huì)和人類。例如，你可以看到某些疾病的治療效果有所改善，通過(guò)研究、通過(guò)創(chuàng)新，治療癌癥成功率有所提高，可以利用這一點(diǎn)來(lái)衡量科研創(chuàng)新的影響。

封面圖片來(lái)源：每經(jīng)記者石雨昕攝