上海金融與發(fā)展實驗室主任曾剛：避免大模型幻覺，關(guān)鍵環(huán)節(jié)還需人機協(xié)作

每經(jīng)記者 張宏    每經(jīng)編輯 馬子卿    

2024年政府工作報告提出，要大力推進現(xiàn)代化產(chǎn)業(yè)體系建設(shè)，加快發(fā)展新質(zhì)生產(chǎn)力。“人工智能+”被首次寫入政府工作報告。

3月28日，由馬上消費聯(lián)合中國科學技術(shù)出版社、金融界共同舉辦的“大模型驅(qū)動下的金融新質(zhì)生產(chǎn)力創(chuàng)新論壇暨全國首部《金融大模型》著作發(fā)布”活動在京舉行。

圖片來源：每經(jīng)記者 張宏 攝

在主題分享環(huán)節(jié)，上海金融與發(fā)展實驗室主任曾剛表示，傳統(tǒng)業(yè)務發(fā)展模式受到越來越大的挑戰(zhàn)，金融行業(yè)需要用大模型提升效率、適應客戶需求變化和拓展新的服務空間及場景。會后，曾剛就“金融機構(gòu)在AI應用中如何避免大模型幻覺”這一話題接受了《每日經(jīng)濟新聞》記者采訪。

傳統(tǒng)業(yè)務發(fā)展模式受到挑戰(zhàn)，行業(yè)需要用大模型提升效率

在主題分享環(huán)節(jié)，上海金融與發(fā)展實驗室主任曾剛表示，AI的發(fā)展會去除“知識中介”。生成式人工智能可以對一些沒有原創(chuàng)性的“知識中介”進行替代，很多看似有門檻的專業(yè)技術(shù)會被淘汰，我們個人對自身的定位也會發(fā)生重大變化。

曾剛指出，從金融領(lǐng)域來看，行業(yè)面臨著幾大問題。一是資產(chǎn)獲取難度越來越大，隨著傳統(tǒng)客戶競爭越來越激烈，新客戶發(fā)掘越來越難，信貸投放面臨壓力，傳統(tǒng)服務模式可能無法觸及客戶；二是資產(chǎn)質(zhì)量發(fā)生變化，一些過剩的行業(yè)正在經(jīng)歷調(diào)整，這個過程對風險防控的要求不斷提升；三是息差的收窄，2023四季度商業(yè)銀行凈息差為1.69%，一些銀行是低于這一水平的；四是資本補充有一定困境。

他強調(diào)，傳統(tǒng)業(yè)務發(fā)展模式受到越來越大的挑戰(zhàn)，行業(yè)需要用大模型去提升效率、適應客戶需求變化、拓展新的服務空間及場景。

避免大模型幻覺，關(guān)鍵環(huán)節(jié)還需人機協(xié)作

會后，曾剛在接受《每日經(jīng)濟新聞》記者采訪時表示，既要看到大模型的潛力，又要關(guān)注可能的風險。一方面，要依靠技術(shù)的不斷改進糾正可能發(fā)生的大模型幻覺；另一方面，可以通過人機結(jié)合，將大模型圈定在助手層面。

上海金融與發(fā)展實驗室主任 曾剛 圖片來源：主辦方

NBD：金融是一個嚴謹?shù)念I(lǐng)域，要在金融業(yè)務中進行AI應用，如何避免大模型幻覺？

曾剛：現(xiàn)在我們確實對風險審慎經(jīng)營保持極大關(guān)注。首先，機構(gòu)層面要審慎經(jīng)營、避免（使用）過度的風險。在使用（AI的）過程中，對客戶、消費者的保護要做到位，避免對客戶利益的損傷。

金融大模型應用中，可能會在兩個層面上產(chǎn)生風險。一是在交易過程中，如果使用大模型時出現(xiàn)大模型幻覺，可能會導致一些潛在的風險，對機構(gòu)造成傷害；二是在業(yè)務過程中，對客戶造成傷害。

因此要求金融機構(gòu)，從研發(fā)到應用大模型的過程中，均高度關(guān)注可能出現(xiàn)的大模型幻覺。既要看到大模型的潛力，又要關(guān)注可能的風險。

一方面，依靠技術(shù)的不斷改進，通過各種方法糾正可能的幻覺，但這需要一個過程；另一方面，在實踐當中，實現(xiàn)人機結(jié)合，不要完全把任務拋給大模型。大模型可以替代一部分工作，但在關(guān)鍵環(huán)節(jié)還需人工進行校正、核驗。通過人機結(jié)合，把大模型圈定在人的助手層面上，而不是讓大模型完全替代人的工作。既能保證效率提高，同時也能避免大模型幻覺。

其次，監(jiān)管層面上對科技應用也要提出規(guī)范要求，避免可能的風險。目前，科技監(jiān)管越來越規(guī)范，通過監(jiān)管層面引導機構(gòu)完善治理架構(gòu)、工作流程，以確保把發(fā)展過程中潛在的風險控制在可接受范圍之內(nèi)。

封面圖片來源：視覺中國-VCG31N2008742366