工業(yè)領(lǐng)域如何解決“大模型幻覺”？鼎捷軟件執(zhí)行副總裁劉波：檢索增強生成+微調(diào)

每經(jīng)記者 朱成祥    每經(jīng)編輯 陳俊杰    

8月12日下午，鼎捷軟件舉辦媒體開放日活動。當下，業(yè)界普遍關(guān)注的是AI大模型的成本，以及如何解決“大模型幻覺”問題。

鼎捷軟件執(zhí)行副總裁劉波稱，鼎捷混合使用RAG（檢索增強生成）和Fine-Tuning（微調(diào)）技術(shù)，即通過高質(zhì)量的數(shù)據(jù)集（數(shù)據(jù)+行業(yè)經(jīng)驗+技術(shù)），再使用貼合制造業(yè)的RAG技術(shù)，以有效助力工業(yè)企業(yè)解決“大模型幻覺”問題。

對于是否使用微調(diào)，使得大模型更加偏向于垂直專業(yè)領(lǐng)域，再使用RAG技術(shù)，限定大模型回答的范圍。

劉波表示認可，并表示：“檢索增強生成的關(guān)鍵，在于領(lǐng)域知識的掌握。通用大模型很難掌握這種深度的行業(yè)知識，這些知識怎么解釋、怎么理解、怎么設(shè)定，其實需要很多技術(shù)+行業(yè)的經(jīng)驗。簡單說，我們天生懂客戶這些‘行業(yè)黑話’，這是40余年的深耕經(jīng)營積累下來的沉淀，它會大量降低訓(xùn)練成本和縮短訓(xùn)練時間。”

其補充表示：“鼎捷早在2015年便提出了‘智能+’戰(zhàn)略，借助算法驅(qū)動幫助客戶實現(xiàn)降本增效。然而鼎捷認為這種優(yōu)勢并不能持久，因此我們不斷探索讓人工智能進入到‘輔助駕駛’階段，不再是嵌入式應(yīng)用，而是主動思考輔助決策，以重構(gòu)客戶作業(yè)流程。”

鼎捷軟件執(zhí)行副總裁、財務(wù)長張苑逸表示：“企業(yè)主在意的是效率跟成本匹不匹配，而鼎捷過往在給客戶展開數(shù)智化服務(wù)的時候，非常注重價值交付，理解業(yè)務(wù)，同時能夠把握關(guān)鍵點。因此我們在給（大模型）喂數(shù)據(jù)的時候，數(shù)據(jù)是已經(jīng)整理過的，更有指向性，而非簡單用數(shù)學(xué)方式暴力運算，猶如大海撈針。同時，我們的顧問都是老師傅、行業(yè)專家，所以我們在訓(xùn)練中更容易明白‘行業(yè)黑話’，也更知道行業(yè)數(shù)據(jù)對應(yīng)的特征值，保障結(jié)果的可用。”

劉波總結(jié)稱：“在幫助企業(yè)客戶進行數(shù)智化轉(zhuǎn)型的過程中，鼎捷憑借多年的經(jīng)驗積累，可以快速判斷如何進行有效的數(shù)據(jù)轉(zhuǎn)化和知識封裝，從而快速提升AI應(yīng)用的成熟度。”