對話俞吳杰：近觀招商銀行如何修煉數(shù)字“內(nèi)功”

每經(jīng)記者 趙景致    每經(jīng)編輯 張益銘

“在需要的領(lǐng)域，我們從不吝嗇投入。”接受采訪時，招商銀行信息技術(shù)部副總經(jīng)理俞吳杰說道。

俞吳杰所說“需要的領(lǐng)域”，便是指招行AI信息技術(shù)方面的建設(shè)。近年來，招行持續(xù)加大科技投入，以2023年為例，招行信息科技投入達141.26億元，占到全行營業(yè)收入的4.59%，研發(fā)人才共計約11000人，占全行人數(shù)比例近10%。如此這般投入，也使招商銀行在數(shù)字金融服務(wù)上更進一步——“秒”級答復(fù)客戶疑問、數(shù)據(jù)風控審批貸款、人機協(xié)同無感切換……

大數(shù)據(jù)和AI是數(shù)字金融的底座之一。在大數(shù)據(jù)、AI崛起的時代，招商銀行怎樣勤修“內(nèi)功”建設(shè)數(shù)字金融？

2024年，《每日經(jīng)濟新聞》創(chuàng)刊20周年之際，特別啟動“智見未來——全球高端人物專訪系列”。借此契機，招商銀行信息技術(shù)部副總經(jīng)理俞吳杰接受每日經(jīng)濟新聞記者面訪，分享了建設(shè)“數(shù)字招行”的經(jīng)驗與思考。

智算平臺于今年開啟建設(shè)

看似“橫空出世”的人工智能，其實相關(guān)概念存在已久，如科幻小說《三體》里的“智子”，以及廣為人知的最強圍棋“選手”AlphaGo。

事實上，在AI及數(shù)據(jù)化布局上，招行早有行動。2017年招行率先成立了AI實驗室；2023年3月，招行宣布完成全面上云，即“金融交易云”和“原生云平臺”的建設(shè)，并將所有應(yīng)用系統(tǒng)、數(shù)據(jù)等全部遷移至云上，進入到全面數(shù)據(jù)化階段。

記者注意到，金融業(yè)與其他行業(yè)相比，有較高的專業(yè)性以及合規(guī)要求，且存在服務(wù)場景多、服務(wù)客群廣的客觀情況，因此通用大語言模型很難“圓滿”滿足銀行業(yè)的需求。對此，在“兩朵云”數(shù)據(jù)化新基建“底座”完成后，今年年初，招行正式開啟了“智算平臺”建設(shè)，用以探索新一代人工智能技術(shù)對銀行業(yè)務(wù)的創(chuàng)新應(yīng)用。

“原來的服務(wù)器集群叫通算平臺，和大模型相關(guān)的叫智算平臺，這方面的投入非常高。”俞吳杰介紹，智算平臺包含了招行的“訓練平臺”以及“推理平臺”。“招行的重點不在通用模型，而是在金融行業(yè)的領(lǐng)域模型。”訓練平臺主要用于訓練專業(yè)的領(lǐng)域模型，推理平臺用于銀行具體服務(wù)場景。值得注意的是，無論是推理平臺還是訓練平臺，算力都是剛性需求。俞吳杰介紹，招行在智算平臺建設(shè)方面是以“億”為單位的投入。

此外，目前國內(nèi)的智算平臺還處于起步階段，性能方面也需要持續(xù)提升。俞吳杰表示，招行在國內(nèi)智算平臺建設(shè)方面走在前列，但因目前尚無成熟的智算平臺可以借鑒，在進一步提升算力效能方面仍面臨諸多挑戰(zhàn)。

新一代AI將對銀行業(yè)務(wù)帶來全面變化

如果僅從大語言模型來看，2022年底ChatGPT的問世才使得整個社會對生成式AI有了明顯感知，目前新一代人工智能在金融業(yè)的應(yīng)用還處于探索階段。

在俞吳杰看來，銀行有三個重要的“密集型”特征，一是數(shù)據(jù)密集，包括客戶數(shù)據(jù)、行業(yè)數(shù)據(jù)、產(chǎn)業(yè)數(shù)據(jù)等；二是知識密集，銀行業(yè)有著大量的政策、法規(guī)、條款，同時還包括銀行內(nèi)部的合規(guī)要求、管理等；三是人力密集，銀行業(yè)存在大量的運營工作，無論是網(wǎng)點還是審核團隊，大量的人力都集中在業(yè)務(wù)運營中。

因為這三個特征的存在，大語言模型能夠產(chǎn)生的價值面非常廣。“其實今天我們談及大語言模型的應(yīng)用，并不是說在銀行的某一個點或者某一塊業(yè)務(wù)方面產(chǎn)生價值，而是全方位的。”俞吳杰表示。

如在服務(wù)質(zhì)檢方面，目前只需要借助語音識別技術(shù)將通話轉(zhuǎn)化為文本，再交由大語言模型處理，并按照銀行要求整理歸類即可處理，以前人工可能需要5分鐘，現(xiàn)在效率已經(jīng)達到“秒”級。

在風控方面，招行強大的AI水平可以集中體現(xiàn)在“天秤”風控平臺上。目前，“天秤”風控平臺已經(jīng)可以通過神經(jīng)網(wǎng)絡(luò)算法，識別客戶的異常風險行為并進行風險前置提示。

俞吳杰表示，“總體來看，AI已經(jīng)融入銀行日常營銷、服務(wù)、經(jīng)營的各個方面。雖然目前更深層次的AI使用還有待論證，但實際上我們?nèi)粘９ぷ髦写嬖诤芏嘀貜?fù)性的、簡單的流程化工作，而這恰巧是大語言模型能夠發(fā)揮作用的地方。”

聚焦“三個場景”打造“智慧招行”

“要給到領(lǐng)域模型足夠的專業(yè)知識和數(shù)據(jù)，特別是銀行業(yè)務(wù)方面的，未來也需要拓展到和銀行有很大關(guān)聯(lián)的證券、基金、保險等行業(yè)。”俞吳杰指出，目前互聯(lián)網(wǎng)上能獲取的相關(guān)知識有限，招行更多要做的，是要把自身幾十年來經(jīng)營當中積累下來的專業(yè)語料給到大模型，“否則算力再強也沒有實用性。”

即使擁有領(lǐng)域大模型，相對“智慧招行”建設(shè)來說也只是“萬里長征走完了第一步”，要全方位打造智慧招行，需要更豐富多樣的應(yīng)用場景。

“在應(yīng)用場景的選擇方面我們也有比較全面的思考。”俞吳杰表示，場景選擇標準有“三多”：一是“錢投入多”、二是“人投入多”、三是“耗時多”，“這些場景用AI產(chǎn)生的價值會更大，對于招行而言，我們的創(chuàng)新一般兩條腿走路——自下而上和自上而下。”

自上而下是指招行會基于對大模型應(yīng)用的整體規(guī)劃來投入資源，目前該行的規(guī)劃是按照業(yè)務(wù)條線，如零售、批發(fā)、中后臺業(yè)務(wù)，以及按照業(yè)務(wù)形態(tài)來劃分的營銷、運營、合規(guī)、風控等領(lǐng)域，來進行資源投入。

自下而上則是運用FinTech（金融科技）基金、創(chuàng)新競賽等機制設(shè)立和資金引導(dǎo)等方式，鼓勵一線員工發(fā)掘創(chuàng)新應(yīng)用場景，引導(dǎo)廣大員工把大語言模型應(yīng)用到日常工作場景中去。

截至10月底，招商銀行已經(jīng)有超過100個應(yīng)用場景在使用大語言模型。

聚力有溫度、有效率的“人+AI”服務(wù)

曾幾何時，電話服務(wù)“轉(zhuǎn)人工”困難成為普遍現(xiàn)象，不過在銀行業(yè)，尤其是招商銀行，這類問題已經(jīng)基本得到了解決。俞吳杰表示，目前招行已經(jīng)邁入了客戶服務(wù)的“第三個階段”。

第一個階段，即所有電話服務(wù)均由人工提供。但該階段最大的問題是銀行人工服務(wù)隊伍規(guī)模與賬戶數(shù)及客戶數(shù)的指數(shù)級增長不匹配的問題，無限制的員工隊伍增長將對企業(yè)造成巨大的財務(wù)壓力。

第二個階段，即使用數(shù)字化手段提高效率。在該階段，部分銀行通過自研或采買的自然語言處理小模型解答客戶疑問，但存在“答非所問”和“不知所云”等一系列問題，第二階段因技術(shù)的不成熟及人工的“失位”可能造成不好的用戶體驗。

第三個階段即“人+數(shù)字化”高效協(xié)同，既能保證服務(wù)質(zhì)量，又解決效率問題。俞吳杰表示，“從銀行實踐來看，客戶的大部分問題都是簡單、重復(fù)的問題，機器人就可以解決。”此外招行采用AI技術(shù)，通過語速、音量等標準輔助判斷客戶情緒，提供信息幫助人工客服主動切入，從而避免投訴升級并提供“有溫度”的服務(wù)；而當客戶需要人工對接時，也可以直接按鍵切換到人工。

俞吳杰表示，在既要有溫度、又要有效率，同時又能夠讓真正有需要的客戶隨時觸達到服務(wù)人員等方面，目前招行已經(jīng)探索出一套行之有效的“招行方案”，未來還會在人機協(xié)同方面繼續(xù)發(fā)展，為客戶提供更高質(zhì)量的服務(wù)。

如何規(guī)避AI邏輯“黑盒”？

新生業(yè)態(tài)往往伴隨著新生風險?？v觀銀行業(yè)乃至整個金融業(yè)，信息安全都是繞不開的重點論題。“數(shù)據(jù)隱私是人工智能在金融領(lǐng)域方面非常大的考量。”俞吳杰表示，目前招行涉及訓練數(shù)據(jù)的準備上非常謹慎。

“尤其是在訓練環(huán)節(jié)，一定不能使用客戶敏感信息訓練模型，否則大模型可能會記住，并把信息泄漏出去。”俞吳杰強調(diào)。

此外，在大語言模型對于答案的可解釋性問題方面，俞吳杰表示目前該領(lǐng)域有很多的“黑盒子”。

“我們給大模型輸入，大模型給出一個輸出，但是為什么會給到這個輸出，還無法完全掌握，很多神經(jīng)網(wǎng)絡(luò)分析的邏輯是黑盒子。落地到具體的金融業(yè)務(wù)場景，比如要做一個貸款發(fā)放審批，機器判斷這位客戶不通過，但無法判斷原因，就沒有辦法使用，必須得讓其解釋清楚。”俞吳杰表示。

值得注意的是，在銀行傳統(tǒng)信息科技應(yīng)用中，也有相較于目前“大模型”的“小模型”，如信貸決策模型、評分卡模型等，“小模型”技術(shù)擁有更好的解釋性，它是專門針對銀行業(yè)務(wù)某一個場景開發(fā)的，能更好的適配該場景。

在“大模型”與“小模型”配合方面，俞吳杰表示未來二者一定會長期并存，“大模型覆蓋的領(lǐng)域會越來越廣泛，但在可解釋性方面‘小模型’有很好的針對性，特別是在算數(shù)方面，比如給客戶的授信額度如何評測，小模型表現(xiàn)會更好，我們會持續(xù)地用下去。”