新金融聯(lián)盟理事長、中國銀行原行長李禮輝：需要重構(gòu)人工智能信任，建立防范AI操縱的防火墻

5月23日，在“第八屆融城杯金融科技創(chuàng)新案例評選”啟動儀式上，新金融聯(lián)盟理事長、中國銀行原行長李禮輝在主題發(fā)言中表示，“科技創(chuàng)新未必總是一個線性發(fā)展的過程，突破性的技術(shù)進步往往會改變技術(shù)競爭和經(jīng)濟發(fā)展的大勢和格局。ChatGPT的面世推動人工智能發(fā)展史走到了奇點，帶來了新的沖擊和挑戰(zhàn)。”

圖片來源：主辦方

李禮輝強調(diào)，金融科技創(chuàng)新有兩大原則：一是方向正確，認真學習、貫徹落實黨中央精神與金融監(jiān)管機構(gòu)的指導性、規(guī)范性文件十分重要；二是問題導向，金融科技創(chuàng)新是一個不斷發(fā)現(xiàn)問題、解決問題、持續(xù)進步的過程，能夠克服金融服務的難點、痛點的創(chuàng)新，一定是有價值的創(chuàng)新。

李禮輝指出，“ChatGPT的面世推動人工智能發(fā)展史走到了奇點，帶來了新的沖擊和挑戰(zhàn)。”

一是在算力競爭上面臨挑戰(zhàn)。金融領域中，智能化的信用評估、客戶篩選、風險定價、數(shù)字員工等方面無不需要數(shù)據(jù)和算力的支撐，算力很大程度上決定金融業(yè)的競爭力。算力的競爭，今后是科技巨頭、資本巨頭之間的競爭。

他表示，“我們需要探討如何構(gòu)建一個既能占領全球技術(shù)高地、又能避免壟斷的國家級算力基礎設施；如何構(gòu)建一個資源可共享、商業(yè)可持續(xù)、監(jiān)管可包容、金融機構(gòu)和科技公司可受益的金融算力生態(tài)圈。”

二是AI合成與信任面臨挑戰(zhàn)。深度內(nèi)容合成模糊了真實與虛假的邊界，最新的深度合成算法可以對抗通用的技術(shù)性的甄別，人們開始擔憂AI虛假與AI操縱對社會構(gòu)成的威脅。

李禮輝認為，“低級別的AI虛假用于詐騙、詆毀個人及企業(yè)名譽；高級別的AI操縱有可能用于詆毀政治人物或政權(quán)實體操控負面輿情、制造政治惡意、激化社會矛盾。”

“我們迫切需要重構(gòu)人工智能信任，在技術(shù)上、制度上有效對抗AI虛假，建立防范AI操縱的防火墻，維護數(shù)字經(jīng)濟時代的國家安全與金融業(yè)安全。”李禮輝強調(diào)。