新金融聯(lián)盟理事長(zhǎng)、中國(guó)銀行原行長(zhǎng)李禮輝：需要重構(gòu)人工智能信任，建立防范AI操縱的防火墻

5月23日，在“第八屆融城杯金融科技創(chuàng)新案例評(píng)選”啟動(dòng)儀式上，新金融聯(lián)盟理事長(zhǎng)、中國(guó)銀行原行長(zhǎng)李禮輝在主題發(fā)言中表示，“科技創(chuàng)新未必總是一個(gè)線性發(fā)展的過(guò)程，突破性的技術(shù)進(jìn)步往往會(huì)改變技術(shù)競(jìng)爭(zhēng)和經(jīng)濟(jì)發(fā)展的大勢(shì)和格局。ChatGPT的面世推動(dòng)人工智能發(fā)展史走到了奇點(diǎn)，帶來(lái)了新的沖擊和挑戰(zhàn)。”

圖片來(lái)源：主辦方

李禮輝強(qiáng)調(diào)，金融科技創(chuàng)新有兩大原則：一是方向正確，認(rèn)真學(xué)習(xí)、貫徹落實(shí)黨中央精神與金融監(jiān)管機(jī)構(gòu)的指導(dǎo)性、規(guī)范性文件十分重要；二是問(wèn)題導(dǎo)向，金融科技創(chuàng)新是一個(gè)不斷發(fā)現(xiàn)問(wèn)題、解決問(wèn)題、持續(xù)進(jìn)步的過(guò)程，能夠克服金融服務(wù)的難點(diǎn)、痛點(diǎn)的創(chuàng)新，一定是有價(jià)值的創(chuàng)新。

李禮輝指出，“ChatGPT的面世推動(dòng)人工智能發(fā)展史走到了奇點(diǎn)，帶來(lái)了新的沖擊和挑戰(zhàn)。”

一是在算力競(jìng)爭(zhēng)上面臨挑戰(zhàn)。金融領(lǐng)域中，智能化的信用評(píng)估、客戶篩選、風(fēng)險(xiǎn)定價(jià)、數(shù)字員工等方面無(wú)不需要數(shù)據(jù)和算力的支撐，算力很大程度上決定金融業(yè)的競(jìng)爭(zhēng)力。算力的競(jìng)爭(zhēng)，今后是科技巨頭、資本巨頭之間的競(jìng)爭(zhēng)。

他表示，“我們需要探討如何構(gòu)建一個(gè)既能占領(lǐng)全球技術(shù)高地、又能避免壟斷的國(guó)家級(jí)算力基礎(chǔ)設(shè)施；如何構(gòu)建一個(gè)資源可共享、商業(yè)可持續(xù)、監(jiān)管可包容、金融機(jī)構(gòu)和科技公司可受益的金融算力生態(tài)圈。”

二是AI合成與信任面臨挑戰(zhàn)。深度內(nèi)容合成模糊了真實(shí)與虛假的邊界，最新的深度合成算法可以對(duì)抗通用的技術(shù)性的甄別，人們開始擔(dān)憂AI虛假與AI操縱對(duì)社會(huì)構(gòu)成的威脅。

李禮輝認(rèn)為，“低級(jí)別的AI虛假用于詐騙、詆毀個(gè)人及企業(yè)名譽(yù)；高級(jí)別的AI操縱有可能用于詆毀政治人物或政權(quán)實(shí)體操控負(fù)面輿情、制造政治惡意、激化社會(huì)矛盾。”

“我們迫切需要重構(gòu)人工智能信任，在技術(shù)上、制度上有效對(duì)抗AI虛假，建立防范AI操縱的防火墻，維護(hù)數(shù)字經(jīng)濟(jì)時(shí)代的國(guó)家安全與金融業(yè)安全。”李禮輝強(qiáng)調(diào)。