前有馬斯克叫停GPT-5研究，后有意大利禁用ChatGPT，生成式AI最大的風(fēng)險(xiǎn)是什么？又該如何監(jiān)管？

每經(jīng)記者 李孟林    每經(jīng)編輯 高涵    

當(dāng)?shù)貢r(shí)間3月31日（周五），意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，即日起暫時(shí)禁止使用聊天機(jī)器人ChatGPT，并表示已對開發(fā)該產(chǎn)品的OpenAI公司展開調(diào)查。

OpenAI的生成式人工智能（AI）產(chǎn)品風(fēng)靡全球的同時(shí)，其引發(fā)的爭議和擔(dān)憂也在不斷發(fā)酵。

本周，馬斯克、圖靈獎得主等一眾大佬簽署公開信、聯(lián)名呼吁暫停大型AI研究，歐洲執(zhí)法機(jī)構(gòu)和消費(fèi)者保護(hù)組織也先后拉響對ChatGPT潛在危害的警報(bào)。

美國人工智能協(xié)會前主席托馬斯•迪特里希（Thomas Dietterich）對《每日經(jīng)濟(jì)新聞》記者表示，不法分子確實(shí)有可能利用生成式AI進(jìn)行新形式的犯罪，但監(jiān)管的對象應(yīng)該是技術(shù)的危害而不是技術(shù)本身。

迪特里希進(jìn)一步指出，雖然公開信警告的AI風(fēng)險(xiǎn)多數(shù)言過其實(shí)，但是虛假信息的暴增是一個(gè)亟待處理的嚴(yán)峻問題。他建議開發(fā)一整套認(rèn)證內(nèi)容來源的技術(shù)。

圖片來源：視覺中國

意大利禁用ChatGPT，OpenAI恐面臨2000萬歐元罰款

意大利個(gè)人數(shù)據(jù)保護(hù)局暫停ChatGPT主要出于用戶隱私數(shù)據(jù)保護(hù)和未成年人保護(hù)的考慮。

該機(jī)構(gòu)稱，ChatGPT沒有就收集和處理用戶信息進(jìn)行告知，“沒有任何法律依據(jù)表明，為了‘訓(xùn)練’平臺背后的算法而大規(guī)模收集和存儲個(gè)人數(shù)據(jù)是合理的”。此外，ChatGPT還出現(xiàn)過數(shù)據(jù)泄露的情況，導(dǎo)致用戶對話數(shù)據(jù)和付款服務(wù)信息被其他人看到的情況出現(xiàn)。

該機(jī)構(gòu)還表示，雖然根據(jù)OpenAI發(fā)布的條款，ChatGPT針對的是13歲以上的用戶，但并沒有年齡核實(shí)系統(tǒng)來驗(yàn)證用戶年齡，導(dǎo)致兒童接受到“完全不適合他們發(fā)育和自我意識階段的回答”。

OpenAI必須在20天內(nèi)通過其在歐洲的代表，向意大利個(gè)人數(shù)據(jù)保護(hù)局通報(bào)公司執(zhí)行保護(hù)局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年?duì)I業(yè)額4%的罰款。

OpenAI尚未回復(fù)媒體的置評請求。

一向走在數(shù)字監(jiān)管前沿的歐盟對ChatGPT亦十分警惕。本周，歐盟執(zhí)法機(jī)構(gòu)歐洲刑警組織(Europol)警告稱，ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪，加劇了對法律、道德等各種問題的擔(dān)憂。此外，歐洲消費(fèi)者聯(lián)盟3月30日呼吁歐盟和成員國的監(jiān)管機(jī)構(gòu)對ChatGPT展開調(diào)查。

“犯罪分子肯定會嘗試?yán)眠@項(xiàng)技術(shù)，我相信會有新型的金融詐騙和網(wǎng)絡(luò)攻擊出現(xiàn)。但另一方面，這項(xiàng)技術(shù)也有可能增強(qiáng)人類監(jiān)測詐騙和網(wǎng)絡(luò)攻擊的能力，”機(jī)器學(xué)習(xí)領(lǐng)域的奠基人之一、美國人工智能協(xié)會前主席托馬斯•迪特里希向《每日經(jīng)濟(jì)新聞》記者分析了生成式AI技術(shù)的潛在風(fēng)險(xiǎn)。

迪特里希指出，每項(xiàng)AI技術(shù)在應(yīng)用前都應(yīng)該進(jìn)行風(fēng)險(xiǎn)評估，但該受監(jiān)管的是技術(shù)帶來的危害而不是技術(shù)本身。“金融詐騙、侵犯隱私、竊取知識產(chǎn)權(quán)本來就已經(jīng)是犯罪了，法律要做的是在威脅發(fā)生變化時(shí)進(jìn)行更新，” 迪特里希表示。

虛假信息應(yīng)成監(jiān)管重點(diǎn)

3月29日，圖靈獎得主約書亞·本希奧，特斯拉CEO馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等1000多名來自學(xué)界、商界和政策界的人士發(fā)表聯(lián)名信，要求暫停研發(fā)強(qiáng)于GPT-4的AI系統(tǒng)至少6個(gè)月，以便更好地評估風(fēng)險(xiǎn)和建立監(jiān)管框架。

這封分量十足的公開信將OpenAI推到了風(fēng)口浪尖，對AI的擔(dān)憂也成為了熱門話題。迪特里希向《每日經(jīng)濟(jì)新聞》記者表示，信中所陳列的AI危害，如自動化導(dǎo)致所有工作崗位消失、人類被更聰明的AI取代、失去對文明的控制，都言過其實(shí)了，而且暫停新AI系統(tǒng)的研發(fā)也不能解決這些問題。

不過，迪特里希認(rèn)為，生成式AI導(dǎo)致虛假內(nèi)容泛濫的風(fēng)險(xiǎn)確實(shí)是真實(shí)而緊迫的。

“生成式AI讓信息洪流進(jìn)一步增長，而且現(xiàn)有的手段難以充分過濾假信息，這一點(diǎn)是絕對正確的，” 迪特里希表示。他認(rèn)為，可以仿照互聯(lián)網(wǎng)的超文本傳輸安全協(xié)議（https），建立起一整套的認(rèn)證基礎(chǔ)設(shè)施，用來鑒定圖像和信息是否來自可靠的來源，現(xiàn)有的密碼學(xué)技術(shù)應(yīng)該能夠做到這一點(diǎn)。

“我強(qiáng)烈支持限制AI生成的信息（包括電子郵件、廣告和社交媒體內(nèi)容）的法律法規(guī)，也支持研發(fā)實(shí)用的認(rèn)證機(jī)制，” 迪特里希告訴每經(jīng)記者。

雖然迪特里希認(rèn)為公開信所警告的AI風(fēng)險(xiǎn)過于“驚悚”，但OpenAI在發(fā)布最新的GPT-4模型時(shí)信息不透明，違背了AI研究領(lǐng)域長期以來的開源精神，這一點(diǎn)確實(shí)值得擔(dān)憂。

“OpenAI在發(fā)布最新的GPT-4時(shí)向外界透露的信息很少，我對此表示不滿。我希望他們能公開GPT-4的架構(gòu)、訓(xùn)練數(shù)據(jù)和規(guī)模。他們（OpenAI）不公開似乎更多是出于保護(hù)商業(yè)優(yōu)勢的考慮，而不是技術(shù)上存在風(fēng)險(xiǎn)。幸運(yùn)的是，其他公司也在開發(fā)類似的競品，其中有些項(xiàng)目就是開源的，” 迪特里希補(bǔ)充道。

封面圖片來源：視覺中國