全球首個AI監(jiān)管法案獲批！ChatGPT等生成式工具將面臨什么？每經(jīng)連線全球頂級律所Pillsbury解讀

每經(jīng)記者 文巧    每經(jīng)編輯 蘭素英    

圖片來源：每經(jīng)特約記者 周游 攝

當?shù)貢r間3月13日，在法國斯特拉斯堡舉行的歐洲議會全會上，歐洲議會正式投票通過并批準歐盟《人工智能法案》。這是全球首部人工智能（AI）法案，標志著AI監(jiān)管新時代的展開。

《每日經(jīng)濟新聞》記者注意到，歐盟《人工智能法案》最早誕生于2021年，法案將基于風(fēng)險程度對AI技術(shù)進行監(jiān)管。

法案獲批后，ChatGPT這類生成式工具將受到怎樣的監(jiān)管成為關(guān)注的焦點。有分析稱，生成式模型被納入通用AI模型，根據(jù)是否存在“系統(tǒng)性風(fēng)險”將有不同監(jiān)管要求，這可能為大語言模型的實際監(jiān)管造成困難。

對于法案本身將對全球的AI監(jiān)管帶來的影響，全球頂級律師事務(wù)所之一普盈（Pillsbury Winthrop Shaw Pittman LLP）合伙人、AI專家Steven Farmer在接受《每日經(jīng)濟新聞》記者采訪時稱，“我認為歐盟的AI法案很有可能成為世界的模板，這是全球監(jiān)管AI競賽的關(guān)鍵時刻。” 以歐盟的《通用數(shù)據(jù)保護條例》為例，他解釋道，在AI監(jiān)管上，歐盟已經(jīng)確定了全球的前進方向。

ChatGPT等工具受影響幾何？

據(jù)悉，《人工智能法案》的核心目標是建立一個監(jiān)管框架，負責(zé)任地利用AI的潛力，確保技術(shù)造福公共利益，同時保護個人權(quán)利。

值得注意的是，該法案根據(jù)AI系統(tǒng)可能對用戶造成的風(fēng)險程度制定了不同的要求和執(zhí)行機制。記者查閱發(fā)現(xiàn)，AI系統(tǒng)被劃分為4個不同的風(fēng)險級別：不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和低風(fēng)險。而根據(jù)AI系統(tǒng)的功能和影響，該法案禁止了8種AI應(yīng)用類型。

其中提到，“所有被認為對人們的安全、生計和權(quán)利構(gòu)成明顯威脅的AI系統(tǒng)都將被禁止，從政府的社會評分到使用語音輔助鼓勵危險行為的玩具。”

AI系統(tǒng)風(fēng)險級別分類 圖片來源：歐盟網(wǎng)站

《每日經(jīng)濟新聞》記者進一步查閱法案發(fā)現(xiàn)，根據(jù)AI工具的功能和實際或可能的影響，法案禁止了八種AI應(yīng)用類型。

圖片來源：每經(jīng)制圖（資料來源：歐盟網(wǎng)站）

法案在歐盟議會通過后，ChatGPT這類的生成式AI工具將受到怎樣的監(jiān)管立即成為關(guān)注的焦點。

據(jù)外媒總結(jié)，該法案僅明確提及“生成式模型”兩次，并將這些系統(tǒng)納入所謂的“通用AI (GPAI) 模型”。根據(jù)這些模型是否存在“系統(tǒng)性風(fēng)險”，它們可能會受到不同的要求。

全球律師事務(wù)所Squire Patton Boggs歐盟數(shù)據(jù)隱私、網(wǎng)絡(luò)安全和數(shù)字資產(chǎn)業(yè)務(wù)負責(zé)人Charles-Albert Helleputte表示，“對于大型語言模型來說，并不完全是高風(fēng)險，還有中間類別（特定的透明度風(fēng)險），而這可能導(dǎo)致實際實施中很多棘手的問題。”

另據(jù)科技法律外媒報道，自生成式AI工具產(chǎn)生首次法律糾紛以來，AI服務(wù)提供者和使用者之間的責(zé)任歸屬一直都不明晰。而這份法案給出了明確的答案：雙方都有責(zé)任。雖然AI系統(tǒng)提供商或開發(fā)商承擔(dān)了大部分合規(guī)性要求，但使用者或部署者如何利用這些工具將決定他們所面臨的責(zé)任類型。

對此，國際隱私專業(yè)人士協(xié)會AI治理中心董事總經(jīng)理Ashley Casovan解讀稱：“法案表明，如果部署者對平臺的開發(fā)做出了足夠重大的改變，那么他們既是開發(fā)者又是部署者。”但他提到，這當中，‘重大’的含義決定了如何實施這項法案。

然而，Helleputte認為要區(qū)分開發(fā)者和使用者之間的責(zé)任可能存在困難，“當我們看看法案中開發(fā)者和使用者之間的（責(zé)任）分歧時，你會發(fā)現(xiàn)其中一方與另一方之間存在責(zé)任轉(zhuǎn)移……邊界可能并不那么明確。”

據(jù)悉，該法案將在官方公報發(fā)布20天后生效，并于2年后全面適用，一些規(guī)則將分階段執(zhí)行：禁令將在6個月后生效；通用AI模型的治理規(guī)則和義務(wù)12個月后適用；嵌入受監(jiān)管產(chǎn)品的AI系統(tǒng)規(guī)則將在36個月后適用。法案將適用于在歐盟開展業(yè)務(wù)的任何公司，違反法案的公司可能會被處以最高3500萬歐元的罰款，或該公司全球收入的7%。

頂級律所：法案有望成為“世界的模板”

有法律專業(yè)人士稱，該法案是國際法對AI監(jiān)管的一個重要里程碑，這可能為其他國家的效仿鋪平道路。

全球頂級律師事務(wù)所之一普盈（Pillsbury Winthrop Shaw Pittman LLP）合伙人、AI專家Steven Farmer在接受《每日經(jīng)濟新聞》記者采訪時稱，“我認為歐盟的AI法案很可能成為世界的模板，這是全球監(jiān)管AI競賽的關(guān)鍵時刻，歐盟已經(jīng)確定了全球的前進方向。”

有外媒提到，對于這項法案，一個最大的挑戰(zhàn)是歐盟能否在全球的AI技術(shù)領(lǐng)域?qū)崿F(xiàn)“布魯塞爾效應(yīng)”，即把歐盟的立法框架輻射到其他國家及地區(qū)的能力。

Steven Farmer對每經(jīng)記者提到了歐盟在數(shù)據(jù)監(jiān)管方面的一個重要先例：2016 年頒布的《通用數(shù)據(jù)保護條例》（GDPR）。該法規(guī)公布后的兩年內(nèi)，Meta和微軟等全球科技巨頭都更新了相關(guān)服務(wù)。如今，隱私標準和意識在大多數(shù)司法管轄區(qū)都已司空見慣。

“在監(jiān)管數(shù)據(jù)上，歐盟率先采取行動為我們提供了 GDPR，（后來）我們也看到全球朝著這一方向趨同?！度斯ぶ悄芊ò浮匪坪跽趯v史重演。”Farmer這樣對記者說道。

實際上，該AI法案的通過面臨著許多爭議。在談判過程中，一些歐盟國家如法國和德國政府曾覺得AI規(guī)則過嚴，認為這可能會傷害歐洲的初創(chuàng)企業(yè)。

歐洲科技行業(yè)組織Digital Europe總干事Cecilia Bonefeld-Dahl曾表示：“我們將為該法案付出代價，這意味著我們需要投入更多來研究對抗AI使用風(fēng)險的方法，而不是投入技術(shù)本身。”

“有人擔(dān)心該法案會扼殺創(chuàng)新，但實際上我認為該法案為創(chuàng)新設(shè)定了一些安全參數(shù)?？纯矗ǚò钢校┙故褂玫腁I系統(tǒng)清單，我確實看不出這些有什么值得反對的。”Farmer對每經(jīng)記者說道。“歐盟（在AI監(jiān)管）的行動一直存在爭議，但我認為它平衡了安全和創(chuàng)新，這是一個非常全面的框架。當其他國家尋求制定類似措施時，歐盟可能會享有先發(fā)優(yōu)勢。”

盡管這是全球首個AI法案，但在AI技術(shù)監(jiān)管方面，歐盟并不是唯一。去年，美國簽署了一項關(guān)于AI的全面行政命令，而該國至少七個州的立法者正在制定自己的AI立法。除此之外，中國、日本、巴西等其他國家和地區(qū)，以及聯(lián)合國和G7等組織都在著手制定AI監(jiān)管規(guī)則。

不過，對于歐盟的法案，Harbottle & Lewis律師事務(wù)所合伙人Emma Wright擔(dān)心，隨著快速發(fā)展的技術(shù)不斷發(fā)展，該法案可能很快就會過時。“考慮到技術(shù)變革的速度——正如去年生成式AI的推出所顯示的那樣——歐盟AI法案很快就會過時，特別是考慮到實施的時間框架，”她說道。