信息量很大！“ChatGPT之父”國會(huì)首秀：可讓開發(fā)AI模型公司持牌、可建國際監(jiān)管機(jī)構(gòu)

每經(jīng)編輯 畢陸名

當(dāng)?shù)貢r(shí)間周二（5月16日），“ChatGPT之父”山姆·阿爾特曼（Sam Altman）首次在美國國會(huì)作證，他呼吁美政府對(duì)人工智能（AI）技術(shù)進(jìn)行更嚴(yán)厲的監(jiān)管，并表示他掌管的OpenAI以及谷歌等同行都應(yīng)當(dāng)承受壓力。Altman呼吁國會(huì)對(duì)AI系統(tǒng)采取安全標(biāo)準(zhǔn)。

據(jù)澎湃新聞5月15日報(bào)道，阿爾特曼在最新的訪談中表示，可以建立一個(gè)類似于國際原子能機(jī)構(gòu)的AI機(jī)構(gòu)，讓每個(gè)人都參與到對(duì)極其強(qiáng)大的AI訓(xùn)練系統(tǒng)的全球監(jiān)管機(jī)構(gòu)中來。在訪談中，奧特曼還談到了自己如何使用ChatGPT，開源AI與閉源AI各自的特點(diǎn)與發(fā)展路徑。他認(rèn)為，帶有人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）不是正確的長期解決方案。

提議頒發(fā)AI開發(fā)許可

在這場美國參議院司法委員會(huì)舉行的聽證會(huì)上，Altman做開場白時(shí)就指出：“我們認(rèn)為，對(duì)于減少日益強(qiáng)大的模型的風(fēng)險(xiǎn)而言，政府的監(jiān)管干預(yù)至關(guān)重要。”

山姆·阿爾特曼（圖片來源：視覺中國）

他認(rèn)為，美國政府可以監(jiān)管AI行業(yè)的一種方式是，為開發(fā)功能最強(qiáng)大的AI系統(tǒng)的公司，實(shí)行持牌制度。如果有公司要開發(fā)和發(fā)布超出能力閥值的AI模型，政府可以將發(fā)放牌照和測試的要求結(jié)合起來，對(duì)他們予以監(jiān)管。

他還提到一種可能采取的解決方案，建立一個(gè)國際性的監(jiān)管方委員會(huì)，由美國領(lǐng)導(dǎo)。

Altman稱：“我最擔(dān)心的是（AI行業(yè)）會(huì)對(duì)世界造成重大傷害”。他說，AI可能被用于操縱選民以及有針對(duì)性的假消息是他“最關(guān)心的一些領(lǐng)域”，尤其是因?yàn)槊绹?ldquo;明年將面臨選舉，而這些（AI）模型正在變得更好。”

同時(shí)，阿爾特曼還說道，ChatGPT-4將使一些工作實(shí)現(xiàn)自動(dòng)化，同時(shí)將帶來新的工作機(jī)會(huì)。他還透露，目前公司并沒有訓(xùn)練GPT-5，未來六個(gè)月也沒有這方面的計(jì)劃。

據(jù)財(cái)聯(lián)社5月17日報(bào)道，與之前準(zhǔn)備好的證詞一致，阿爾特曼對(duì)監(jiān)管政策的初步建議主要集中在“AI開發(fā)許可”上。如此一來，只有獲得過許可的企業(yè)，才能發(fā)布新的人工智能模型并進(jìn)行一系列測試。

一同出席聽證會(huì)的IBM首席隱私和信任官克里斯蒂娜.蒙哥馬利認(rèn)為，應(yīng)該要求人工智能產(chǎn)品在與用戶互動(dòng)時(shí)保持透明可信。

她還告訴議員，雖然國會(huì)尚未設(shè)定相關(guān)要求，但I(xiàn)BM內(nèi)部已經(jīng)組建了AI道德委員會(huì)。

歐盟欲出臺(tái)全球首個(gè)AI法案

據(jù)第一財(cái)經(jīng)5月13日消息，歐洲議會(huì)正就全球首部人工智能（AI）法案展開大規(guī)模協(xié)商，光修正案就有一千多項(xiàng)，創(chuàng)下了歐洲議會(huì)史上之最。當(dāng)?shù)貢r(shí)間11日，歐洲議會(huì)內(nèi)部市場委員會(huì)和公民自由委員會(huì)以84票贊成、7票反對(duì)和12票棄權(quán)通過關(guān)于《AI法案》的談判授權(quán)草案，其中包含了有關(guān)面部識(shí)別、生物識(shí)別監(jiān)控和其他AI應(yīng)用使用的新規(guī)則，并提出了嚴(yán)格監(jiān)管ChatGPT等AI工具的新思路。

圖片來源：視覺中國

領(lǐng)導(dǎo)上述法案制定的歐洲議會(huì)議員土多拉舍（Drago?Tudorache）表示，歐盟的《AI法案》是全球首個(gè)此類立法，“歐盟可以在全球范圍內(nèi)帶頭使AI以人為本，（變得）值得信賴和安全”。

目前的提案采取了分級(jí)管理的思路，即基于AI的四個(gè)等級(jí)（從風(fēng)險(xiǎn)最小到不可接受），進(jìn)行區(qū)別管理，風(fēng)險(xiǎn)較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的規(guī)則，需要更高的透明度和準(zhǔn)確性。

歐洲議會(huì)認(rèn)為，對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的AI系統(tǒng)將被嚴(yán)格禁止，包括部署潛意識(shí)或有目的操縱技術(shù)、利用人們?nèi)觞c(diǎn)或用于社會(huì)評(píng)分的系統(tǒng)。

根據(jù)目前的時(shí)間表，該法案將于6月提交歐洲議會(huì)全體表決，之后歐洲議會(huì)、歐盟理事會(huì)和歐盟委員會(huì)的代表將在“三方”會(huì)談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

除了歐洲，全球各地越來越擔(dān)心快速發(fā)展的AI技術(shù)可能被濫用。美國聯(lián)邦貿(mào)易委員會(huì)此前發(fā)出警告，稱“正在密切關(guān)注公司如何選擇使用AI技術(shù)，包括新的生成人工智能工具，以及對(duì)消費(fèi)者產(chǎn)生實(shí)際和實(shí)質(zhì)性影響的方式”。

據(jù)環(huán)球網(wǎng)報(bào)道，5月4日，拜登政府則宣布對(duì)“值得信賴的”人工智能增加新投資。同日，美國副總統(tǒng)哈里斯以及多位白宮高級(jí)官員與谷歌、微軟、OpenAI和AI初創(chuàng)公司Anthropic的首席執(zhí)行官會(huì)面，集中討論當(dāng)前和近期的技術(shù)發(fā)展所帶來的風(fēng)險(xiǎn)。

每日經(jīng)濟(jì)新聞綜合第一財(cái)經(jīng)、環(huán)球網(wǎng)、澎湃新聞、財(cái)聯(lián)社

封面圖片來源：視覺中國