大動(dòng)作？白宮召集谷歌、微軟、OpenAI高層開會(huì)！拜登邀請(qǐng)函透露重要信號(hào)

每經(jīng)編輯 畢陸名

AI監(jiān)管持續(xù)升級(jí)？

據(jù)第一財(cái)經(jīng)5月3日?qǐng)?bào)道，白宮官員向美國(guó)科技巨頭發(fā)出了邀請(qǐng)，希望與行業(yè)企業(yè)領(lǐng)導(dǎo)者共同探討針對(duì)人工智能的監(jiān)管問題。此次會(huì)面將于5月4日舉行，參加的科技公司包括谷歌、微軟和OpenAI等公司高管。美國(guó)總統(tǒng)拜登稱，希望科技公司在向公眾提供產(chǎn)品之前必須確保其產(chǎn)品安全。

近日宣布離開谷歌公司的“AI教父”杰弗里·辛頓（Geoffrey Hinton）表示，他擔(dān)心互聯(lián)網(wǎng)將充斥虛假照片、視頻和文字，普通人“無法再辨別真假”。此外，辛頓還擔(dān)心人工智能技術(shù)的“未來版本”會(huì)對(duì)人類構(gòu)成威脅，因?yàn)?ldquo;它們經(jīng)常從分析的大量數(shù)據(jù)中學(xué)習(xí)到意想不到的行為”，并且目前無法想象如何防止壞人利用AI做壞事。

白宮將召集谷歌等高層開會(huì)

美東時(shí)間周三，據(jù)路透社報(bào)道，白宮官員證實(shí)，谷歌、微軟、OpenAI和人工智能（AI）研究公司Anthropic的首席執(zhí)行官，將于當(dāng)?shù)貢r(shí)間周四與美國(guó)副總統(tǒng)卡瑪拉·哈里斯和高級(jí)政府官員會(huì)面，討論人工智能的關(guān)鍵問題。

路透看到的邀請(qǐng)函顯示，拜登總統(tǒng)表示，“希望像你們這樣的公司在向公眾提供產(chǎn)品之前，必須確保產(chǎn)品是安全的”。人們擔(dān)心，快速發(fā)展的AI技術(shù)可能侵犯隱私并懷有偏見，散布謠言和虛假信息。

圖片來源：視覺中國(guó)

白宮表示，此次會(huì)議旨在強(qiáng)調(diào)開發(fā)安全可靠的人工智能的責(zé)任，以減輕潛在的危害。哈里斯將在此次會(huì)議上提出AI保障措施的要求，以減輕AI的潛在風(fēng)險(xiǎn)，并強(qiáng)調(diào)道德和值得信賴的創(chuàng)新的重要性。

美國(guó)政府的其他高級(jí)官員也將出席，包括白宮幕僚長(zhǎng)Jeffrey Zients、副幕僚長(zhǎng)Bruce Reed、國(guó)家安全顧問Jake Sullivan、國(guó)家經(jīng)濟(jì)委員會(huì)主任Lael Brainard和商務(wù)部長(zhǎng)Gina Raimondo、首席國(guó)內(nèi)政策顧問Susan Rice等。

據(jù)路透報(bào)道，白宮科技政策辦公室主任Arati Prabhakar在邀請(qǐng)函中寫道：“我們的目標(biāo)是可以坦率地討論各自在當(dāng)前和近期人工智能發(fā)展中看到的風(fēng)險(xiǎn)、減輕這些風(fēng)險(xiǎn)的行動(dòng)，以及我們可以共同努力的其他方式，以確保美國(guó)人民從人工智能的進(jìn)步中受益，同時(shí)免受其傷害。”

自去年ChatGPT問世以來，引發(fā)了巨大的社會(huì)爭(zhēng)議。由于AI的能力已經(jīng)遠(yuǎn)超人們的預(yù)期，批評(píng)者對(duì)快速發(fā)展的AI技術(shù)的擔(dān)憂包括侵犯隱私、偏見、欺詐以及散播謠言和虛假信息等。行業(yè)技術(shù)領(lǐng)導(dǎo)者近期也不斷呼吁警惕AI帶來的風(fēng)險(xiǎn)。

上個(gè)月，拜登已經(jīng)強(qiáng)調(diào)了對(duì)人工智能相關(guān)產(chǎn)品監(jiān)管的必要性，盡管他表示，人工智能是否具有真正的威脅還有待進(jìn)一步觀察。拜登稱，社交媒體已經(jīng)說明了強(qiáng)大的AI技術(shù)在沒有正確保護(hù)措施的情況下可能造成的危害。

多國(guó)加快推進(jìn)人工智能應(yīng)用監(jiān)管

除了美國(guó)外，歐盟立法者也在加快推進(jìn)對(duì)人工智能技術(shù)的監(jiān)管。

據(jù)經(jīng)濟(jì)參考報(bào)4月27日?qǐng)?bào)道，歐盟委員會(huì)執(zhí)行副主席、競(jìng)爭(zhēng)專員瑪格麗特·維斯塔格4月24日接受《日本經(jīng)濟(jì)新聞》采訪時(shí)表示，關(guān)于ChatGPT等生成式AI，“將盡快頒布”在整個(gè)歐盟實(shí)施監(jiān)管的新法規(guī)，制定合理使用生成式AI的統(tǒng)一規(guī)則，降低用戶風(fēng)險(xiǎn)。

作為監(jiān)管方案，維斯塔格提出了在AI生成的文章和圖像上顯示“用AI制作”等標(biāo)簽的方案，還透露了提供生成式AI的企業(yè)有義務(wù)進(jìn)行說明的想法。

多國(guó)均在加快推進(jìn)人工智能技術(shù)的發(fā)展，并看重該技術(shù)推動(dòng)經(jīng)濟(jì)增長(zhǎng)的潛力。英國(guó)政府近日宣布，向負(fù)責(zé)構(gòu)建英國(guó)版人工智能基礎(chǔ)模型的團(tuán)隊(duì)提供1億英鎊（約合1.25億美元）起始資金，以幫助英國(guó)加速發(fā)展人工智能技術(shù)。這些人工智能的基礎(chǔ)模型包括類似ChatGPT的大語言模型，可用于醫(yī)療和教育領(lǐng)域。

英國(guó)政府4月24日發(fā)布的新聞稿表示，上述投資將用于資助由政府和行業(yè)共建的新團(tuán)隊(duì)，以確保英國(guó)的人工智能“主權(quán)能力”，廣泛應(yīng)用安全可靠的基礎(chǔ)模型，到2030年使英國(guó)成為科技“超級(jí)大國(guó)”。

圖片來源：視覺中國(guó)

英國(guó)首相里希·蘇納克說：“利用人工智能的潛力，可以為我們帶來巨大的經(jīng)濟(jì)發(fā)展機(jī)遇，創(chuàng)造更高薪工作，以及通過醫(yī)療和安全領(lǐng)域的發(fā)展構(gòu)筑一個(gè)更美好的未來。”英國(guó)政府預(yù)測(cè)，人工智能技術(shù)將在今后10年間讓全球所有經(jīng)濟(jì)體的國(guó)內(nèi)生產(chǎn)總值（GDP）總和提升7%。

“AI教父”說出人工智能危險(xiǎn)之處

據(jù)環(huán)球時(shí)報(bào)5月4日?qǐng)?bào)道，現(xiàn)年75歲的前谷歌科學(xué)家杰弗里·辛頓在神經(jīng)網(wǎng)絡(luò)領(lǐng)域長(zhǎng)期從事開創(chuàng)性工作，為人工智能（AI）技術(shù)的發(fā)展奠定基礎(chǔ)，因此在業(yè)內(nèi)被稱為“人工智能教父”。5月1日，《紐約時(shí)報(bào)》率先曝光他已從谷歌離職。在接受《紐約時(shí)報(bào)》和美國(guó)有線電視新聞網(wǎng)（CNN）采訪時(shí)，辛頓坦言，他之所以離開谷歌，就是為了完全自由地說出人工智能所帶來的危險(xiǎn)，甚至還說他對(duì)自己在人工智能領(lǐng)域所付出的貢獻(xiàn)感到懊悔。

辛頓稱，人工智能不僅會(huì)導(dǎo)致大量工作崗位消失，而且會(huì)導(dǎo)致人們沒辦法知道到底什么才是真實(shí)的。5月2日，他在CNN節(jié)目中表示，如果人工智能變得比人類聰明得多，就會(huì)對(duì)人類進(jìn)行操控；人工智能知道怎么編程，就會(huì)想辦法繞開人類對(duì)其設(shè)置的限制。蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克也在CNN節(jié)目上現(xiàn)身說法，表達(dá)他對(duì)人工智能散布虛假信息的關(guān)切。杰弗里·辛頓（Geoffrey Hinton）表示，他擔(dān)心互聯(lián)網(wǎng)將充斥虛假照片、視頻和文字，普通人“無法再辨別真假”。

此外，辛頓還擔(dān)心人工智能技術(shù)的“未來版本”會(huì)對(duì)人類構(gòu)成威脅，因?yàn)?ldquo;它們經(jīng)常從分析的大量數(shù)據(jù)中學(xué)習(xí)到意想不到的行為”，并且目前無法想象如何防止壞人利用AI做壞事。沃茲尼亞克認(rèn)為“或許需要某種類型的法規(guī)”對(duì)人工智能技術(shù)實(shí)施監(jiān)管。

今年3月底，包括馬斯克在內(nèi)的許多科技產(chǎn)業(yè)人士聯(lián)署了一封公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練人工智能系統(tǒng)至少6個(gè)月。辛頓說：“我認(rèn)為我們沒辦法阻止人工智能的發(fā)展，因此我沒有簽署這封信。”辛頓承認(rèn)，他也不知道未來該如何處理這一問題。

每日經(jīng)濟(jì)新聞綜合經(jīng)濟(jì)參考報(bào)、環(huán)球時(shí)報(bào)、第一財(cái)經(jīng)

封面圖片來源：視覺中國(guó)