“可能給人類(lèi)帶來(lái)滅絕風(fēng)險(xiǎn)！”O(jiān)penAI創(chuàng)始人領(lǐng)銜，超過(guò)350位大佬聯(lián)名呼吁：AI堪比“疫情和核戰(zhàn)爭(zhēng)”

每經(jīng)編輯 畢陸名

自從生成式AI以勢(shì)如破竹的速度席卷幾乎每一個(gè)領(lǐng)域，AI挑戰(zhàn)人類(lèi)的擔(dān)憂也越來(lái)越真實(shí)。日前，超過(guò)350名人工智能（AI）領(lǐng)域的行業(yè)高管、專(zhuān)家和教授簽署了一封公開(kāi)信，他們?cè)谛胖芯娣Q(chēng)，AI可能給人類(lèi)帶來(lái)滅絕風(fēng)險(xiǎn)。

非營(yíng)利組織人工智能安全中心（Center for AI Safety）本周二發(fā)布簡(jiǎn)短聲明：“將減輕人工智能帶來(lái)的滅絕風(fēng)險(xiǎn)，放在和流行病、核戰(zhàn)等社會(huì)問(wèn)題同一高度，作為全球優(yōu)先事項(xiàng)推進(jìn)”。簽署者包括OpenAI首席執(zhí)行官山姆·奧特曼等高管。

“AI可能給人類(lèi)帶來(lái)滅絕風(fēng)險(xiǎn)”

這封信于周二發(fā)表在非營(yíng)利組織人工智能安全中心(CAIS)的網(wǎng)站上，簽署者包括OpenAI首席執(zhí)行官山姆·奧特曼、DeepMind首席執(zhí)行官Demis Hassabis、Anthropic首席執(zhí)行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話，整份聲明才22個(gè)字（英文），全部?jī)?nèi)容如下：“減輕AI帶來(lái)的滅絕風(fēng)險(xiǎn)，應(yīng)該與流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一起，成為全球優(yōu)先事項(xiàng)。”

上面的倡議已得到了多位AI行業(yè)大佬的支持，超過(guò)350位AI領(lǐng)域高管和專(zhuān)家簽署了這份聲明。

其中主要人物有：

Google DeepMind首席執(zhí)行官戴米斯?哈薩比斯（Demis Hassabis）、OpenAI首席執(zhí)行官山姆?奧特曼（Sam Altman）、“AI教父”杰弗里?辛頓（Geoffrey Hinton）、2018年圖靈獎(jiǎng)得主約書(shū)亞?本希奧（Youshua Bengio）、Anthropic的首席執(zhí)行官達(dá)里奧?阿莫代（Dario Amodei）。

該網(wǎng)站表示：人工智能專(zhuān)家、記者、政策制定者和公眾越來(lái)越多地討論人工智能帶來(lái)的重要和緊迫的廣泛風(fēng)險(xiǎn)。即便如此，也很難表達(dá)對(duì)先進(jìn)人工智能的一些最嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂。

自聊天機(jī)器人ChatGPT掀起AI熱潮以來(lái)，對(duì)這項(xiàng)技術(shù)潛在風(fēng)險(xiǎn)的擔(dān)憂持續(xù)增加。

今年3月，包括特斯拉CEO埃隆·馬斯克在內(nèi)的1000多名行業(yè)高管和專(zhuān)家簽署公開(kāi)信，呼吁在6個(gè)月內(nèi)暫停高級(jí)AI的開(kāi)發(fā)。馬斯克等人在信中寫(xiě)道，高級(jí)AI可能會(huì)對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。

G7呼吁出臺(tái)AI技術(shù)標(biāo)準(zhǔn)

據(jù)第一財(cái)經(jīng)5月21日?qǐng)?bào)道，21日，七國(guó)集團(tuán)（G7）領(lǐng)導(dǎo)人就制定和建立人工智能（AI）技術(shù)標(biāo)準(zhǔn)作出呼吁，敦促行業(yè)和監(jiān)管者確保人工智能“值得信賴(lài)”。他們還稱(chēng)，目前的技術(shù)治理未能跟上人工智能的發(fā)展步伐。

盡管人工智能技術(shù)提供了許多好處，但它們的發(fā)展速度超過(guò)了監(jiān)管機(jī)構(gòu)能夠跟上的速度。

5月20日在日本廣島舉行的G7領(lǐng)導(dǎo)人會(huì)議上發(fā)表的一份聲明稱(chēng)，人工智能等數(shù)字技術(shù)的規(guī)則應(yīng)該“符合人們共同的價(jià)值觀”。

峰會(huì)還達(dá)成共識(shí)，在今年年底之前創(chuàng)建一個(gè)專(zhuān)門(mén)討論人工智能進(jìn)展的部長(zhǎng)級(jí)論壇，討論圍繞生成式人工智能的問(wèn)題，例如版權(quán)和打擊虛假信息。

圖片來(lái)源：視覺(jué)中國(guó)

歐洲一直走在人工智能監(jiān)管的前沿。歐盟本月已經(jīng)接近通過(guò)一項(xiàng)人工智能技術(shù)監(jiān)管的立法，這也有望成為全球首部全面的人工智能法案，并可能成為發(fā)達(dá)經(jīng)濟(jì)體的先例。

“我們希望人工智能系統(tǒng)準(zhǔn)確、可靠、安全且無(wú)歧視，無(wú)論其來(lái)源如何。”歐盟委員會(huì)主席烏爾蘇拉·馮德萊恩5月19日表示。

G7領(lǐng)導(dǎo)人還表示，他們需要盡快評(píng)估有關(guān)生成式人工智能的機(jī)遇和挑戰(zhàn)，這也是近期ChatGPT引爆的一個(gè)技術(shù)熱點(diǎn)。

盡管各個(gè)國(guó)家都呼吁加強(qiáng)對(duì)人工智能的監(jiān)管，但各國(guó)政府對(duì)于人工智能的態(tài)度也有差異。

據(jù)澎湃新聞5月26日?qǐng)?bào)道，在美國(guó)國(guó)會(huì)聽(tīng)證會(huì)上呼吁設(shè)立新機(jī)構(gòu)監(jiān)管AI后，OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）又展開(kāi)歐洲之旅，面見(jiàn)各國(guó)政府首腦，并在高校參加對(duì)話活動(dòng)，重申監(jiān)管建議。在接受媒體采訪時(shí)，他警告稱(chēng)，因?yàn)闅W盟正在制定的AI法規(guī)，OpenAI可能會(huì)從歐洲市場(chǎng)撤出其服務(wù)。

其他科技大企業(yè)也不甘示弱。當(dāng)?shù)貢r(shí)間5月25日，微軟總裁布拉德·史密斯（Brad Smith）在華盛頓與美國(guó)議員一起主持了一場(chǎng)備受矚目的活動(dòng)，推出了微軟關(guān)于政府應(yīng)該如何監(jiān)管AI的建議。

前一天，谷歌首席執(zhí)行官桑德?tīng)?middot;皮查伊（Sundar Pichai）在布魯塞爾與歐盟官員會(huì)晤討論AI政策，他強(qiáng)調(diào)，需要對(duì)技術(shù)進(jìn)行適當(dāng)監(jiān)管且不會(huì)扼殺創(chuàng)新。

每日經(jīng)濟(jì)新聞綜合第一財(cái)經(jīng)、澎湃新聞、非營(yíng)利組織人工智能安全中心(CAIS)

封面圖片來(lái)源：視覺(jué)中國(guó)