“可能給人類帶來滅絕風險！”O(jiān)penAI創(chuàng)始人領銜，超過350位大佬聯名呼吁：AI堪比“疫情和核戰(zhàn)爭”

每經編輯 畢陸名

自從生成式AI以勢如破竹的速度席卷幾乎每一個領域，AI挑戰(zhàn)人類的擔憂也越來越真實。日前，超過350名人工智能（AI）領域的行業(yè)高管、專家和教授簽署了一封公開信，他們在信中警告稱，AI可能給人類帶來滅絕風險。

非營利組織人工智能安全中心（Center for AI Safety）本周二發(fā)布簡短聲明：“將減輕人工智能帶來的滅絕風險，放在和流行病、核戰(zhàn)等社會問題同一高度，作為全球優(yōu)先事項推進”。簽署者包括OpenAI首席執(zhí)行官山姆·奧特曼等高管。

“AI可能給人類帶來滅絕風險”

這封信于周二發(fā)表在非營利組織人工智能安全中心(CAIS)的網站上，簽署者包括OpenAI首席執(zhí)行官山姆·奧特曼、DeepMind首席執(zhí)行官Demis Hassabis、Anthropic首席執(zhí)行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話，整份聲明才22個字（英文），全部內容如下：“減輕AI帶來的滅絕風險，應該與流行病和核戰(zhàn)爭等其他社會規(guī)模的風險一起，成為全球優(yōu)先事項。”

上面的倡議已得到了多位AI行業(yè)大佬的支持，超過350位AI領域高管和專家簽署了這份聲明。

其中主要人物有：

Google DeepMind首席執(zhí)行官戴米斯?哈薩比斯（Demis Hassabis）、OpenAI首席執(zhí)行官山姆?奧特曼（Sam Altman）、“AI教父”杰弗里?辛頓（Geoffrey Hinton）、2018年圖靈獎得主約書亞?本希奧（Youshua Bengio）、Anthropic的首席執(zhí)行官達里奧?阿莫代（Dario Amodei）。

該網站表示：人工智能專家、記者、政策制定者和公眾越來越多地討論人工智能帶來的重要和緊迫的廣泛風險。即便如此，也很難表達對先進人工智能的一些最嚴重風險的擔憂。

自聊天機器人ChatGPT掀起AI熱潮以來，對這項技術潛在風險的擔憂持續(xù)增加。

今年3月，包括特斯拉CEO埃隆·馬斯克在內的1000多名行業(yè)高管和專家簽署公開信，呼吁在6個月內暫停高級AI的開發(fā)。馬斯克等人在信中寫道，高級AI可能會對社會和人類構成深遠的風險。

G7呼吁出臺AI技術標準

據第一財經5月21日報道，21日，七國集團（G7）領導人就制定和建立人工智能（AI）技術標準作出呼吁，敦促行業(yè)和監(jiān)管者確保人工智能“值得信賴”。他們還稱，目前的技術治理未能跟上人工智能的發(fā)展步伐。

盡管人工智能技術提供了許多好處，但它們的發(fā)展速度超過了監(jiān)管機構能夠跟上的速度。

5月20日在日本廣島舉行的G7領導人會議上發(fā)表的一份聲明稱，人工智能等數字技術的規(guī)則應該“符合人們共同的價值觀”。

峰會還達成共識，在今年年底之前創(chuàng)建一個專門討論人工智能進展的部長級論壇，討論圍繞生成式人工智能的問題，例如版權和打擊虛假信息。

圖片來源：視覺中國

歐洲一直走在人工智能監(jiān)管的前沿。歐盟本月已經接近通過一項人工智能技術監(jiān)管的立法，這也有望成為全球首部全面的人工智能法案，并可能成為發(fā)達經濟體的先例。

“我們希望人工智能系統(tǒng)準確、可靠、安全且無歧視，無論其來源如何。”歐盟委員會主席烏爾蘇拉·馮德萊恩5月19日表示。

G7領導人還表示，他們需要盡快評估有關生成式人工智能的機遇和挑戰(zhàn)，這也是近期ChatGPT引爆的一個技術熱點。

盡管各個國家都呼吁加強對人工智能的監(jiān)管，但各國政府對于人工智能的態(tài)度也有差異。

據澎湃新聞5月26日報道，在美國國會聽證會上呼吁設立新機構監(jiān)管AI后，OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）又展開歐洲之旅，面見各國政府首腦，并在高校參加對話活動，重申監(jiān)管建議。在接受媒體采訪時，他警告稱，因為歐盟正在制定的AI法規(guī)，OpenAI可能會從歐洲市場撤出其服務。

其他科技大企業(yè)也不甘示弱。當地時間5月25日，微軟總裁布拉德·史密斯（Brad Smith）在華盛頓與美國議員一起主持了一場備受矚目的活動，推出了微軟關于政府應該如何監(jiān)管AI的建議。

前一天，谷歌首席執(zhí)行官桑德爾·皮查伊（Sundar Pichai）在布魯塞爾與歐盟官員會晤討論AI政策，他強調，需要對技術進行適當監(jiān)管且不會扼殺創(chuàng)新。

每日經濟新聞綜合第一財經、澎湃新聞、非營利組織人工智能安全中心(CAIS)

封面圖片來源：視覺中國