超1000人公開(kāi)信呼吁停止AI訓(xùn)練，OpenAI創(chuàng)始人也簽名了？真相是……

每經(jīng)編輯 黃勝    

人工智能風(fēng)口正盛，一封呼吁暫停大型AI研究的公開(kāi)信在硅谷科技圈流傳開(kāi)來(lái)，激起千層浪。

最具戲劇性的是，OpenAI CEO Sam Altman的名字也曾赫然出現(xiàn)在公開(kāi)信上。《每日經(jīng)濟(jì)新聞》注意到，在簽名名單里的尾部，赫然出現(xiàn)了阿爾特曼的名字。簽名中OpenAI最后一個(gè)字母為小寫，或有故意之嫌疑。

圖片來(lái)源：futureoflife.org

簽署人之一、紐約大學(xué)著名AI研究者Gary Marcus也在推特上發(fā)問(wèn)：“是你嗎，山姆？”

圖片來(lái)源：GaryMarcus@twitter

據(jù)華爾街見(jiàn)聞，不過(guò)周三晚些時(shí)候被證實(shí)是虛假簽名，Altman在接受媒體采訪時(shí)，他并沒(méi)有計(jì)劃呼吁暫停人工智能的開(kāi)發(fā)。

Altman并不同意這封信的觀點(diǎn)，他指出：OpenAI不僅非常重視AI安全，而且比業(yè)內(nèi)其他公司更重視。我們談?wù)撨@些問(wèn)題的聲音最大、強(qiáng)度最大、時(shí)間最長(zhǎng)。

“馬斯克們”呼吁暫停，OpenAI創(chuàng)始人：AI需要政府與社會(huì)的共同監(jiān)管

北京時(shí)間3月29日，由圖靈獎(jiǎng)得主、深度學(xué)習(xí)三巨頭之一約書亞·本吉奧（Yoshua Bengio），埃隆·馬斯克，《人類簡(jiǎn)史》作者尤瓦爾·赫拉利等人聯(lián)名發(fā)表公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，為期至少6個(gè)月，以確保人類能夠有效管理其風(fēng)險(xiǎn)。暫停工作應(yīng)該是公開(kāi)且可以證實(shí)的，如果AI實(shí)驗(yàn)室不能快速暫停，各國(guó)政府應(yīng)該實(shí)行暫停令。

值得注意的是，馬斯克作為OpenAI的共同創(chuàng)始人之一，一直也毫不掩蓋他對(duì)OpenAI的敵意，認(rèn)為其過(guò)商業(yè)化，從開(kāi)源變成了“閉源”，已經(jīng)忘了非盈利和開(kāi)放的“初心”。但最近也有新聞指出，馬斯克之所以如此敵視OpenAI，是因?yàn)?018年?duì)帄ZOpenAI經(jīng)營(yíng)權(quán)失敗，所以撤資走人。

此外，簽名人還包括蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、2020年美國(guó)總統(tǒng)選舉民主黨初選候選人楊安澤、AI經(jīng)典教科書《人工智能: 一種現(xiàn)代方法》作者Stuart Russell、AI領(lǐng)軍公司DeepMind的一眾研究人員等。

截至29日，這份公開(kāi)信已經(jīng)征集到1128份簽名。

圖片來(lái)源：futureoflife.org

公開(kāi)信指出，AI現(xiàn)在已經(jīng)能和人類競(jìng)爭(zhēng)，將給人類社會(huì)帶來(lái)深刻的變革。在這個(gè)關(guān)鍵時(shí)刻，我們必須思考AI的潛在風(fēng)險(xiǎn)：假新聞和宣傳充斥信息渠道、大量工作被自動(dòng)化取代、人工智能甚至有一天會(huì)比人類更聰明、更強(qiáng)大，讓我們失去對(duì)人類文明的掌控。這些問(wèn)題不應(yīng)該交給“未經(jīng)民選的科技領(lǐng)袖”來(lái)決定。

然而，各大AI實(shí)驗(yàn)室為了開(kāi)發(fā)和應(yīng)用更加強(qiáng)大的人工智能，最近幾個(gè)月已經(jīng)陷入了“失控”的競(jìng)賽，甚至連AI系統(tǒng)的創(chuàng)始人也并不能完全理解、預(yù)測(cè)和有效控制其風(fēng)險(xiǎn)，相應(yīng)的計(jì)劃和管理工作沒(méi)有跟上。

實(shí)際上，面對(duì)OpenAI產(chǎn)品在全球的火爆程度，OpenAI創(chuàng)始人兼CEO山姆·阿爾特曼自己也感到有些害怕。他近日在接受媒體采訪時(shí)表示，自己對(duì)AI如何影響勞動(dòng)力市場(chǎng)、選舉和虛假信息的傳播有些“害怕”。AI需要政府和社會(huì)共同參與監(jiān)管，用戶反饋和規(guī)則制定對(duì)抑制AI的負(fù)面影響非常重要。

OpenAI CEO：“AI確實(shí)可能殺死人類”

據(jù)澎湃新聞3月28日?qǐng)?bào)道，OpenAI CEO山姆·奧特曼稱，并不否認(rèn)過(guò)分強(qiáng)大的AGI“可能殺死人類”這一觀點(diǎn)。必須承認(rèn)，（AI殺死人類）有一定可能性。很多關(guān)于AI安全和挑戰(zhàn)的預(yù)測(cè)被證明是錯(cuò)誤的，我們必須正視這一點(diǎn)，并盡早嘗試找到解決問(wèn)題的方法。

圖片來(lái)源：視覺(jué)中國(guó)

值得注意的是，據(jù)財(cái)聯(lián)社報(bào)道，近日，挪威機(jī)器人公司1X Technologies宣布完成A2輪融資，共籌集到2350萬(wàn)美元。OpenAI旗下創(chuàng)業(yè)基金領(lǐng)投此輪融資，Tiger Global以及一群挪威投資者也參與其中。

獲得融資后，該公司創(chuàng)始人進(jìn)一步表示，“1X很高興能得到OpenAI的領(lǐng)投，因?yàn)槲覀兊氖姑且恢碌模簩⑿屡d技術(shù)有意識(shí)地融入人們的日常生活。在我們投資者的支持下，我們將繼續(xù)在機(jī)器人領(lǐng)域取得重大進(jìn)展，并增強(qiáng)全球勞動(dòng)力市場(chǎng)。”

值得注意的是，人形機(jī)器人也是馬斯克十分關(guān)注的方向。去年9月30日舉辦的特斯拉AI日上，馬斯克展示了外界引頸期盼的人形機(jī)器人Optimus，馬斯克曾表示，機(jī)器人業(yè)務(wù)將比汽車更具價(jià)值。

彼時(shí)，馬斯克在發(fā)布會(huì)上表示，目前的人形機(jī)器人沒(méi)有“大腦”，沒(méi)有能在現(xiàn)實(shí)世界中導(dǎo)航的智能，而且非常昂貴且產(chǎn)量低。如今，OpenAI與人形機(jī)器人的牽手則讓人期待。

每日經(jīng)濟(jì)新聞綜合華爾街見(jiàn)聞、每經(jīng)網(wǎng)（記者：李孟林）、澎湃新聞、財(cái)聯(lián)社

封面圖片來(lái)源：視覺(jué)中國(guó)-VCG41N1356593648