每日經(jīng)濟(jì)新聞 2023-03-29 13:43:49
每經(jīng)編輯 畢陸名
當(dāng)全社會(huì)都在為AI的進(jìn)化而歡呼雀躍時(shí),多位科技領(lǐng)袖也表達(dá)了深切擔(dān)憂。
據(jù)生命未來(lái)研究所官網(wǎng),3月22日,生命未來(lái)研究所(Future of Life)向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信,呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練,暫停時(shí)間至少為6個(gè)月。該機(jī)構(gòu)以“引導(dǎo)變革性技術(shù)造福生活,遠(yuǎn)離極端的大規(guī)模風(fēng)險(xiǎn)”為使命。
信中寫(xiě)道“只有在我們確信它們的效果是積極的,風(fēng)險(xiǎn)是可控的情況下,才應(yīng)該開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)。”馬斯克此前曾多次表達(dá)對(duì)人工智能的擔(dān)憂,認(rèn)為人工智能是未來(lái)人類(lèi)文明最大的風(fēng)險(xiǎn)之一,威脅程度遠(yuǎn)高于車(chē)禍、飛機(jī)失事、毒品泛濫等甚至比核武器都危險(xiǎn)得多。
截至目前,馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI創(chuàng)始人Emad Mostaque等上千名科技大佬和AI專(zhuān)家已經(jīng)簽署公開(kāi)信。
值得一提的是,OpenAI CEO奧特曼在與MIT研究科學(xué)家Lex Fridman的最新對(duì)話中指出,AI已經(jīng)出現(xiàn)其無(wú)法解釋的推理能力,同時(shí)承認(rèn)“AI殺死人類(lèi)”有一定可能性。
圖片來(lái)源:視覺(jué)中國(guó)
未來(lái)生命研究所的這封公開(kāi)信題為“暫停巨型AI實(shí)驗(yàn):一封公開(kāi)信”,于29日解封。
以下是公開(kāi)信原文:
正如廣泛的研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的,人工智能系統(tǒng)對(duì)社會(huì)和人類(lèi)構(gòu)成較大的風(fēng)險(xiǎn)。《阿西洛馬人工智能原則》中指出,高級(jí)人工智能可能代表著地球上生命歷史的深刻變革,應(yīng)該以相應(yīng)的謹(jǐn)慎和資源進(jìn)行規(guī)劃和管理。然而,盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮,開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字大腦,但目前沒(méi)有人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng),也沒(méi)有相應(yīng)水平的規(guī)劃和管理。
現(xiàn)在,人工智能在一般任務(wù)上變得與人類(lèi)有競(jìng)爭(zhēng)力,我們必須問(wèn)自己:我們應(yīng)該讓機(jī)器在信息渠道中宣傳不真實(shí)的信息嗎?我們是否應(yīng)該把所有的工作都自動(dòng)化,包括那些有成就感的工作?我們是否應(yīng)該開(kāi)發(fā)非人類(lèi)的大腦,使其最終超過(guò)人類(lèi)數(shù)量,勝過(guò)人類(lèi)的智慧,淘汰并取代人類(lèi)?我們是否應(yīng)該冒著失去對(duì)我們文明控制的風(fēng)險(xiǎn)?這樣的決定絕不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)的效果是積極的,其風(fēng)險(xiǎn)是可控的,才應(yīng)該開(kāi)發(fā)。同時(shí),這種信心必須得到驗(yàn)證,并隨著系統(tǒng)的潛在影響的大小而加強(qiáng)。OpenAI最近關(guān)于人工智能的聲明中指出,在開(kāi)始訓(xùn)練未來(lái)的系統(tǒng)之前,可能必須得到獨(dú)立的審查,對(duì)于最先進(jìn)的努力,同意限制用于創(chuàng)建新模型的計(jì)算增長(zhǎng)速度。我們同意,現(xiàn)在就該采取行動(dòng)。
因此,我們呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練,時(shí)間至少持續(xù)6個(gè)月。這種暫停應(yīng)該是公開(kāi)的、可核查的,并包括所有關(guān)鍵參與者者。如果這種禁令不能迅速實(shí)施,政府應(yīng)該介入并制定暫停令。
人工智能實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)在暫停期間,共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議,由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格的審查和監(jiān)督。這些協(xié)議應(yīng)該確保遵守協(xié)議的系統(tǒng)是安全的。值得一提的是,這并不意味著暫停一般的人工智能開(kāi)發(fā),只是從危險(xiǎn)的競(jìng)賽中退后一步,限制不可預(yù)測(cè)的研究和開(kāi)發(fā)。
人工智能的研究和開(kāi)發(fā)應(yīng)該重新聚焦于,使目前最先進(jìn)和強(qiáng)大的系統(tǒng)更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠(chéng)。
同時(shí),人工智能開(kāi)發(fā)者必須與政策制定者合作,大幅加快開(kāi)發(fā)強(qiáng)大的人工智能治理系統(tǒng)。這些至少應(yīng)該包括:專(zhuān)門(mén)針對(duì)人工智能的監(jiān)管機(jī)構(gòu);監(jiān)督和跟蹤高能力的人工智能系統(tǒng)和大型計(jì)算能力的硬件;出處和水印系統(tǒng)幫助區(qū)分真實(shí)和合成,并跟蹤模型泄漏;強(qiáng)大的審查和認(rèn)證生態(tài)系統(tǒng);對(duì)人工智能造成的傷害承擔(dān)責(zé)任;為人工智能安全技術(shù)研究提供強(qiáng)大的公共資金以及資源充足的機(jī)構(gòu),以應(yīng)對(duì)人工智能可能導(dǎo)致的巨大的經(jīng)濟(jì)和政治破壞。
人類(lèi)可以通過(guò)人工智能享受繁榮的未來(lái)?,F(xiàn)在,我們成功地創(chuàng)建了強(qiáng)大的人工智能系統(tǒng),可以在這個(gè)“人工智能之夏”中獲得回報(bào),為所有人的明確利益設(shè)計(jì)這些系統(tǒng),并給社會(huì)一個(gè)適應(yīng)的機(jī)會(huì)。停止使用其他技術(shù)可能會(huì)對(duì)社會(huì)造成災(zāi)難性影響,因此我們必須保持準(zhǔn)備狀態(tài)。讓我們享受一個(gè)漫長(zhǎng)的人工智能夏天,而不是匆忙進(jìn)入秋天。
截至發(fā)稿,這封信已有1127名科技領(lǐng)袖和研究人員簽名,除了馬斯克、辛頓和馬庫(kù)斯之外,還包括圖靈獎(jiǎng)得主約書(shū)亞·本希奧(Yoshua Bengio)、《人工智能:現(xiàn)代方法》作者斯圖爾特·羅素(Stuart Russell)、蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克(Steve Wozniak)、Stability AI首席執(zhí)行官埃馬德·莫斯塔克(Emad Mostaque)等科技界領(lǐng)袖人物。
據(jù)澎湃新聞3月28日?qǐng)?bào)道,OpenAI CEO山姆·奧特曼稱,并不否認(rèn)過(guò)分強(qiáng)大的AGI“可能殺死人類(lèi)”這一觀點(diǎn)。必須承認(rèn),(AI殺死人類(lèi))有一定可能性。很多關(guān)于AI安全和挑戰(zhàn)的預(yù)測(cè)被證明是錯(cuò)誤的,我們必須正視這一點(diǎn),并盡早嘗試找到解決問(wèn)題的方法。
值得注意的是,據(jù)財(cái)聯(lián)社報(bào)道,近日,挪威機(jī)器人公司1X Technologies宣布完成A2輪融資,共籌集到2350萬(wàn)美元。OpenAI旗下創(chuàng)業(yè)基金領(lǐng)投此輪融資,Tiger Global以及一群挪威投資者也參與其中。
獲得融資后,該公司創(chuàng)始人進(jìn)一步表示,“1X很高興能得到OpenAI的領(lǐng)投,因?yàn)槲覀兊氖姑且恢碌模簩⑿屡d技術(shù)有意識(shí)地融入人們的日常生活。在我們投資者的支持下,我們將繼續(xù)在機(jī)器人領(lǐng)域取得重大進(jìn)展,并增強(qiáng)全球勞動(dòng)力市場(chǎng)。”
值得注意的是,人形機(jī)器人也是馬斯克十分關(guān)注的方向。去年9月30日舉辦的特斯拉AI日上,馬斯克展示了外界引頸期盼的人形機(jī)器人Optimus,馬斯克曾表示,機(jī)器人業(yè)務(wù)將比汽車(chē)更具價(jià)值。
彼時(shí),馬斯克在發(fā)布會(huì)上表示,目前的人形機(jī)器人沒(méi)有“大腦”,沒(méi)有能在現(xiàn)實(shí)世界中導(dǎo)航的智能,而且非常昂貴且產(chǎn)量低。如今,OpenAI與人形機(jī)器人的牽手則讓人期待。
據(jù)紅星新聞報(bào)道,ChatGPT迭代升級(jí)的腳步加快,很多人失業(yè)的恐懼也越來(lái)越重。高盛分析師布里格斯和庫(kù)達(dá)尼在3月27日發(fā)布的研究報(bào)告中就直面了這一問(wèn)題。
報(bào)告稱:“最近出現(xiàn)的生成式人工智能將降低勞動(dòng)力成本和提高生產(chǎn)率。盡管AI的潛力存在很大的不確定性,但它可以生成與人類(lèi)創(chuàng)造成果無(wú)法區(qū)分的內(nèi)容,并能打破人機(jī)溝通障礙,反映出具有潛在巨大宏觀經(jīng)濟(jì)影響的重大進(jìn)步。AI不僅節(jié)省勞動(dòng)力成本,還能創(chuàng)造新的就業(yè)機(jī)會(huì)以及提高在崗工人的生產(chǎn)率。AI的革命性就像早期通用技術(shù)(如發(fā)電機(jī)和個(gè)人計(jì)算機(jī))一樣能為社會(huì)帶來(lái)繁榮。”
圖片來(lái)源:視覺(jué)中國(guó)
ChatGPT等生成式人工智能系統(tǒng)的最新突破,料將給全球勞動(dòng)力市場(chǎng)帶來(lái)重大顛覆,全球預(yù)計(jì)將有3億個(gè)工作崗位被生成式AI取代,律師和行政人員將是最有可能被裁員的崗位。
高盛研究發(fā)現(xiàn),目前歐美約有三分之二的工作崗位都在某種程度上受到AI自動(dòng)化趨勢(shì)的影響,而多達(dá)四分之一的當(dāng)前崗位有可能最終被完全取代。該研究計(jì)算出美國(guó)63%的工作暴露在“AI影響范圍”中,其中7%的工作有一半以上的流程可以由AI自動(dòng)化完成,這使他們很容易馬上被人工智能取代。在歐洲,情況也差不多。
據(jù)21財(cái)經(jīng),作為一種具備生產(chǎn)創(chuàng)造能力的智能形態(tài),以ChatGPT為代表的AI近年來(lái)展現(xiàn)出令人矚目的文字、圖像、聲音的生成或輔助生成能力,也不斷刷新著人們對(duì)于AI最終取代絕大部分人類(lèi)工作的擔(dān)憂。
更為關(guān)鍵的是,當(dāng)前的AIGC(人工智能生成內(nèi)容)無(wú)需工資,亦不存在失業(yè)的概念,作為提供生產(chǎn)力的經(jīng)濟(jì)單位,其與宏觀經(jīng)濟(jì)間的邏輯關(guān)系較人類(lèi)發(fā)生了根本性改變,而這或許將給經(jīng)濟(jì)環(huán)境帶來(lái)難以估量的影響。
每日經(jīng)濟(jì)新聞綜合生命未來(lái)研究所、澎湃新聞、財(cái)聯(lián)社、21財(cái)經(jīng)、紅星新聞
封面圖片來(lái)源:視覺(jué)中國(guó)
如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟(jì)新聞APP