“這不僅僅是一場工業(yè)革命，最終將超越人類和生物學(xué)！”AI來襲，人類還有生存空間嗎？

每經(jīng)記者 文巧    每經(jīng)編輯 蘭素英    

伴隨著ChatGPT的崛起，AI的風(fēng)險之說也不絕于耳。

當(dāng)?shù)貢r間5月30日，非營利組織“人工智能安全中心”（Center for AI Safety）在其官網(wǎng)發(fā)布一封聯(lián)名公開信，稱減輕AI（給人類）帶來的滅絕風(fēng)險應(yīng)成為全球性的優(yōu)先事項，與大流行病及核戰(zhàn)爭等其他影響社會的大規(guī)模風(fēng)險處于同等級別。目前已有350位AI大佬簽署了這封聯(lián)名公開信，包括OpenAI首席執(zhí)行官Sam Altman、谷歌DeepMind首席執(zhí)行官Demis Hassabis和Anthropic首席執(zhí)行官Dario Amode三大AI公司掌門人以及圖靈獎獲得者、被譽為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio。

在此之前，Sam Altman等人也發(fā)表文章稱，超級智能技術(shù)帶來的潛在利益和風(fēng)險將比過去任何其他技術(shù)更加巨大。“在未來幾年內(nèi)，AI系統(tǒng)將在大多數(shù)領(lǐng)域超越專家技能水平，并開展盡可能多的生產(chǎn)活動。”

《每日經(jīng)濟新聞》記者近期對一系列行業(yè)開展調(diào)查后發(fā)現(xiàn)，AI已經(jīng)廣泛應(yīng)用于電商、游戲、留學(xué)等行業(yè)，并給部分職業(yè)造成了巨大沖擊。

在此背景下，越來越多的人呼吁對AI行業(yè)進行監(jiān)管。“現(xiàn)在是一個開始思考超級智能（superintelligence）監(jiān)管的良好時機——未來的 AI 系統(tǒng)將比 AGI 都要強大。”Altman等如此說道。

在這場轟轟烈烈的技術(shù)浪潮中，人類應(yīng)該如何應(yīng)對？全球政府又該如何防范AI失控？每經(jīng)獨家采訪了在國際AI領(lǐng)域享譽盛名的“深度學(xué)習(xí)之父”Jürgen Schmidhuber、IBM AI倫理全球負責(zé)人Francesca Rossi，以及加州理工學(xué)院電氣工程和計算機科學(xué)教授Yaser S. Abu-Mostafa，探討人類應(yīng)當(dāng)如何建立一個人機共存的世界。

圖片來源：視覺中國-VCG41N1408722861

“這不僅僅是一場工業(yè)革命”

自ChatGPT誕生以來，人類無不嘆服于AI的強大，甚至許多人認為，《終結(jié)者》和《黑客帝國》中上演的場景或?qū)⒃谖磥沓蔀楝F(xiàn)實——硅基生物將主宰碳基生物。

《人類簡史》作者Yuval Noah Harari近期也發(fā)表了一場演講，暗示了這樣的可能性，“AI可能會改變生態(tài)系統(tǒng)的含義，因為在地球存在的40億年里，生態(tài)系統(tǒng)只包含有機生命形式。而現(xiàn)在，或者說不久的將來，我們可能會看到第一種無機生命形式出現(xiàn)，或者至少是無機代理的出現(xiàn)。”

他表示，在科幻場景中，AI要構(gòu)成對人類的重大威脅有兩個前提，即AI必須變得有感知力，發(fā)展出意識、感情和情緒，并且必須擅長在物理世界中導(dǎo)航。然而，當(dāng)下的情況是，AI不需要意識就能威脅到人類文明的生存。

在Harari看來，當(dāng)前我們身處的AI革命進程最重要的一個方面是，AI正在以超越普通人平均能力的水平掌握語言。通過掌握語言，人工智能正在獲得通往所有機構(gòu)之門的主鑰匙，可以說，AI破解了人類文明的操作系統(tǒng)。“通過掌握語言，AI還能與人建立深入而親密的關(guān)系，利用親密的力量影響我們的觀點和世界觀。”他說道。

“從長遠來看，AI將改變我們文明的方方面面。一切都會改變，這不僅僅是另一場工業(yè)革命。”被譽為“深度學(xué)習(xí)之父”、瑞士AI實驗室IDSIA的科學(xué)事務(wù)主管Jürgen Schmidhuber告訴《每日經(jīng)濟新聞》記者。

“每5年，計算成本就會降低10倍。照這種指數(shù)趨勢，可以初步預(yù)測，21世紀將出現(xiàn)‘廉價’計算機，其原始計算能力是所有人類大腦總和的一千倍。很快，數(shù)百萬、數(shù)十億和數(shù)萬億這樣的設(shè)備也會涌現(xiàn)，幾乎所有的智能體都能超越人腦。這是一種新事物，最終將超越人類，甚至超越生物學(xué)。”他進一步說道。

Schmidhuber于1997年提出的LSTM（長短期記憶網(wǎng)絡(luò)）現(xiàn)廣泛應(yīng)用于谷歌翻譯、蘋果Siri、亞馬遜Alex等應(yīng)用，是深度學(xué)習(xí)領(lǐng)域商業(yè)化最強的技術(shù)之一；而他提出的具有線性化自注意力的 Transformers架構(gòu)也是后來ChatGPT誕生的基礎(chǔ)。

對于AI在人類社會中扮演的角色，國際機器學(xué)習(xí)權(quán)威學(xué)者、現(xiàn)加州理工學(xué)院電氣工程和計算機科學(xué)教授Yaser S. Abu-Mostafa表示，“AI可以且應(yīng)該繼續(xù)從屬于人類，從長遠來看將對我們大有裨益。例如，在醫(yī)學(xué)領(lǐng)域，AI正在取得革命性的進步，這將對我們的生活和我們的生活質(zhì)量產(chǎn)生深遠的積極影響。”Abu-Mostafa也是神經(jīng)信息處理系統(tǒng)大會的創(chuàng)始項目主席，該會議在機器學(xué)習(xí)領(lǐng)域獨具權(quán)威性。

這一點，Schmidhuber同樣深信不疑，“在AI的快速發(fā)展中，個人和組織將以多種方式獲益匪淺。”

“搶飯碗”？陣痛之下也有機會

在更廣泛的討論中，大部分人對AI的恐懼更多來源于洶涌的“AI替代人工”之說。

3月份，OpenAI和非營利性研究實驗機構(gòu)OpenResearch，以及賓夕法尼亞大學(xué)合作發(fā)表的一篇論文稱，約八成的美國勞動力可能至少有10%的工作任務(wù)受到大型語言模型引入的影響，而約19%的工人可能會看到至少50%的工作任務(wù)受到影響。高盛此前也曾在一篇報告表示，AI革命可以取代3億歐美白領(lǐng)崗位，受影響最大的是法律和行政工作，而建筑師、工程師也有被淘汰的危險。

實際上，在《每日經(jīng)濟新聞》的系列調(diào)查報道中，我們發(fā)現(xiàn)，AI的出現(xiàn)擠壓了許多打工人的空間，例如跨境電商領(lǐng)域的文案、翻譯、模特，游戲行業(yè)的原畫師，留學(xué)教育機構(gòu)的文書工作者等。

但值得注意的是，同樣受益于AI的發(fā)展，各行各業(yè)的效率得以大幅提升。以跨境電商為例，有受訪者告訴每經(jīng)記者，借助ChatGPT等AI工具能在10分鐘內(nèi)完成以前需要花數(shù)萬元成本做的事情，在今年3~4月，其公司業(yè)績額相比去年同期的增幅超過200%。

科研人員的數(shù)據(jù)也說明了這一點。據(jù)斯坦福大學(xué)和麻省理工大學(xué)對一家世界500強軟件公司客服人員長達一年的研究，生成式AI對工作效率的提高平均為14%，而技能生疏的新員工獲益最大，效率提升了35%。

關(guān)于AI是否能夠替代人工，也逐漸有了更多不同的聲音。德銀最近發(fā)布的報告中表示，歷史證明AI最終會創(chuàng)造而不是破壞工作，AI浪潮下新增就業(yè)機會多于被它取代的崗位。

“我在80年代曾經(jīng)說過，預(yù)測哪些工作會消失很容易，但很難預(yù)測哪些新工作會被創(chuàng)造出來。值得注意的是，人均機器人數(shù)量較高的國家，失業(yè)率反而相對較低，因為（借助新技術(shù)）創(chuàng)造了許多新工作。”Schmidhuber告訴記者，“30年前，誰又能預(yù)料到現(xiàn)在這么多人做視頻博主賺錢呢？”

《經(jīng)濟學(xué)人》近期發(fā)表的名為《你的工作可能將不受AI的影響》一文中的觀點與此不謀而合。報道中提到， 2013年，牛津大學(xué)曾發(fā)表過一篇被廣泛引用的論文，指出自動化可能會在接下來的十年左右消滅47%的美國工作崗位。但實際發(fā)生的事情讓人們大吃一驚，在過去十年中，發(fā)達國家的平均失業(yè)率大約減半，工作年齡人口的就業(yè)比例處于歷史最高水平，日本、新加坡和韓國等自動化和機器人技術(shù)普及率最高的國家失業(yè)率反而最低。

1991年-2023年G7國家的失業(yè)率趨勢 圖片來源：經(jīng)濟學(xué)人

在談到AI未來將在人類社會中扮演的角色時，IBM院士、AI倫理全球負責(zé)人Francesca Rossi對每經(jīng)記者表示，“AI應(yīng)該旨在增強而非取代人類。”

“的確，AI會對很多工作產(chǎn)生暫時的負面影響，而且影響會發(fā)生得比較快，所以我們需要有一個安全網(wǎng)來盡量減少過渡期的痛苦。”Abu-Mostafa說道。

如何實現(xiàn)“人機共存”的世界？

那么，在這個過渡期內(nèi)，世界應(yīng)該如何搭建這個安全網(wǎng)？

在Francesca Rossi看來，對AI的擔(dān)憂往往源于對“黑匣子”內(nèi)部發(fā)生的事情缺乏理解，“AI系統(tǒng)的開發(fā)和應(yīng)用必須根植于倫理，這意味著要優(yōu)先考慮負責(zé)任的培訓(xùn)、合作和監(jiān)督。隨著AI技術(shù)不斷被普及和使用，人們對這項技術(shù)仍然存在戒心是正常的，但現(xiàn)實情況是，AI的優(yōu)勢是顯而易見的。只有將倫理置于AI開發(fā)的核心，社會才能學(xué)會信任它。”

“在部署AI時，首先應(yīng)該考慮目前適用于各種產(chǎn)品的產(chǎn)品安全和質(zhì)量預(yù)防措施是否也可以適用于AI產(chǎn)品。此外，還需要一個類似于FDA的機構(gòu)來批準AI產(chǎn)品，并確保它們是安全的、沒有偏見的，并且其帶來的‘副作用’（例如隱私泄露等）在可接受的標準內(nèi)。”Abu-Mostafa向《每日經(jīng)濟新聞》記者說道。

OpenAI創(chuàng)始人Altman近日在出席美國國會聽證會時也建議美國國會成立一個新機構(gòu)進行監(jiān)管。他說，“因為人工智能是不會自己管理自己的，所以我們需要類似于IAEA（國際原子能機構(gòu)）的國際組織來進行超級智能方面的監(jiān)管。”微軟總裁Brad Smith也支持美國政府成立新的機構(gòu)來為主要AI系統(tǒng)發(fā)放許可。

圖片來源：BBC視頻截圖

隱私風(fēng)險的確是AI部署中被廣泛質(zhì)疑的一個問題。4月，三星被曝在引入ChatGPT不到20天就出現(xiàn)了3起公司機密外泄的事故。

對此，Schmidhuber向記者坦言，“隱私監(jiān)視和丟失可能是日益復(fù)雜的社會不可避免的后果。城市、國家和公司等超級有機體的結(jié)構(gòu)越復(fù)雜，它收集到的信息就越全面。新冠時期為了減少病毒傳播而進行的人員追蹤就是最近的例子。”

而在AI引領(lǐng)的革命浪潮里，全球化、快速發(fā)展的數(shù)據(jù)則是最有價值的，甚至被視為“AI時代的石油”。那怎樣才能更有效地進行數(shù)據(jù)管理，保障數(shù)據(jù)安全呢？

Schmidhuber認為，數(shù)據(jù)所有權(quán)有助于解決這個問題。“如果數(shù)據(jù)真的是‘新石油’，那么它應(yīng)該有價格。然而目前，主要的監(jiān)控平臺不會為用戶的數(shù)據(jù)和隱私的損失進行賠償。但在未來，我們可能會看到嘗試創(chuàng)建高效的數(shù)據(jù)市場，通過供需之間的相互作用，可以看到隱私數(shù)據(jù)的真實價值。”他告訴《每日經(jīng)濟新聞》記者。

而對于普通消費者來說，Abu-Mostafa認為，AI產(chǎn)品在經(jīng)過安全性、有效性、公平性等標準的嚴格測試后，消費者的信任也將逐漸建立。

當(dāng)前，各國政府和機構(gòu)已經(jīng)開始探索如何加強AI監(jiān)管。

日本高官近日表示，G7政府官員將舉行首次工作級AI會議，討論知識產(chǎn)權(quán)保護、虛假信息以及應(yīng)如何管理AI技術(shù)等問題。美國白宮已經(jīng)宣布首個AI監(jiān)管計劃，美國國家科學(xué)基金會計劃撥款1.4億美元，用于啟動7所新的國家AI研究院；歐洲議會下屬委員會也已通過關(guān)于《AI法案》的談判授權(quán)草案，該法案有望成為世界上第一個監(jiān)管AI的全面立法。

隨著AI在人類世界的廣泛運用，如何實現(xiàn)人機共存的平衡呢？Schmidhuber告訴《每日經(jīng)濟新聞》記者，“無論我們在某個時候達到什么樣的平衡，不久之后它就必須改變，因為AI會不斷學(xué)習(xí)做以前只有人類才能做的新事情。因此，在自動化和人類參與之間，平衡點會不斷變化，人類也應(yīng)該隨時準備學(xué)習(xí)新事物。就像200年前，在許多國家，60%的人從事農(nóng)業(yè)工作。而在今天，這個數(shù)據(jù)只剩下1%~2%。”

在AI被廣泛應(yīng)用的同時，人類也需警惕過度依賴AI。Abu-Mostafa表示，“所有自動化都有相同的風(fēng)險。如果出現(xiàn)問題，就沒有后備方案，因為過去執(zhí)行任務(wù)的人類團隊已經(jīng)解散，無法輕易重新組合以挽救局面。”

對此，Schmidhuber稱，擁抱并掌握新技術(shù)有助于避免這種情況的發(fā)生。“回顧歷史，當(dāng)計算器首次推出時，教師禁止學(xué)生在學(xué)校使用它，以防止過度依賴機器。但現(xiàn)在，孩子們既學(xué)習(xí)算術(shù)的基本方法也學(xué)習(xí)使用計算器。”他對記者解釋說，“今天的共識是，我們應(yīng)確保孩子學(xué)會自己寫論文，也要確保他們學(xué)習(xí)如何在AI的幫助下寫論文。”

封面圖片來源：視覺中國-VCG41N1188747468