ChatGPT之父奧特曼：構(gòu)建龐大AI模型的時代已結(jié)束，未來的進(jìn)步需要新想法

每經(jīng)編輯 畢陸名

據(jù)澎湃新聞4月18日報道，人工智能開發(fā)機構(gòu)OpenAI的首席執(zhí)行官山姆·奧特曼最近表示，ChatGPT的研究策略——巨型AI模型模式已經(jīng)結(jié)束，目前尚不清楚未來的進(jìn)步究竟來自何處。

近年來，OpenAI通過采用現(xiàn)有的機器學(xué)習(xí)算法并將其擴(kuò)展到以前無法想象的規(guī)模，在與語言一起工作的人工智能方面取得了一系列令人印象深刻的進(jìn)步。GPT-4是這些項目中最新的一個，它可能是使用數(shù)萬億個文本單詞和數(shù)千個強大的計算機芯片進(jìn)行訓(xùn)練的，構(gòu)建這一龐大的AI模型耗資超過1億美元。

圖片來源：視覺中國

巨型AI模型時代已結(jié)束

據(jù)澎湃新聞4月18日報道，奧特曼上周在麻省理工學(xué)院舉行的一次活動中告訴觀眾，新的進(jìn)步不會來自于讓模型變得更大。“我認(rèn)為我們正處于巨型模型時代的末尾。”他說，“我們會以其他方式讓它們變得更好。”科技媒體《連線》4月17日報道稱，奧特曼的聲明表明，在開發(fā)和部署新AI算法的競賽中出現(xiàn)了意想不到的轉(zhuǎn)折。未來人工智能的進(jìn)步將需要新的想法。

奧特曼的聲明表明，GPT-4可能是OpenAI“使模型更大并為其提供更多數(shù)據(jù)”戰(zhàn)略中的最后一個重大進(jìn)展。他沒有提出什么樣的研究策略或技術(shù)可能會取代它。在描述GPT-4的論文中，OpenAI估計，擴(kuò)大模型規(guī)模的收益在遞減。奧特曼表示，企業(yè)可以建造的數(shù)據(jù)中心數(shù)量和建造速度也存在物理限制。

有分析認(rèn)為，奧特曼的這番表態(tài)意味著，在當(dāng)前各科技公司都在開發(fā)和部署新AI算法、并攀比其模型規(guī)模的競賽中，出現(xiàn)了出人意料的轉(zhuǎn)折。自O(shè)penAI于去年11月推出ChatGPT以來，微軟已利用底層技術(shù)在其Bing搜索引擎中添加了一個聊天機器人，谷歌也推出了一個名為Bard的聊天機器人來與之競爭。許多公司紛紛推出類似的聊天機器人以顯示自己不甘人后。

同時有分析認(rèn)為，奧特曼的這一表態(tài)可能意味著，GPT-4或許是OpenAI使模型更大并為它們提供更多數(shù)據(jù)的戰(zhàn)略中出現(xiàn)的最后一個重大進(jìn)展。奧特曼并沒有說什么樣的研究策略或技術(shù)可能會取代它。

Cohere的聯(lián)合創(chuàng)始人尼克·弗羅斯特（Nick Frosst）表示，奧特曼的想法聽起來是對的。他也認(rèn)為，Transformer（GPT-4及其競爭對手的核心機器學(xué)習(xí)模型類型）的進(jìn)展超出了擴(kuò)展范圍。“有很多方法可以讓Transformer變得更好、更有用，而且很多方法不涉及向模型添加參數(shù)。”他說，新的AI模型設(shè)計或架構(gòu)，以及基于人類反饋的進(jìn)一步調(diào)整是許多研究人員已經(jīng)在探索的有前途的方向。

同日，在麻省理工學(xué)院舉行的一個討論商業(yè)和人工智能的會議上，奧特曼還表示，“我們現(xiàn)在并沒有訓(xùn)練GPT-5，目前只是在GPT-4的基礎(chǔ)上進(jìn)行更多的工作而已。”此前有報道稱，預(yù)計到2023年底，GPT-4將被新的GPT-5版本取代。對于科技節(jié)領(lǐng)袖暫停超強AI訓(xùn)練的聯(lián)名信，奧特曼也在采訪中首次做了回應(yīng)，稱他同意這封信的部分內(nèi)容，但信中“遺漏了關(guān)于我們需要暫停的大部分技術(shù)細(xì)節(jié)。”

AI技術(shù)在歐洲面臨進(jìn)一步監(jiān)管

值得一提的是，OpenAI的CEO奧特曼還回應(yīng)稱，馬斯克等人呼吁將AI研發(fā)工作暫停六個月的公開信缺乏“技術(shù)細(xì)節(jié)”。他也認(rèn)為，需要提高AI的安全指導(dǎo)意見。但公開信并非正確的解決之道。

據(jù)中新經(jīng)緯4月18日援引《華爾街日報》當(dāng)?shù)貢r間17日報道，歐盟的立法者希望賦予監(jiān)管機構(gòu)新的權(quán)利來管理ChatGPT等技術(shù)的開發(fā)。報道指出，當(dāng)?shù)貢r間周一，歐盟的立法者計劃于當(dāng)日發(fā)表一封公開信并指出，隨著人工智能飛速發(fā)展，有必要為這些人工智能工具制定一套強大的新規(guī)則以規(guī)范其應(yīng)用。負(fù)責(zé)起草歐盟人工智能法案新草案的立法者小組指出，他們致力于在法案中增加相關(guān)條款，旨在“引導(dǎo)強大的人工智能朝著以人為本、安全可靠的方向發(fā)展”。

3月末，生命未來研究所(Future of Life)發(fā)布了一封公開信，包括馬斯克等大佬在內(nèi)超2.6萬人進(jìn)行了簽名，呼吁所有人工智能實驗室暫停比GPT-4更強大的人工智能系統(tǒng)的訓(xùn)練，暫停時間至少為6個月。

據(jù)每日經(jīng)濟(jì)新聞4月11日報道，因強大功能而爆紅的ChatGPT正因數(shù)據(jù)隱私和安全風(fēng)險在全球掀起一場監(jiān)管風(fēng)暴。繼意大利宣布暫時封禁ChatGPT之后，德國也表示正在考慮暫時禁用。緊隨其后，法國、愛爾蘭、西班牙等歐洲國家的監(jiān)管機構(gòu)也相繼表達(dá)了類似可能性。與此同時，加拿大的隱私監(jiān)管機構(gòu)已經(jīng)宣布對OpenAI展開調(diào)查，美國方面也在探討加強對AI的監(jiān)管。不僅如此，由于生成了虛假內(nèi)容，ChatGPT恐將在澳大利亞面臨全球首例誹謗訴訟。

近日，研究人員Noah Shinn和Ashwin Gopinath在預(yù)印本網(wǎng)站arxiv提交論文稱，通過引入“反思”技術(shù)，GPT-4在多項高難度測試中的表現(xiàn)提升了30%。據(jù)悉，這種技術(shù)讓AI系統(tǒng)模仿人類的自我反思，并評估自己的表現(xiàn)，“GPT-4在完成各種測試的時候，會增加一些額外的步驟，讓它能夠自己設(shè)計測試來檢查自己的答案，找出錯誤和不足之處，然后根據(jù)發(fā)現(xiàn)來修改自己的解決方案。”

愛爾蘭數(shù)據(jù)保護(hù)委員會以及中國人民大學(xué)高瓴人工智能學(xué)院教授盧志武認(rèn)為，AI學(xué)會自我迭代所產(chǎn)生的后果難以具體想象，但如果一個東西在不停地變強而人類卻不知道，這是“最可怕的”。未來，假如AI模型和機器人進(jìn)行結(jié)合，則AI就可以產(chǎn)生動作，“你都不知道它是不是會拿起槍來做什么事情”。

而實際上，科學(xué)家已經(jīng)在探索如何將生成式AI與機器人相結(jié)合。微軟的科學(xué)家2月份發(fā)布論文稱，他們正在研究利用ChatGPT來操控機器人，以實現(xiàn)以自然語言與機器人交互的目的，并展示了無人機和機械臂的操作案例。

每日經(jīng)濟(jì)新聞綜合澎湃新聞、中新經(jīng)緯、每經(jīng)網(wǎng)（記者：李孟林、蔡鼎、譚玉涵）

封面圖片來源：視覺中國