ChatGPT之父奧特曼：構(gòu)建龐大AI模型的時(shí)代已結(jié)束，未來(lái)的進(jìn)步需要新想法

每經(jīng)編輯 畢陸名

據(jù)澎湃新聞4月18日?qǐng)?bào)道，人工智能開(kāi)發(fā)機(jī)構(gòu)OpenAI的首席執(zhí)行官山姆·奧特曼最近表示，ChatGPT的研究策略——巨型AI模型模式已經(jīng)結(jié)束，目前尚不清楚未來(lái)的進(jìn)步究竟來(lái)自何處。

近年來(lái)，OpenAI通過(guò)采用現(xiàn)有的機(jī)器學(xué)習(xí)算法并將其擴(kuò)展到以前無(wú)法想象的規(guī)模，在與語(yǔ)言一起工作的人工智能方面取得了一系列令人印象深刻的進(jìn)步。GPT-4是這些項(xiàng)目中最新的一個(gè)，它可能是使用數(shù)萬(wàn)億個(gè)文本單詞和數(shù)千個(gè)強(qiáng)大的計(jì)算機(jī)芯片進(jìn)行訓(xùn)練的，構(gòu)建這一龐大的AI模型耗資超過(guò)1億美元。

圖片來(lái)源：視覺(jué)中國(guó)

巨型AI模型時(shí)代已結(jié)束

據(jù)澎湃新聞4月18日?qǐng)?bào)道，奧特曼上周在麻省理工學(xué)院舉行的一次活動(dòng)中告訴觀眾，新的進(jìn)步不會(huì)來(lái)自于讓模型變得更大。“我認(rèn)為我們正處于巨型模型時(shí)代的末尾。”他說(shuō)，“我們會(huì)以其他方式讓它們變得更好。”科技媒體《連線》4月17日?qǐng)?bào)道稱(chēng)，奧特曼的聲明表明，在開(kāi)發(fā)和部署新AI算法的競(jìng)賽中出現(xiàn)了意想不到的轉(zhuǎn)折。未來(lái)人工智能的進(jìn)步將需要新的想法。

奧特曼的聲明表明，GPT-4可能是OpenAI“使模型更大并為其提供更多數(shù)據(jù)”戰(zhàn)略中的最后一個(gè)重大進(jìn)展。他沒(méi)有提出什么樣的研究策略或技術(shù)可能會(huì)取代它。在描述GPT-4的論文中，OpenAI估計(jì)，擴(kuò)大模型規(guī)模的收益在遞減。奧特曼表示，企業(yè)可以建造的數(shù)據(jù)中心數(shù)量和建造速度也存在物理限制。

有分析認(rèn)為，奧特曼的這番表態(tài)意味著，在當(dāng)前各科技公司都在開(kāi)發(fā)和部署新AI算法、并攀比其模型規(guī)模的競(jìng)賽中，出現(xiàn)了出人意料的轉(zhuǎn)折。自O(shè)penAI于去年11月推出ChatGPT以來(lái)，微軟已利用底層技術(shù)在其Bing搜索引擎中添加了一個(gè)聊天機(jī)器人，谷歌也推出了一個(gè)名為Bard的聊天機(jī)器人來(lái)與之競(jìng)爭(zhēng)。許多公司紛紛推出類(lèi)似的聊天機(jī)器人以顯示自己不甘人后。

同時(shí)有分析認(rèn)為，奧特曼的這一表態(tài)可能意味著，GPT-4或許是OpenAI使模型更大并為它們提供更多數(shù)據(jù)的戰(zhàn)略中出現(xiàn)的最后一個(gè)重大進(jìn)展。奧特曼并沒(méi)有說(shuō)什么樣的研究策略或技術(shù)可能會(huì)取代它。

Cohere的聯(lián)合創(chuàng)始人尼克·弗羅斯特（Nick Frosst）表示，奧特曼的想法聽(tīng)起來(lái)是對(duì)的。他也認(rèn)為，Transformer（GPT-4及其競(jìng)爭(zhēng)對(duì)手的核心機(jī)器學(xué)習(xí)模型類(lèi)型）的進(jìn)展超出了擴(kuò)展范圍。“有很多方法可以讓Transformer變得更好、更有用，而且很多方法不涉及向模型添加參數(shù)。”他說(shuō)，新的AI模型設(shè)計(jì)或架構(gòu)，以及基于人類(lèi)反饋的進(jìn)一步調(diào)整是許多研究人員已經(jīng)在探索的有前途的方向。

同日，在麻省理工學(xué)院舉行的一個(gè)討論商業(yè)和人工智能的會(huì)議上，奧特曼還表示，“我們現(xiàn)在并沒(méi)有訓(xùn)練GPT-5，目前只是在GPT-4的基礎(chǔ)上進(jìn)行更多的工作而已。”此前有報(bào)道稱(chēng)，預(yù)計(jì)到2023年底，GPT-4將被新的GPT-5版本取代。對(duì)于科技節(jié)領(lǐng)袖暫停超強(qiáng)AI訓(xùn)練的聯(lián)名信，奧特曼也在采訪中首次做了回應(yīng)，稱(chēng)他同意這封信的部分內(nèi)容，但信中“遺漏了關(guān)于我們需要暫停的大部分技術(shù)細(xì)節(jié)。”

AI技術(shù)在歐洲面臨進(jìn)一步監(jiān)管

值得一提的是，OpenAI的CEO奧特曼還回應(yīng)稱(chēng)，馬斯克等人呼吁將AI研發(fā)工作暫停六個(gè)月的公開(kāi)信缺乏“技術(shù)細(xì)節(jié)”。他也認(rèn)為，需要提高AI的安全指導(dǎo)意見(jiàn)。但公開(kāi)信并非正確的解決之道。

據(jù)中新經(jīng)緯4月18日援引《華爾街日?qǐng)?bào)》當(dāng)?shù)貢r(shí)間17日?qǐng)?bào)道，歐盟的立法者希望賦予監(jiān)管機(jī)構(gòu)新的權(quán)利來(lái)管理ChatGPT等技術(shù)的開(kāi)發(fā)。報(bào)道指出，當(dāng)?shù)貢r(shí)間周一，歐盟的立法者計(jì)劃于當(dāng)日發(fā)表一封公開(kāi)信并指出，隨著人工智能飛速發(fā)展，有必要為這些人工智能工具制定一套強(qiáng)大的新規(guī)則以規(guī)范其應(yīng)用。負(fù)責(zé)起草歐盟人工智能法案新草案的立法者小組指出，他們致力于在法案中增加相關(guān)條款，旨在“引導(dǎo)強(qiáng)大的人工智能朝著以人為本、安全可靠的方向發(fā)展”。

3月末，生命未來(lái)研究所(Future of Life)發(fā)布了一封公開(kāi)信，包括馬斯克等大佬在內(nèi)超2.6萬(wàn)人進(jìn)行了簽名，呼吁所有人工智能實(shí)驗(yàn)室暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。

據(jù)每日經(jīng)濟(jì)新聞4月11日?qǐng)?bào)道，因強(qiáng)大功能而爆紅的ChatGPT正因數(shù)據(jù)隱私和安全風(fēng)險(xiǎn)在全球掀起一場(chǎng)監(jiān)管風(fēng)暴。繼意大利宣布暫時(shí)封禁ChatGPT之后，德國(guó)也表示正在考慮暫時(shí)禁用。緊隨其后，法國(guó)、愛(ài)爾蘭、西班牙等歐洲國(guó)家的監(jiān)管機(jī)構(gòu)也相繼表達(dá)了類(lèi)似可能性。與此同時(shí)，加拿大的隱私監(jiān)管機(jī)構(gòu)已經(jīng)宣布對(duì)OpenAI展開(kāi)調(diào)查，美國(guó)方面也在探討加強(qiáng)對(duì)AI的監(jiān)管。不僅如此，由于生成了虛假內(nèi)容，ChatGPT恐將在澳大利亞面臨全球首例誹謗訴訟。

近日，研究人員Noah Shinn和Ashwin Gopinath在預(yù)印本網(wǎng)站arxiv提交論文稱(chēng)，通過(guò)引入“反思”技術(shù)，GPT-4在多項(xiàng)高難度測(cè)試中的表現(xiàn)提升了30%。據(jù)悉，這種技術(shù)讓AI系統(tǒng)模仿人類(lèi)的自我反思，并評(píng)估自己的表現(xiàn)，“GPT-4在完成各種測(cè)試的時(shí)候，會(huì)增加一些額外的步驟，讓它能夠自己設(shè)計(jì)測(cè)試來(lái)檢查自己的答案，找出錯(cuò)誤和不足之處，然后根據(jù)發(fā)現(xiàn)來(lái)修改自己的解決方案。”

愛(ài)爾蘭數(shù)據(jù)保護(hù)委員會(huì)以及中國(guó)人民大學(xué)高瓴人工智能學(xué)院教授盧志武認(rèn)為，AI學(xué)會(huì)自我迭代所產(chǎn)生的后果難以具體想象，但如果一個(gè)東西在不停地變強(qiáng)而人類(lèi)卻不知道，這是“最可怕的”。未來(lái)，假如AI模型和機(jī)器人進(jìn)行結(jié)合，則AI就可以產(chǎn)生動(dòng)作，“你都不知道它是不是會(huì)拿起槍來(lái)做什么事情”。

而實(shí)際上，科學(xué)家已經(jīng)在探索如何將生成式AI與機(jī)器人相結(jié)合。微軟的科學(xué)家2月份發(fā)布論文稱(chēng)，他們正在研究利用ChatGPT來(lái)操控機(jī)器人，以實(shí)現(xiàn)以自然語(yǔ)言與機(jī)器人交互的目的，并展示了無(wú)人機(jī)和機(jī)械臂的操作案例。

每日經(jīng)濟(jì)新聞綜合澎湃新聞、中新經(jīng)緯、每經(jīng)網(wǎng)（記者：李孟林、蔡鼎、譚玉涵）

封面圖片來(lái)源：視覺(jué)中國(guó)