馬斯克、OpenAI決裂背后，大模型應(yīng)該開源還是閉源？

每經(jīng)記者 文巧    每經(jīng)編輯 蘭素英    

圖片來源：每經(jīng)記者 劉雪梅 攝

馬斯克起訴OpenAI事件已經(jīng)發(fā)酵了一周。3月7日，馬斯克在推特上稱，如果OpenAI把名字改為ClosedAI他就撤銷訴訟，暗諷OpenAI的不開源行為。

此前，OpenAI公布了馬斯克與包括山姆·阿爾特曼在內(nèi)的OpenAI聯(lián)合創(chuàng)始人的郵件對話，逐一駁回馬斯克的指控，并暗指其唯利是圖。

此次糾紛的焦點之一是馬斯克對OpenAI的開源要求。而這背后所折射出的也是AI浪潮下科學界的長期爭論話題——到底應(yīng)該開源還是閉源？

紐約大學坦登工程學院計算機科學與工程系副教授Julian Togelius在接受《每日經(jīng)濟新聞》記者采訪時表示，開源是大勢所趨。“開源對于防止權(quán)力集中很重要。到目前為止，每個大型模型都在某種程度上是‘可越獄的’。”

馬薩諸塞大學洛厄爾分校計算機科學教授Jie Wang則對每經(jīng)記者表示，“未來各主要參與者都會將其大模型的某些部分開源，但絕對不是最重要的部分，例如用于訓練其大語言模型和預(yù)訓練模型權(quán)重的完整數(shù)據(jù)集。這或多或少類似于Meta開源LLaMA的方式。”

AI巨頭的決裂

2月29日，馬斯克在舊金山法院對OpenAI及公司CEO阿爾特曼和總裁布羅克曼提起訴訟，震驚全球科技圈。在馬斯克的起訴書中，他斥責OpenAI違背“初心”，要求OpenAI恢復(fù)開源并給予賠償。

3月5日，OpenAI曝光了馬斯克與他們的大量往來郵件，稱馬斯克提議 OpenAI 與特斯拉合并或由他完全控制，但雙方未能就盈利性實體的條款達成一致。3月6日，馬斯克在推特上回復(fù)，“如何OpenAI改名為ClosedAI，我就撤銷訴訟。”

圖片來源：每經(jīng)制圖

9年前，正是在AI上志同道合，馬斯克和阿爾特曼等人攜手創(chuàng)辦了非營利性AI研究實驗室“OpenAI”來對抗以谷歌為代表的科技巨頭。而如今，馬斯克與阿爾特曼及其所在的OpenAI徹底決裂，雙方舊日堅持的“初心”成為矛盾焦點。

在OpenAI的官網(wǎng)主頁上寫著，“我們的使命是確保通用人工智能（AGI）造福全人類。”最初，OpenAI的確作為一個非營利組織堅持著這樣的路線。而自GPT-2后，OpenAI采取了閉源策略，公司出售大模型API訪問權(quán)限，但不再發(fā)布有關(guān)其訓練數(shù)據(jù)和模型架構(gòu)的詳細信息。

2019年，阿爾特曼還組建了一個由OpenAI非營利組織管理的營利性實體，以便從微軟等外部投資者那里籌集資金。對此，OpenAI在5日發(fā)文時曾解釋，這是因為“開發(fā) AGI 所需的資源遠超過最初預(yù)期”。

隨著OpenAI核心技術(shù)不再開源，且與微軟的關(guān)系越來越密切時，馬斯克的不滿可想而知。馬斯克在起訴書中批評稱：“OpenAI已經(jīng)變成了全球最大技術(shù)公司微軟事實上的閉源子公司。在其新董事會的領(lǐng)導下，OpenAI不僅在開發(fā)，而且實際上正在完善一種AGI，以最大化微軟的利潤，而不是造福人類。”

背后是開源閉源路線之爭

在雙方的爭端中，一個值得關(guān)注的點是，馬斯克要求OpenAI恢復(fù)開源。這折射出的也是AI浪潮下的一個爭議性話題——到底應(yīng)該開源還是閉源？

在開源閉源之爭上，馬斯克堅定地選擇了前者。

《每日經(jīng)濟新聞》記者注意到，馬斯克旗下特斯拉的核心技術(shù)就已經(jīng)在全球范圍內(nèi)開源。根據(jù)新加坡咨詢公司GreyB的統(tǒng)計，截至2023年末，全球范圍內(nèi)特斯拉共擁有專利3304項（不包含審批中專利），其中有2397項仍然有效。據(jù)媒體統(tǒng)計，刨除重復(fù)的情況，特斯拉共有222項開放專利。從技術(shù)類別上看，特斯拉開放的專利屬于比較核心的專利。

圖片來源：GreyB網(wǎng)站

馬斯克旗下另一家公司SpaceX也曾公開猛禽發(fā)動機圖紙。在去年12月接受外媒采訪時，馬斯克曾透露，“SpaceX不使用（獨占）專利，完全開放。”

而將視角放大到整個科技界，開源還是閉源也是一直爭論不休的話題。2023年10月31日，“開源派”曾簽署了一份呼吁AI研發(fā)更加開放的聯(lián)名信，截至發(fā)稿，1821名專家都簽下了名字。

圖片來源：mozilla官網(wǎng)

“開源對于防止權(quán)力集中很重要，我們不希望未來只有少數(shù)財力雄厚的科技公司才能控制前沿模型。” 紐約大學坦登工程學院計算機科學與工程系副教授Julian Togelius在接受《每日經(jīng)濟新聞》記者采訪時表示。“到目前為止，每個大型模型都在某種程度上是‘可越獄的’。（開源讓）我們了解其弱點，才能知道如何更好地部署模型。”（注：“越獄”指的是通過提示注入技術(shù)修改模型的行為。）

馬薩諸塞大學洛厄爾分校計算機科學教授Jie Wang也對每經(jīng)記者稱，“開源代碼可以提高透明度并有助于推進技術(shù)，世界各地的相關(guān)方可以幫助識別開發(fā)團隊未能發(fā)現(xiàn)的代碼中的潛在陷阱，并提供更正。這有助于降低代碼可能執(zhí)行有害操作的風險。”不過，他也指出，開源并不是解決所有安全問題的靈丹妙藥。

而反對開源的一派認為，開源AI會被不良行為者操縱。去年10月20日，來自麻省理工學院和劍橋大學的科學家們發(fā)表了一篇論文，他們通過實驗研究了持續(xù)模型權(quán)重的擴散是否會幫助惡意者利用更強大的未來模型來造成大規(guī)模傷害，結(jié)果發(fā)現(xiàn)，開源大模型的確可能存在風險。

Jie Wang對記者表示，“不同的態(tài)度取決于不同的身份。學術(shù)研究人員希望AI技術(shù)是開源的，以便可以評估和修改代碼。另一方面，企業(yè)家可能為了保護投資和業(yè)務(wù)，而不愿意開放源代碼。”

科技巨頭與AI新貴在開源或閉源的問題上也采取了不同的路線。前者最近在互聯(lián)網(wǎng)上免費提供了其生成式AI的代碼，例如，目前開源大模型被Meta的Llama主導，許多開源模型都是基于Llama而開發(fā)；后者如OpenAI和Anthropic則出售專有AI模型的API訪問權(quán)限，但不共享代碼。

OpenAI和Anthropic高管認為，政府應(yīng)該監(jiān)管最強大的AI模型，這樣壞人就不能輕易利用它們。今年1月，Anthropic 公司研究人員還發(fā)表論文警告稱，AI中毒可能導致開源大模型變成潛伏的間諜。

圖片來源:arxiv.org

但在去年9月的美國參議院人工智能洞察論壇上，Meta首席執(zhí)行官馬克·扎克伯格等人卻認為，開源模式對美國保持競爭力至關(guān)重要，科技行業(yè)可以解決對開源模式安全的擔憂。

若實現(xiàn)AGI，是否需要開源?

“開源是大勢所趨，我認為Meta正在引領(lǐng)這一趨勢，其次是Mistral AI、HuggingFace等規(guī)模較小的公司。” Julian Togelius告訴《每日經(jīng)濟新聞》記者。

盡管Mistral AI最初推出了開源模型，隨著規(guī)模的擴大，其作風似乎越來越像OpenAI靠近，采取了閉源路線。對此，Togelius表示，“他們需要以某種方式賺錢，但目前還不清楚如何在這個領(lǐng)域最好地賺錢，但Mistral AI比 OpenAI 幾乎不開源的情況要好得多。”  

而大型科技巨頭谷歌近日的動作似乎也是對Togelius言論的驗證。今年2月，谷歌罕見地改變了去年堅持的大模型閉源策略，推出了“開源”大模型Gemma。有報道認為，Gemma代表谷歌大模型策略的轉(zhuǎn)變——兼顧開源和閉源，開源主打性能最強大的小規(guī)模模型，希望戰(zhàn)勝Meta和Mistral AI；閉源則主打規(guī)模大的效果最好的大模型，希望盡快追上OpenAI。

去年5月，一份谷歌的內(nèi)部文件曾在網(wǎng)上激起千層浪。文件認為，開源大模型迅猛發(fā)展，正在侵蝕OpenAI和谷歌的陣地。除非改變閉源的立場，否則開源替代品將最終使這兩家公司黯然失色。“雖然我們的模型在質(zhì)量方面仍略占優(yōu)勢，但（閉源和開源模型）的差距正在以驚人的速度縮小。”文件寫道。

“這（指的是谷歌的新舉措）對研究和開發(fā)人員來說的確是個好消息。”Jie Wang對每經(jīng)記者說道。“不過我懷疑谷歌是否會將一切開源。我認為未來各個主要參與者都會將其大模型的某些部分開源，以便研究人員和開發(fā)人員了解模型的架構(gòu)和訓練過程，但從業(yè)務(wù)角度來看絕對不是最重要的部分，例如用于訓練其 LLM 和預(yù)訓練模型權(quán)重的完整數(shù)據(jù)集。這或多或少類似于Meta開源LLaMA的方式。”

而在對OpenAI的起訴書中，馬斯克還提到了對AGI（通用人工智能）的擔憂。當被問及若達到AGI，是否需要開源時，Julian Togelius表示，“我不認為AGI是一個定義特別明確或有用的概念。如果你 5 年前向某人展示 Claude 3 或 GPT-4，他們可能會認為我們已經(jīng)實現(xiàn)了 AGI。盡管如此，還有很多事情是大模型無法做到的。”

Togelius認為，OpenAI可能最終不會選擇開源，“因為這將決定性地改變我們對風險計算的看法，并最終消除人們認為OpenAI具有某種秘密武器的傾向（事實并非如此，Google 和 Anthropic 都擁有相似強度的模型）。”

Jie Wang也向記者表示，“除非有一個可執(zhí)行的國際法要求所有AI技術(shù)必須開源，而如何強制執(zhí)行是另一個具有挑戰(zhàn)性的問題，我對OpenAI 是否會開源一切持懷疑態(tài)度。”

封面圖片來源：每經(jīng)記者 劉雪梅 攝