每日經(jīng)濟(jì)新聞 2023-11-16 18:24:25
◎11月16日,在OPPO開發(fā)者大會(ODC 2023)上,ColorOS(OPPO推出基于Android定制的操作系統(tǒng))14首發(fā)對話增強(qiáng)的安第斯大模型(AndesGPT),其中包括從10億至千億多種不同參數(shù)規(guī)模的模型。同時(shí),安第斯還將與潘塔納爾系統(tǒng)融合,在大模型的加持下,對用戶意圖理解更精準(zhǔn),從而推出一系列專屬服務(wù)。
每經(jīng)記者 王晶 每經(jīng)編輯 楊夏
在硬件堆砌難以拉動銷量增長后,智能手機(jī)市場再次“卷”向軟件層面。
上一輪軟件層面的競爭,手機(jī)廠商競相采用智能語音助手,但對用戶來說存在感一直不高,不同于此,如今ChatGPT引發(fā)了全球AI領(lǐng)域的軍備賽,在AI大模型的驅(qū)動下,各大手機(jī)廠商不約而同地將目光投向了手機(jī)端側(cè)載體。
11月16日,在OPPO開發(fā)者大會(ODC 2023)上,ColorOS(OPPO推出基于Android定制的操作系統(tǒng))14首發(fā)對話增強(qiáng)的安第斯大模型(AndesGPT),其中包括從10億至千億多種不同參數(shù)規(guī)模的模型。同時(shí),安第斯還將與潘塔納爾系統(tǒng)融合,在大模型的加持下,對用戶意圖理解更精準(zhǔn),從而推出一系列專屬服務(wù)。
OPPO開發(fā)者大會。 圖片來源:OPPO供圖
OPPO之外,當(dāng)前包括華為、小米、vivo、榮耀等在內(nèi)的手機(jī)廠商均已跑步進(jìn)入大模型賽道,讓一場圍繞“軟實(shí)力”的深水之戰(zhàn)愈演愈烈。業(yè)界普遍認(rèn)為,手機(jī)端側(cè)與AI大模型能力融合后,未來將成為每個(gè)人的私人助手。
不過,應(yīng)用在手機(jī)端的大模型是真正能引發(fā)智能手機(jī)巨變的技術(shù),還是仍然偏重“語音助手”的噱頭還有待觀察,對于大多數(shù)智能手機(jī)廠商而言,在具有突破性的手機(jī)應(yīng)用或產(chǎn)品出現(xiàn)之前,大型模型是不能放棄的高地。
過去AI大模型賽道的主要玩家以互聯(lián)網(wǎng)大廠為首,但隨著該技術(shù)在手機(jī)終端應(yīng)用上的成熟,當(dāng)前幾乎所有的頭部手機(jī)廠商集體將創(chuàng)新點(diǎn)向軟件轉(zhuǎn)移。
華金證券指出,AI大模型對手機(jī)的提升主要來自兩方面:首先,AI大模型可增強(qiáng)手機(jī)處理圖像、語音、NLP(自然語言處理)等任務(wù)的能力,大幅提升手機(jī)性能;其次,AI大模型擁有龐大的語言數(shù)據(jù)庫作為訓(xùn)練資源,在算力和算法的支持下,手機(jī)可以理解復(fù)雜的語意和語境?;跍?zhǔn)確的自然語義理解,外加龐大的知識和數(shù)據(jù)庫,手機(jī)可以給出準(zhǔn)確和快速的回答。隨著人機(jī)交互愈發(fā)頻繁,用戶畫像刻畫將更為精確,回答也越發(fā)定制化,手機(jī)將真正意義上成為專屬數(shù)字助手。
8月初,在華為開發(fā)者大會上,余承東表示鴻蒙4.0系統(tǒng)會迎來一個(gè)全新的語音助手“小藝”,其中包括知識獲取、邏輯推理、任務(wù)規(guī)劃、記憶擴(kuò)展、工具調(diào)用和制作輔助等方面的功能。同樣在8月,雷軍在年度演講中表示,小米全面擁抱大模型,并且在今年4月已經(jīng)組建小米AI大模型團(tuán)隊(duì)。10月26日,小米發(fā)布澎湃OS,AI大模型的能力完全嵌入到澎湃OS;10月,OPPO宣布與聯(lián)發(fā)科技合作共建輕量化大模型端側(cè)部署方案。
OPPO在ODC 2023上介紹稱,安第斯大模型采用云端相結(jié)合的方式落地端側(cè)大模型,即通過手機(jī)端硬件+云的組合,實(shí)現(xiàn)以往單純依賴云服務(wù)的智能語音助手所不能實(shí)現(xiàn)的效果。“當(dāng)ColorOS融入了端云協(xié)同的安第斯后,用戶可能只需要一句話,就能通過融合端側(cè)與云側(cè)數(shù)據(jù)更好理解用戶,成為非常懂你的超級助理。在端云分工上,安第斯大模型會根據(jù)任務(wù)需求和模型能力不同,調(diào)用不同模型,比如聯(lián)系人查詢等簡單任務(wù),采用小模型端側(cè)快速響應(yīng),知識/信息查詢等復(fù)雜任務(wù)采用云端大模型準(zhǔn)確回答,兼顧推理成本和用戶體驗(yàn)。”
圖片來源:OPPO供圖
據(jù)悉,僅云端運(yùn)行大模型的成本非常高昂。例如,ChatGPT這樣的超大模型需要1000張主流卡容量的獨(dú)立計(jì)算集群,以及對應(yīng)的模型并行算法框架來支持訓(xùn)練。在成本方面,超大模型的訓(xùn)練需要大規(guī)模計(jì)算集群以及對應(yīng)的模型并行算法框架的支撐,因此訓(xùn)練成本通常很高。ChatGPT單次模型訓(xùn)練耗時(shí)1個(gè)月,訓(xùn)練成本達(dá)1200萬美元。
另一方面,如果將大模型直接上傳到云端聯(lián)網(wǎng)使用,又會失去端側(cè)部署的優(yōu)勢。例如,大模型原本可以根據(jù)用戶信息,在手機(jī)上個(gè)性化定制手機(jī)助理,且確保信息不上傳到云端;但如果大模型在云端加載,勢必要將個(gè)人信息通過網(wǎng)絡(luò)上傳,隱私安全無法保障。
實(shí)際上,相比其他應(yīng)用領(lǐng)域,手機(jī)端是大模型最難落地的場景之一。受體積、性能、功耗的限制,如果直接將大模型部署在端側(cè),往往難以取得較好的使用效果,即使能運(yùn)行起來,推理速度也不及預(yù)期,vivo副總裁、OS產(chǎn)品副總裁周圍曾直言:“性能方面,如果做輸入法的出詞推薦,兩秒才能出一個(gè)詞;功耗方面,大參數(shù)量級的大模型在端側(cè)運(yùn)行的話非常耗電。”
為此,安第斯大模型在端側(cè)對推理引擎進(jìn)行算子融合與優(yōu)化,通過與高通、聯(lián)發(fā)科技合作,在行業(yè)采用4位量化技術(shù)(行業(yè)最優(yōu)大模型端側(cè)部署方案),使得安第斯大模型在端側(cè)響應(yīng)更快,從而提升模型的內(nèi)容生成時(shí)間。
智能手機(jī)這類產(chǎn)品所面對的用戶之廣、應(yīng)用場景之豐富,應(yīng)用類型之多,是其他行業(yè)很難比擬的,在大模型落地端側(cè)后,怎樣用好大模型,真正給消費(fèi)者帶來價(jià)值是當(dāng)前各大手機(jī)廠商思考的重點(diǎn)。
過去在提升用戶體驗(yàn)方面,智能手機(jī)等泛終端的焦點(diǎn)主要集中在硬件性能和軟件優(yōu)化。當(dāng)前,5G、云、AI正在加速推進(jìn)萬物互融的進(jìn)程,同時(shí),XR、元宇宙、機(jī)器人等未來技術(shù)場景、內(nèi)容與形態(tài)也在不斷創(chuàng)新發(fā)展。
QuestMobile數(shù)據(jù)統(tǒng)計(jì)顯示,2022年1季度,國內(nèi)移動互聯(lián)網(wǎng)用戶已接近12億,人均擁有5臺智能設(shè)備,超過50%的用戶存在跨設(shè)備跨應(yīng)用的需求。另據(jù)IoT Analytics預(yù)計(jì),2025年全球可能將有超過270億的物聯(lián)網(wǎng)設(shè)備連接。然而,海量智能設(shè)備在幫助用戶實(shí)現(xiàn)便利生活的同時(shí),也放大了設(shè)備過多帶來的副作用:設(shè)備間的生態(tài)差異、系統(tǒng)不兼容等問題,導(dǎo)致用戶往往需要耗費(fèi)更多精力不停切換設(shè)備/應(yīng)用獲取服務(wù)。
實(shí)際上,萬物互融時(shí)代,用戶關(guān)注的各類信息,常常以各種格式散落在各個(gè)應(yīng)用之間,互不相通。例如用戶要制作一份出行攻略,需要打開不同旅游類APP以及小紅書、馬蜂窩、大眾點(diǎn)評……查找景點(diǎn)、美食、出行線路等等,保存不同格式內(nèi)容素材,并且有的APP還不支持復(fù)制文本,只能截圖后裁剪,操作極其繁瑣,效率非常低。
對此,OPPO的解題思路是,將安第斯與潘塔納爾系統(tǒng)融合,潘塔納爾是OPPO實(shí)現(xiàn)不同設(shè)備和不同操作系統(tǒng)之間互聯(lián)互通的系統(tǒng),安第斯則擁有學(xué)習(xí)、記憶與計(jì)算能力,能夠從用戶情境、上下文對話、正在發(fā)生事件等多維度變量信息中識別用戶需求,推動系統(tǒng)融合組裝自有服務(wù)與三方服務(wù)。
舉例來看,此前系統(tǒng)只有知道用戶訂了高鐵票去北京,才會提前推送高鐵行程信息。未來,安第斯大模型在理解用戶需求后,系統(tǒng)會推薦用戶合適的高鐵班次進(jìn)行購買。隨后,系統(tǒng)將高鐵卡片與目的地天氣卡片進(jìn)行融合,成為一張包含高鐵班次、出行時(shí)間與北京天氣溫度的新卡片。此外,系統(tǒng)還會根據(jù)交通擁堵情況,以及用戶偏好習(xí)慣,提供導(dǎo)航去高鐵站停車場等關(guān)聯(lián)服務(wù)推薦;如果識別到用戶想去旅游,還會提供旅游相關(guān)的服務(wù)。
不過,要做到這種觸達(dá)效果,要建立在大模型對用戶需求的精準(zhǔn)理解,以及潘塔納爾對三方服務(wù)與系統(tǒng)服務(wù)的編排組合能力基礎(chǔ)上。這需要OPPO持續(xù)擴(kuò)大朋友圈、搭建生態(tài)。
布局生態(tài)圈在過去幾年已成為手機(jī)廠商共同的動作。從投入路徑來看,各家頭部廠商在軟件層面的切入點(diǎn)其實(shí)并不相同。
其中,華為打造的鴻蒙生態(tài)持續(xù)強(qiáng)調(diào)跨終端的全聯(lián)接場景。蘋果是最早的軟硬結(jié)合的踐行者,已經(jīng)實(shí)現(xiàn)了生態(tài)閉環(huán)。手機(jī)行業(yè)進(jìn)入存量時(shí)代,在原先的單一維度上尋求突破變得困難重重,各自為政只會惡性競爭、加劇內(nèi)卷,但如果跨終端、多應(yīng)用的企業(yè)聯(lián)合起來,或許能有新的機(jī)遇。OPPO以已上線的美團(tuán)卡片為例,通過對用戶各環(huán)節(jié)意圖的精準(zhǔn)推送,美團(tuán)外賣卡片點(diǎn)擊率提升63%、訪購率提升200%。
vivo方面的思路略有不同。周圍認(rèn)為,“大模型用于增強(qiáng)已有的一些模塊和能力,屬于錦上添花。但它也有一些顛覆式能力,并且一定會改變?nèi)藗儗τ谑謾C(jī)的定義。AI大模型的應(yīng)用再進(jìn)一步,將是以‘智能體’形式呈現(xiàn)。甚至當(dāng)?shù)椭?2M-200M主頻+32G內(nèi)存,就可以跑通一個(gè)系統(tǒng)并且具備大模型能力時(shí),未來更多輕量化的設(shè)備,諸如攝像頭、機(jī)器狗等都將具備智能表現(xiàn)。”
對于智能終端行業(yè)來說,AI大模型讓人機(jī)交互產(chǎn)生了革命性變化,可以預(yù)見的是,未來終端設(shè)備的服務(wù)能力、服務(wù)方式都會迎來革新。
封面圖片來源:OPPO供圖
如需轉(zhuǎn)載請與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟(jì)新聞APP