手機(jī)廠開卷AI這一年 端側(cè)大模型越做越???|一線
原創(chuàng)
2024-10-11 18:59 星期五
科創(chuàng)板日報(bào)記者 黃心怡
①30億參數(shù)端側(cè)模型有望成為標(biāo)配。在云端大模型方面,百億以下的模型對(duì)手機(jī)廠商極為有價(jià)值;
②AI會(huì)催生出全新的硬件品類,vivo等手機(jī)廠商均有計(jì)劃推出眼鏡產(chǎn)品。

《科創(chuàng)板日報(bào)》10月11日訊(記者 黃心怡) 從2023年下半年,AI大模型就開始席卷手機(jī)圈。vivo、OPPO、華為、榮耀等國內(nèi)手機(jī)廠商都在生成式AI上發(fā)力。

經(jīng)過一年多的發(fā)展,多名業(yè)內(nèi)人士告訴《科創(chuàng)板日報(bào)》記者,相比去年,如今云端運(yùn)行大模型的成本已經(jīng)大幅度下降,大規(guī)模的端側(cè)普及也對(duì)降本起到了更多作用,越來越多的功能可以在端側(cè)進(jìn)行。同時(shí),端側(cè)模型的尺寸越來越小,30億參數(shù)端側(cè)模型有望成為標(biāo)配。而在云端大模型方面,百億以下的模型對(duì)手機(jī)企業(yè)極其有價(jià)值。

此外,AI有望催生出全新的硬件品類,特別是智能眼鏡備受矚目。除了華為、榮耀、小米已入局外,《科創(chuàng)板日報(bào)》記者在采訪中了解,vivo也在計(jì)劃推出眼鏡產(chǎn)品。

不過當(dāng)前AI功能尚不成熟,現(xiàn)如今就AI會(huì)加速智能手機(jī)的更換周期或許為時(shí)過早。但從長期來看,未來10年將會(huì)是一場真正的革命。

▌百億以下模型極其有價(jià)值

當(dāng)前,AI已成為手機(jī)廠商新機(jī)的亮點(diǎn)。把大模型裝進(jìn)手機(jī),尤其是在旗艦機(jī)型上,AI已經(jīng)是必備要素。

今年9月,首次搭載AI功能的iPhone 16正式發(fā)布,采用30億參數(shù)端側(cè)模型、自研云端大模型,以及與OpenAI合作接入的外部GPT模型相結(jié)合的模式。

在剛剛結(jié)束的vivo開發(fā)者大會(huì)上,vivo也發(fā)布了30億參數(shù)量級(jí)的藍(lán)心端側(cè)大模型3B,并升級(jí)了千億級(jí)藍(lán)心云端大模型,藍(lán)心語音大模型、圖像大模型以及藍(lán)心多模態(tài)大模型首次亮相。

談及對(duì)AI的投入,vivo AI全球研究院院長周圍在接受《科創(chuàng)板日報(bào)》記者采訪時(shí)表示,會(huì)重點(diǎn)瞄準(zhǔn)兩千億以下的云端模型,以及把端側(cè)模型做到領(lǐng)先,把百億模型做到獨(dú)具特色,千億以上的大模型則會(huì)考慮和第三方廠商合作

“我們把大模型分為三個(gè)類別,第一是百億及以下,第二是兩千億以下,第三是兩千億以上的。從投資的角度來看,這分別是兩千張卡、一萬張卡、N萬張卡的投資邊界。像我們這樣的公司,可能一年花30億、組建一萬張卡的訓(xùn)練集群是上限?!?/p>

周圍認(rèn)為,對(duì)于手機(jī)企業(yè)而言,百億以下的模型極其有價(jià)值?!跋駡D像識(shí)別、聲音識(shí)別、審核模型、PhoneGPT等都是百億模型。千億模型是云端的中控模型,大概可以達(dá)到大學(xué)生的水平。千億以上則適用于一些復(fù)雜的場景,像大領(lǐng)域的應(yīng)用等等,我們不會(huì)碰這些。”

▌大模型落地手機(jī)的成本大幅下降

要把大模型裝進(jìn)手機(jī),面臨著算力、內(nèi)存、存儲(chǔ)容量以及電池密度等各方面的瓶頸,導(dǎo)致其大模型參數(shù)量最高在百億規(guī)模。去年,vivo曾實(shí)現(xiàn)了130億藍(lán)心大模型的端側(cè)跑通,但這也對(duì)手機(jī)內(nèi)存有較大的占用。如何進(jìn)一步把模型做小,已成為手機(jī)廠商的探索方向。此次vivo就發(fā)布了尺寸更小的30億端側(cè)大模型3B。

“去年我們發(fā)布了70億、130億的大模型,經(jīng)過極致量化壓縮之后,70億大模型仍要占用戶3.5GB的存儲(chǔ)空間。所以當(dāng)時(shí)并沒有把模型強(qiáng)行內(nèi)置到系統(tǒng)中,而是給用戶提供了可下載和可卸載的選擇。今年尺寸更小的3B端側(cè)大模型,占用1.5G的內(nèi)存。因此,這次我們會(huì)內(nèi)置到接下來旗艦機(jī)型的OriginOS 5之中。”vivo AI系統(tǒng)中心高級(jí)總監(jiān)熊官敬介紹。

值得一提的是,蘋果首款A(yù)I手機(jī)也選擇了端側(cè)30億參數(shù)大模型。

熊官敬表示,3B模型已可以滿足很多場景下的需求?!霸谕ㄔ?、錄音、輸入法各個(gè)地方都能用。從大模型榜單上來看,3B模型PK之前的6B和7B都沒問題?!?/p>

在去年的采訪中,周圍曾透露云端運(yùn)行大模型的成本非常高:“vivo有3億中國大陸用戶,如果每天用10次,一天的運(yùn)算成本大概是3000萬元,一年需要花費(fèi)約90-100億元。”

在此次采訪中,周圍直言,隨著各家大模型廠商相繼降價(jià),云端大模型的成本已經(jīng)大幅度下降。不過,對(duì)降本起到更多作用的是大規(guī)模的端側(cè)普及

“今年我們有十幾個(gè)、數(shù)十個(gè)功能都端側(cè)化了,以后可能閑聊、識(shí)別、決策、執(zhí)行全部都端側(cè)化了。所以我們不浪費(fèi)錢,費(fèi)的是電。”

▌AI必將催生新的智能品類

除了手機(jī)以外,AI在眼鏡等新興終端的落地備受關(guān)注。IDC數(shù)據(jù)顯示,2024年一季度全球AR眼鏡出貨量為10萬臺(tái),同比增長56%;智能眼鏡出貨量為26萬臺(tái),同比增長217%;另據(jù)IDC數(shù)據(jù),2024年上半年,國內(nèi)AR、ER市場共出貨12.2萬臺(tái),同比增長79.2%。去年9月,Meta與雷朋合作推出的Ray-Ban Meta智能眼鏡在當(dāng)前已成為全球智能眼鏡領(lǐng)域內(nèi)的爆款單品,第三方數(shù)據(jù)顯示,其銷量已突破100萬臺(tái)。

周圍認(rèn)為,AI會(huì)催生出全新的硬件品類。未來,vivo也計(jì)劃推出眼鏡產(chǎn)品。

“vivo本來就在做眼鏡。我們?nèi)ツ杲o國家無障礙環(huán)境展示館給盲人做導(dǎo)覽,用的是vivo手機(jī),但后來發(fā)現(xiàn)放在眼鏡上的體驗(yàn)更好。我們和合作伙伴也在談做軟件和系統(tǒng)的支撐,用的是藍(lán)河操作系統(tǒng)。但至于今年還是2025年或者什么時(shí)候出來,還不知道。這要看產(chǎn)品的成熟度,而且我們也希望行業(yè)有成功案例之后,才會(huì)有商業(yè)上的動(dòng)作?!?/p>

談及大模型在AI眼鏡的落地,IDC中國研究總監(jiān)潘雪菲認(rèn)為,就音頻AI眼鏡來看,目前端側(cè)落地大模型還是有相當(dāng)長的時(shí)間?!翱紤]到佩戴舒適度,音頻眼鏡在體積和人體工學(xué)設(shè)計(jì)上對(duì)芯片體積和空間設(shè)計(jì)要求較高,可能會(huì)有一些小型模型在端側(cè)本地運(yùn)行,比如幾個(gè)播放暫停接打電話等簡單語音包,可以落在本地。”

▌AI驅(qū)動(dòng)的換機(jī)潮何時(shí)到來?

當(dāng)前生成式AI技術(shù)尚未成熟,對(duì)于AI手機(jī)元年何時(shí)帶來的換機(jī)潮,業(yè)內(nèi)也有爭論。

近期,受到iPhone 16系列預(yù)購銷量下滑影響,美國知名投資銀行杰富瑞的分析師艾迪森·李將蘋果股票評(píng)級(jí)從“買入”下調(diào)至“持有”,理由是擔(dān)心人們對(duì)其新款支持AI功能iPhone的預(yù)期過高。

艾迪森表示,智能手機(jī)硬件目前還不夠先進(jìn),無法滿足高科技人工智能分析師和iPhone 消費(fèi)者所期望的水平。他認(rèn)為,對(duì)iPhone 16甚至17的高期望并不現(xiàn)實(shí)。因?yàn)槿狈?shí)質(zhì)性的新功能,人工智能覆蓋范圍有限,這意味著高市場預(yù)期(5%-10%的銷量增長)不太可能實(shí)現(xiàn)。

艾迪森在報(bào)告中寫道,“智能手機(jī)與人工智能服務(wù)器不同,缺乏高速內(nèi)存和先進(jìn)的封裝技術(shù),從而限制了它們的人工智能能力?,F(xiàn)在就期待AI會(huì)加速智能手機(jī)的更換周期還為時(shí)過早。”艾迪森稱,像蘋果這樣的制造商還需要兩到三年的時(shí)間才能開發(fā)出能夠順利運(yùn)行AI軟件的智能手機(jī)硬件。

IDC中國研究經(jīng)理郭天翔對(duì)《科創(chuàng)板日報(bào)》記者表示,很多國家地區(qū)蘋果的AI功能依然不能使用,這導(dǎo)致對(duì)消費(fèi)者的吸引力有限。此外,AI智能手機(jī)的殺手級(jí)應(yīng)用還沒出現(xiàn),消費(fèi)者不會(huì)因?yàn)橹悄苁謾C(jī)有了足夠好的NPU(芯片)主動(dòng)購買。

大多數(shù)消費(fèi)者并不真正知道他們使用AI可以做什么。今天的AI智能手機(jī)超級(jí)周期更多是由手機(jī)廠商推動(dòng)。但這符合新技術(shù)進(jìn)入市場的規(guī)律。AI智能手機(jī)的普及已經(jīng)開始,就像功能手機(jī)過渡到智能手機(jī)一樣,第一步往往是科技公司主動(dòng)吸引消費(fèi)者購買體驗(yàn)?!?/p>

郭天翔表示,如今智能手機(jī)滲透率已經(jīng)很高,某些地區(qū)超過90%,但智能手機(jī)出貨量仍舊有所增長。“每個(gè)人都會(huì)因?yàn)樾鹿δ苜徺I下一代iPhone、三星、小米或者其他品牌設(shè)備。所以首批用戶應(yīng)該是傳統(tǒng)智能手機(jī)消費(fèi)者更換AI智能手機(jī)。目前依然處于開始階段。并不知道未來5到10年AI智能手機(jī)會(huì)給我們帶來什么?!?/p>

郭天翔認(rèn)為,樂觀來看,未來10年將會(huì)是一場真正的革命,大多數(shù)消費(fèi)者將找到真正有用的殺手級(jí)應(yīng)用。IDC預(yù)計(jì),到2028年,全球超過70%的智能手機(jī)都將支持人工智能或者生成式AI。

周圍也對(duì)長期發(fā)展保持樂觀。對(duì)于何時(shí)AI才能帶來翻天覆地的銷量變化,周圍認(rèn)為要保持平常心對(duì)待。

“現(xiàn)在還有一些功能要有云端的支持,但端側(cè)化的演進(jìn)非???。預(yù)計(jì)到2027年,整個(gè)端側(cè)的算力,可能就會(huì)很好地支撐今天演示的那些自動(dòng)執(zhí)行的能力。所以,我認(rèn)為到時(shí)會(huì)發(fā)生很大的變化。當(dāng)然,可能也不用等到那個(gè)時(shí)候,隨著后續(xù)新機(jī)的發(fā)布,估計(jì)明年就會(huì)有強(qiáng)烈的感知?!?/p>

收藏
108.81W
我要評(píng)論
歡迎您發(fā)表有價(jià)值的評(píng)論,發(fā)布廣告和不和諧的評(píng)論都將會(huì)被刪除,您的賬號(hào)將禁止評(píng)論。
發(fā)表評(píng)論
要聞
股市
關(guān)聯(lián)話題
4.22W 人關(guān)注
2.05W 人關(guān)注
8783 人關(guān)注