手機廠開卷AI這一年 端側(cè)大模型越做越小?|一線
原創(chuàng)
2024-10-11 18:59 星期五
科創(chuàng)板日報記者 黃心怡
①30億參數(shù)端側(cè)模型有望成為標配。在云端大模型方面,百億以下的模型對手機廠商極為有價值;
②AI會催生出全新的硬件品類,vivo等手機廠商均有計劃推出眼鏡產(chǎn)品。

《科創(chuàng)板日報》10月11日訊(記者 黃心怡) 從2023年下半年,AI大模型就開始席卷手機圈。vivo、OPPO、華為、榮耀等國內(nèi)手機廠商都在生成式AI上發(fā)力。

經(jīng)過一年多的發(fā)展,多名業(yè)內(nèi)人士告訴《科創(chuàng)板日報》記者,相比去年,如今云端運行大模型的成本已經(jīng)大幅度下降,大規(guī)模的端側(cè)普及也對降本起到了更多作用,越來越多的功能可以在端側(cè)進行。同時,端側(cè)模型的尺寸越來越小,30億參數(shù)端側(cè)模型有望成為標配。而在云端大模型方面,百億以下的模型對手機企業(yè)極其有價值。

此外,AI有望催生出全新的硬件品類,特別是智能眼鏡備受矚目。除了華為、榮耀、小米已入局外,《科創(chuàng)板日報》記者在采訪中了解,vivo也在計劃推出眼鏡產(chǎn)品。

不過當前AI功能尚不成熟,現(xiàn)如今就AI會加速智能手機的更換周期或許為時過早。但從長期來看,未來10年將會是一場真正的革命。

▌百億以下模型極其有價值

當前,AI已成為手機廠商新機的亮點。把大模型裝進手機,尤其是在旗艦機型上,AI已經(jīng)是必備要素。

今年9月,首次搭載AI功能的iPhone 16正式發(fā)布,采用30億參數(shù)端側(cè)模型、自研云端大模型,以及與OpenAI合作接入的外部GPT模型相結(jié)合的模式。

在剛剛結(jié)束的vivo開發(fā)者大會上,vivo也發(fā)布了30億參數(shù)量級的藍心端側(cè)大模型3B,并升級了千億級藍心云端大模型,藍心語音大模型、圖像大模型以及藍心多模態(tài)大模型首次亮相。

談及對AI的投入,vivo AI全球研究院院長周圍在接受《科創(chuàng)板日報》記者采訪時表示,會重點瞄準兩千億以下的云端模型,以及把端側(cè)模型做到領(lǐng)先,把百億模型做到獨具特色,千億以上的大模型則會考慮和第三方廠商合作。

“我們把大模型分為三個類別,第一是百億及以下,第二是兩千億以下,第三是兩千億以上的。從投資的角度來看,這分別是兩千張卡、一萬張卡、N萬張卡的投資邊界。像我們這樣的公司,可能一年花30億、組建一萬張卡的訓(xùn)練集群是上限?!?/p>

周圍認為,對于手機企業(yè)而言,百億以下的模型極其有價值。“像圖像識別、聲音識別、審核模型、PhoneGPT等都是百億模型。千億模型是云端的中控模型,大概可以達到大學(xué)生的水平。千億以上則適用于一些復(fù)雜的場景,像大領(lǐng)域的應(yīng)用等等,我們不會碰這些。”

▌大模型落地手機的成本大幅下降

要把大模型裝進手機,面臨著算力、內(nèi)存、存儲容量以及電池密度等各方面的瓶頸,導(dǎo)致其大模型參數(shù)量最高在百億規(guī)模。去年,vivo曾實現(xiàn)了130億藍心大模型的端側(cè)跑通,但這也對手機內(nèi)存有較大的占用。如何進一步把模型做小,已成為手機廠商的探索方向。此次vivo就發(fā)布了尺寸更小的30億端側(cè)大模型3B。

“去年我們發(fā)布了70億、130億的大模型,經(jīng)過極致量化壓縮之后,70億大模型仍要占用戶3.5GB的存儲空間。所以當時并沒有把模型強行內(nèi)置到系統(tǒng)中,而是給用戶提供了可下載和可卸載的選擇。今年尺寸更小的3B端側(cè)大模型,占用1.5G的內(nèi)存。因此,這次我們會內(nèi)置到接下來旗艦機型的OriginOS 5之中?!眝ivo AI系統(tǒng)中心高級總監(jiān)熊官敬介紹。

值得一提的是,蘋果首款A(yù)I手機也選擇了端側(cè)30億參數(shù)大模型。

熊官敬表示,3B模型已可以滿足很多場景下的需求?!霸谕ㄔ?、錄音、輸入法各個地方都能用。從大模型榜單上來看,3B模型PK之前的6B和7B都沒問題?!?/p>

在去年的采訪中,周圍曾透露云端運行大模型的成本非常高:“vivo有3億中國大陸用戶,如果每天用10次,一天的運算成本大概是3000萬元,一年需要花費約90-100億元?!?/p>

在此次采訪中,周圍直言,隨著各家大模型廠商相繼降價,云端大模型的成本已經(jīng)大幅度下降。不過,對降本起到更多作用的是大規(guī)模的端側(cè)普及。

“今年我們有十幾個、數(shù)十個功能都端側(cè)化了,以后可能閑聊、識別、決策、執(zhí)行全部都端側(cè)化了。所以我們不浪費錢,費的是電?!?/p>

▌AI必將催生新的智能品類

除了手機以外,AI在眼鏡等新興終端的落地備受關(guān)注。IDC數(shù)據(jù)顯示,2024年一季度全球AR眼鏡出貨量為10萬臺,同比增長56%;智能眼鏡出貨量為26萬臺,同比增長217%;另據(jù)IDC數(shù)據(jù),2024年上半年,國內(nèi)AR、ER市場共出貨12.2萬臺,同比增長79.2%。去年9月,Meta與雷朋合作推出的Ray-Ban Meta智能眼鏡在當前已成為全球智能眼鏡領(lǐng)域內(nèi)的爆款單品,第三方數(shù)據(jù)顯示,其銷量已突破100萬臺。

周圍認為,AI會催生出全新的硬件品類。未來,vivo也計劃推出眼鏡產(chǎn)品。

“vivo本來就在做眼鏡。我們?nèi)ツ杲o國家無障礙環(huán)境展示館給盲人做導(dǎo)覽,用的是vivo手機,但后來發(fā)現(xiàn)放在眼鏡上的體驗更好。我們和合作伙伴也在談做軟件和系統(tǒng)的支撐,用的是藍河操作系統(tǒng)。但至于今年還是2025年或者什么時候出來,還不知道。這要看產(chǎn)品的成熟度,而且我們也希望行業(yè)有成功案例之后,才會有商業(yè)上的動作?!?/p>

談及大模型在AI眼鏡的落地,IDC中國研究總監(jiān)潘雪菲認為,就音頻AI眼鏡來看,目前端側(cè)落地大模型還是有相當長的時間?!翱紤]到佩戴舒適度,音頻眼鏡在體積和人體工學(xué)設(shè)計上對芯片體積和空間設(shè)計要求較高,可能會有一些小型模型在端側(cè)本地運行,比如幾個播放暫停接打電話等簡單語音包,可以落在本地。”

▌AI驅(qū)動的換機潮何時到來?

當前生成式AI技術(shù)尚未成熟,對于AI手機元年何時帶來的換機潮,業(yè)內(nèi)也有爭論。

近期,受到iPhone 16系列預(yù)購銷量下滑影響,美國知名投資銀行杰富瑞的分析師艾迪森·李將蘋果股票評級從“買入”下調(diào)至“持有”,理由是擔心人們對其新款支持AI功能iPhone的預(yù)期過高。

艾迪森表示,智能手機硬件目前還不夠先進,無法滿足高科技人工智能分析師和iPhone 消費者所期望的水平。他認為,對iPhone 16甚至17的高期望并不現(xiàn)實。因為缺乏實質(zhì)性的新功能,人工智能覆蓋范圍有限,這意味著高市場預(yù)期(5%-10%的銷量增長)不太可能實現(xiàn)。

艾迪森在報告中寫道,“智能手機與人工智能服務(wù)器不同,缺乏高速內(nèi)存和先進的封裝技術(shù),從而限制了它們的人工智能能力?,F(xiàn)在就期待AI會加速智能手機的更換周期還為時過早?!卑仙Q,像蘋果這樣的制造商還需要兩到三年的時間才能開發(fā)出能夠順利運行AI軟件的智能手機硬件。

IDC中國研究經(jīng)理郭天翔對《科創(chuàng)板日報》記者表示,很多國家地區(qū)蘋果的AI功能依然不能使用,這導(dǎo)致對消費者的吸引力有限。此外,AI智能手機的殺手級應(yīng)用還沒出現(xiàn),消費者不會因為智能手機有了足夠好的NPU(芯片)主動購買。

大多數(shù)消費者并不真正知道他們使用AI可以做什么。今天的AI智能手機超級周期更多是由手機廠商推動。但這符合新技術(shù)進入市場的規(guī)律。AI智能手機的普及已經(jīng)開始,就像功能手機過渡到智能手機一樣,第一步往往是科技公司主動吸引消費者購買體驗?!?/p>

郭天翔表示,如今智能手機滲透率已經(jīng)很高,某些地區(qū)超過90%,但智能手機出貨量仍舊有所增長?!懊總€人都會因為新功能購買下一代iPhone、三星、小米或者其他品牌設(shè)備。所以首批用戶應(yīng)該是傳統(tǒng)智能手機消費者更換AI智能手機。目前依然處于開始階段。并不知道未來5到10年AI智能手機會給我們帶來什么。”

郭天翔認為,樂觀來看,未來10年將會是一場真正的革命,大多數(shù)消費者將找到真正有用的殺手級應(yīng)用。IDC預(yù)計,到2028年,全球超過70%的智能手機都將支持人工智能或者生成式AI。

周圍也對長期發(fā)展保持樂觀。對于何時AI才能帶來翻天覆地的銷量變化,周圍認為要保持平常心對待。

“現(xiàn)在還有一些功能要有云端的支持,但端側(cè)化的演進非??臁?strong>預(yù)計到2027年,整個端側(cè)的算力,可能就會很好地支撐今天演示的那些自動執(zhí)行的能力。所以,我認為到時會發(fā)生很大的變化。當然,可能也不用等到那個時候,隨著后續(xù)新機的發(fā)布,估計明年就會有強烈的感知。”

收藏
108.81W
我要評論
歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論
要聞
股市
關(guān)聯(lián)話題
4.22W 人關(guān)注
2.05W 人關(guān)注
8783 人關(guān)注