①英偉達一卡難求、溢價極高背景下,至少已有16家A股上市公司進入算力租賃市場; ②近期,英偉達訓(xùn)練卡租賃價格降幅超20%,自建算力中心也壓縮了算力租賃生意規(guī)模,市場呈現(xiàn)“大魚吃小魚”格局; ③華為昇騰、寒武紀(jì)、摩爾線程等國產(chǎn)算力廠商未來發(fā)展成為關(guān)注焦點。
財聯(lián)社5月17日訊(記者 付靜 王碧微)2023年,英偉達憑借552.68億美元營收超越高通,首度躍升為全球營收最高芯片設(shè)計廠商,在資本市場創(chuàng)造神話,即將于5月22日公布的公司季度業(yè)績亦受到市場期待,海外多家機構(gòu)預(yù)計其一季度業(yè)績和二季度指引將明顯高于預(yù)期。不過,在A股市場,一眾“英偉達算力概念牛股”卻于近期接連翻車,“算力租賃故事講不下去了”的聲音四起。
財聯(lián)社記者多方采訪獲悉,即便英偉達“護城河”暫時仍難撼動,其訓(xùn)練卡租賃近期也在逐漸降溫,價格降幅超過了20%,各地政府、企業(yè)自建算力中心也在一定程度上壓縮了算力租賃生意規(guī)模,市場呈現(xiàn)“大魚吃小魚”格局。
與此同時,國產(chǎn)算力正迎頭趕上,華為昇騰早已成為關(guān)注焦點,市場成為國產(chǎn)廠商發(fā)展的最大優(yōu)勢。
算力租賃市場緣何爆發(fā)?
財聯(lián)社記者從某芯片經(jīng)銷商處最新獲悉,目前其手中H100服務(wù)器的現(xiàn)貨價格超270萬元,盡管較今年年初的最高點300萬元左右已經(jīng)略有下滑,但仍處歷史高位,相對于H100 28-30萬美金的出廠價依然有大幅溢價。
去年以來,大模型算力需求攀升,英偉達顯卡一度成為“唯一解”,性能受市場認(rèn)可,疊加貨期不穩(wěn)定,其稀缺性與昂貴價格使算力租賃業(yè)務(wù)成為不少A股企業(yè)追捧的“香餑餑”。據(jù)財聯(lián)社記者不完全統(tǒng)計,已有至少16家A股上市公司進入算力租賃市場,其中不乏從醫(yī)藥、服裝等領(lǐng)域跨界而來的企業(yè)。
自O(shè)penAI推出ChatGPT以來,英偉達可用于AI訓(xùn)練的GPU A100、H100等產(chǎn)品售價飆漲、一卡難求。芯謀咨詢分析師商君曼告訴記者,英偉達GPU的稀缺與昂貴正是催生算力租賃市場爆發(fā)的重要因素。
某AI獨角獸的算力基礎(chǔ)設(shè)施負責(zé)人李小琳告訴記者,單A800其公司有超30臺。顯然這筆支出是小型創(chuàng)業(yè)團隊及研究團隊難以承擔(dān)的。
此外,由于英偉達GPU只能與臺積電合作,其GPU的貨期也極其不穩(wěn)定,能穩(wěn)定拿到卡成為奢望。李小琳稱,下游與英偉達簽訂的合約往往不包含延遲交貨的賠償條款,因為貨期隨時有可能更改。
“其實如果企業(yè)擁有自建算力中心的實力,且能穩(wěn)定拿到卡,自建算力中心是比租賃更劃算的,能夠及時獲得技術(shù)支持,還可以以資產(chǎn)形式體現(xiàn)在財報上?!崩钚×者M一步表示道。
那么,是否可以使用算力相近的卡替代英偉達?
作為AI芯片的“燈塔”,英偉達一直在被對標(biāo)。如今年4月推出的英特爾Guadi3,英特爾官方表示其AI訓(xùn)練速度是H100的1.7倍,推理速度是H100的1.5倍,效能則是H100的2.3倍。
但是從使用者角度來看,算力并非是英偉達唯一的優(yōu)勢。商君曼表示,除能夠保持算力水平的高速升級外,英偉達的護城河更多來自于其互聯(lián)設(shè)計及生態(tài)。李小琳告訴記者,數(shù)據(jù)中心是由成百上千塊GPU組成,英偉達的NVLink會讓其產(chǎn)品擁有更快的傳輸速度與計算性能。生態(tài)方面,大部分技術(shù)人員對于英偉達的CUDA(Compute Unified Device Architecture,計算統(tǒng)一設(shè)備架構(gòu))平臺的依賴還是比較高,開發(fā)者們會在CUDA上進行開發(fā)和測試 AI應(yīng)用,開發(fā)者們的反饋也讓CUDA越做越好。
“想讓我們更換算力設(shè)備是很難的,盡管產(chǎn)品底層架構(gòu)類似,但學(xué)習(xí)成本很高,類似于飛行員重新更換一臺飛機,學(xué)習(xí)時間需要3-6個月,對于企業(yè)而言既耽誤項目進度,還會增加很多人力支出?!崩钚×照f。
算力租賃的生意還好做嗎?
大模型訓(xùn)練需求的蓬勃增長,與英偉達卡溢價高、貨期長的特性已經(jīng)令第一批從事算力租賃生意的企業(yè)嘗到甜頭。
以去年的AI算力牛股中貝通信(603220.SH)為例,去年9月7日、10月25日、11月16日,其算力服務(wù)單價分別為12萬元/P/年(H800)、2.5萬美元/P/年(即約17.84萬元/P/年)、18萬元/P/年,擁有強勢定價話語權(quán)。根據(jù)年報,去年中貝通信凈利潤增長超30%,主要增量來源于智慧城市與算力、新能源等新業(yè)務(wù),這一部分全年營收同比增長49.94%。
這股熱潮也使利通電子(603629.SH)算力業(yè)務(wù)于去年四季度開始產(chǎn)生營收,而匯納科技(300609.SZ)子公司四川匯算智算去年則實現(xiàn)凈利潤251.48萬元。
時至2024年年中,還不斷有“新人”跨界涌進算力租賃賽道,每每公布消息都引發(fā)資本市場躁動,算力租賃生意還是一門好生意嗎?
從下游市場角度來看,國家(深圳?前海)新型互聯(lián)網(wǎng)交換中心的數(shù)據(jù)顯示,目前有算力需求的企業(yè)對于價格、服務(wù)速度和質(zhì)量都較敏感,其中大模型訓(xùn)練與推理需求超過50%(訓(xùn)練35%、推理17%);61%的企業(yè)以租賃方式解決算力需求,31%的企業(yè)出于對數(shù)據(jù)高度敏感的保護需求,選擇自建算力??梢娝懔ψ赓U仍是主流方式。
就職于某算力租賃上市公司的王潔告訴記者,“大廠大多有能力自建算力,但也會進行租賃,如果真的要跟外部廠商合作,那就是深度合作,利通電子和騰訊就是如此?!?/p>
不過記者也從多位受訪者處獲悉,近幾個月租賃價格的高溢價已逐漸降溫。
計算機行業(yè)分析人士李欣告訴記者,英偉達的幾款訓(xùn)練卡近兩個月租用價下降較多,降幅超過了20%。背后原因一方面在于,租用訓(xùn)練卡的多為頭部大模型廠商,由于需求量大,議價權(quán)很強,能把價格壓得比較低;另一方面,不少拿H100等型號去做算力租賃的智算中心,由于能得到算力券補貼、電力補貼等,對外把租賃價壓得非常低,也就壓縮了市場。
王潔認(rèn)為,目前算力租賃市場呈現(xiàn)“大魚吃小魚”格局。“現(xiàn)在算力市場上小規(guī)模集群做不起來,我們的一些客戶簽的都是100臺服務(wù)器起步,一些想跨界做算力租賃的企業(yè)在禁令前在手算力可能只有四五百P,零碎租賃市場空間太小,那么他們可能就會清退手上的資源?!彼蛴浾吲e例,內(nèi)蒙古電價便宜,很多朋友在內(nèi)蒙古有IDC機房,但服務(wù)器只有幾十臺,現(xiàn)在都在清退。
面對不斷進入行業(yè)的“后來者”,王潔稱,“我們從業(yè)者覺得做算力風(fēng)險還是挺大,也發(fā)生過打完采購預(yù)付款供應(yīng)商就卷錢逃跑的情況。只能說租賃市場魚龍混雜,總有人真的在做,也總有人在講故事,不好判斷。英博數(shù)科在業(yè)內(nèi)響當(dāng)當(dāng)?shù)母ミ_簽了合同,無論是時機、團隊還是前期情況,我作為從業(yè)者覺得他們還不錯,但是也有很多質(zhì)疑聲音?!?/p>
始智AI wisemodel社區(qū)創(chuàng)始人劉道全還告訴記者,“曾碰到個別完全不懂算力的公司也進來交學(xué)費?!?/p>
另外有消息稱,近期部分算力租賃廠商正出售手中的算卡資源。李欣告訴財聯(lián)社記者,如果是用英偉達訓(xùn)練卡去做算力租賃,其實算力租賃企業(yè)回本周期會拉的非常長。商君曼告訴記者,對于跨界進入算力租賃行業(yè)的企業(yè),能否穩(wěn)定拿到卡、卡的數(shù)量能否支撐起需求、是否有專業(yè)技術(shù)人員去做集群與服務(wù)器、算力租賃服務(wù)能力,都可能形成挑戰(zhàn)。
國產(chǎn)算力及時扛起大旗?
英偉達的緊缺催生出國產(chǎn)算力租賃市場,國產(chǎn)算力的發(fā)展也成為不得不討論的話題。“國產(chǎn)GPU廠商起步較晚,目前在生態(tài)方面較英偉達為代表的國際龍頭尚有一定差距,且國內(nèi)的先進制造能力可能存在挑戰(zhàn)。但如果要在國內(nèi)市場擴大市占率,其實還是國產(chǎn)廠商更有機會?!鄙叹硎?。
目前來看,華為昇騰、寒武紀(jì)(688256.SH)、摩爾線程等一批國產(chǎn)算力企業(yè)已經(jīng)初露鋒芒,云廠商人士張駿向財聯(lián)社記者表示,“廠商要建1000P以上的智算中心,還是最認(rèn)可英偉達,其次可能就是華為(昇騰)。不過并不是所有場合都需要那么強的算力,比如在邊緣端,國產(chǎn)的性價比就凸顯出來了?!崩钚×者M一步解釋,算力卡分為推理卡和訓(xùn)練卡,在推理卡領(lǐng)域國產(chǎn)小廠的卡已經(jīng)可以使用;訓(xùn)練卡的話,目前國產(chǎn)做得最好的還是華為昇騰。
李小琳還透露,目前其公司已經(jīng)開始接觸華為昇騰的卡?!皬膬r格上,我們這邊接觸的昇騰一臺180萬左右,比英偉達便宜100萬左右;相對于英偉達貨期不穩(wěn)定的情況,昇騰的貨期也相對穩(wěn)定,說兩個月就兩個月,確定性更強;此外,購買昇騰的卡之后,昇騰的技術(shù)人員會駐廠來帶企業(yè)人員學(xué)習(xí)使用方法,減小了企業(yè)的學(xué)習(xí)成本?!?/p>
“目前其實很多大廠都已經(jīng)能夠看見昇騰的身影了,很多頭部公司的算力中心建設(shè)也在英偉達的基礎(chǔ)上配備了一定比例的昇騰”李小琳進一步表示道。
一個很好的案例就是科大訊飛(002230.SZ),根據(jù)媒體報道,科大訊飛發(fā)布的多款大模型都宣稱系基于華為昇騰生態(tài)打造。
值得注意的是,去年以來四川華鯤振宇智能科技有限責(zé)任公司也受到高度關(guān)注, 在其官網(wǎng)高調(diào)介紹:“作為國產(chǎn)算力規(guī)模第一企業(yè),基于鯤鵬+昇騰的基礎(chǔ)軟硬件技術(shù)能力,提供全棧自主計算產(chǎn)品的設(shè)計、生產(chǎn)、銷售及服務(wù),華鯤振宇已成為華為計算最佳戰(zhàn)略合作伙伴、鯤鵬+昇騰生態(tài)唯一雙戰(zhàn)略級認(rèn)證整機伙伴,過去三年業(yè)績實現(xiàn)高速增長。” 前不久,高新發(fā)展(000628.SZ)因宣告其籌劃已久的華鯤振宇70%股權(quán)收購事項暫停,受到市場諸多質(zhì)疑。
總體來看,多位受訪者均認(rèn)為,目前國產(chǎn)訓(xùn)練卡與英偉達仍有差距,但也不乏機會,“盡管在生態(tài)方面英偉達遙遙領(lǐng)先,但國產(chǎn)廠商最大的優(yōu)勢其實是市場。目前我們國家AI芯片市場規(guī)模大概是4成,我認(rèn)為隨著大模型應(yīng)用的落地,國產(chǎn)化AI芯片的市場比例一定會提高?!鄙叹硎尽?/p>
(文中李小琳、李欣、王潔、張駿均為化名)