2024年03月22日 12:13:09
快手在GTC大會(huì)發(fā)布大模型訓(xùn)練解決方案 支持百萬(wàn)級(jí)超長(zhǎng)文本
《科創(chuàng)板日?qǐng)?bào)》22日訊,近日英偉達(dá)GTC大會(huì)上,快手公布了大模型訓(xùn)練解決方案。據(jù)悉,通過(guò)計(jì)算通信重疊、異構(gòu)存儲(chǔ)利用、通信資源管控、算子優(yōu)化等手段,該方案可支持百萬(wàn)級(jí)別超長(zhǎng)文本訓(xùn)練,并且在訓(xùn)練性能上比sota開(kāi)源方案快30%以上。
收藏
439.69W
我要評(píng)論
歡迎您發(fā)表有價(jià)值的評(píng)論,發(fā)布廣告和不和諧的評(píng)論都將會(huì)被刪除,您的賬號(hào)將禁止評(píng)論。
發(fā)表評(píng)論
關(guān)聯(lián)話題
0 人關(guān)注
0 人關(guān)注