騰訊云發(fā)布新一代大模型計(jì)算集群 性能提升3倍
中證網(wǎng)訊(記者 于蒙蒙)4月14日,騰訊云正式發(fā)布新一代高性能計(jì)算集群。該集群采用騰訊自研的星星海服務(wù)器,服務(wù)器之間采用業(yè)界最高的3.2T超高互聯(lián)帶寬,為大模型訓(xùn)練、自動(dòng)駕駛、科學(xué)計(jì)算等提供高性能、高帶寬和低延遲的集群算力。實(shí)測(cè)顯示,騰訊云新一代集群的算力性能較前代提升高達(dá)3倍。騰訊方面透露,未來(lái),新一代集群不僅能服務(wù)于大模型訓(xùn)練,還將在自動(dòng)駕駛、科學(xué)計(jì)算、自然語(yǔ)言處理等場(chǎng)景中充分應(yīng)用。
算力是數(shù)字經(jīng)濟(jì)時(shí)代的重要基礎(chǔ)設(shè)施和關(guān)鍵技術(shù)。單體服務(wù)器算力有限,需要將大量服務(wù)器通過(guò)高性能網(wǎng)絡(luò)相連,打造成大規(guī)模算力集群。
去年10月,騰訊完成首個(gè)萬(wàn)億參數(shù)的AI大模型——混元NLP大模型訓(xùn)練。在同等數(shù)據(jù)集下,將訓(xùn)練時(shí)間由50天縮短到11天。如果基于本次發(fā)布的新一代集群,訓(xùn)練時(shí)間將進(jìn)一步縮短至4天。通過(guò)對(duì)處理器、網(wǎng)絡(luò)架構(gòu)和存儲(chǔ)性能的全面優(yōu)化,騰訊云攻克了大集群場(chǎng)景下的算力損耗問(wèn)題,為大模型訓(xùn)練提供高性能、高帶寬、低延遲的智算能力支撐。
騰訊方面表示,以新一代集群為標(biāo)志,騰訊云基于自研芯片、星星海自研服務(wù)器和分布式云操作系統(tǒng)遨馳,構(gòu)建起了完整的自研產(chǎn)品體系。未來(lái),騰訊云將通過(guò)軟硬一體的方式,打造面向AIGC的高性能智算網(wǎng)絡(luò),持續(xù)加速全社會(huì)云上創(chuàng)新。