近日,國際權(quán)威機(jī)構(gòu)IDC最新發(fā)布的《中國智算基礎(chǔ)設(shè)施服務(wù)市場(2024下半年)跟蹤》報告顯示,2024年中國智算基礎(chǔ)設(shè)施服務(wù)市場迎來爆發(fā)式增長,整體規(guī)模達(dá)124.1億元,同比增長57.7%。其中,百度智能云憑借GPU云服務(wù)的卓越表現(xiàn),以及“基礎(chǔ)設(shè)施+平臺+場景”的閉環(huán)能力,正推動智算服務(wù)向產(chǎn)業(yè)化落地深化。在同步發(fā)布的《中國智算專業(yè)服務(wù)市場報告》中,百度智能云在解決方案實(shí)施服務(wù)市場中穩(wěn)居行業(yè)第一。
IDC報告顯示,2025年,DeepSeek的快速出圈,創(chuàng)造了新的市場機(jī)遇,百度智能云不僅提供基礎(chǔ)設(shè)施交付、并通過“規(guī)劃-建設(shè)-運(yùn)營-生態(tài)”的閉環(huán)能力,賦能智算中心全鏈路價值,同時,依托在AI領(lǐng)域的先發(fā)優(yōu)勢,百度智能云在模型與行業(yè)AI場景方面處于領(lǐng)先地位。
硬核技術(shù)驅(qū)動高速增長
算力需求持續(xù)釋放,推動GenAI IaaS服務(wù)市場占比不斷提升。其中GenAI IaaS市場持續(xù)快速迭代,頭部格局加速收斂。百度智能云通過“國產(chǎn)芯昆侖芯+百舸GPU算力平臺”的軟硬一體技術(shù)體系,為AI大模型訓(xùn)練與推理提供高性能、高性價比的算力解決方案:
昆侖芯超節(jié)點(diǎn),訓(xùn)推性能跨越式提升:通過硬件架構(gòu)創(chuàng)新,昆侖芯超節(jié)點(diǎn)突破傳統(tǒng)單機(jī)8卡產(chǎn)品形態(tài),超高密度設(shè)計(jì)使得單柜可容納32/64張昆侖芯AI加速卡。單柜內(nèi)卡間實(shí)現(xiàn)全互聯(lián)通信,帶寬提升高達(dá)8倍,一個機(jī)柜的算力最高可達(dá)到傳統(tǒng)形態(tài)下8臺8卡服務(wù)器,實(shí)現(xiàn)對MoE大模型單節(jié)點(diǎn)訓(xùn)練性能5-10倍、單卡推理效率13倍的大幅提升。
百舸GPU算力平臺,極致的訓(xùn)推加速優(yōu)化:百舸平臺通過在各個層面的優(yōu)化,在各種維度的指標(biāo)上做到了業(yè)界領(lǐng)先水平。在萬卡任務(wù)上,百舸平臺可以保障有效訓(xùn)練時長占比達(dá)到99.5%。在推理加速的極致優(yōu)化上,百舸平臺基于大規(guī)模PD分離式推理系統(tǒng)以及多專家并行機(jī)制,支撐千帆平臺為40萬客戶提供服務(wù)。上線以來,千帆的推理吞吐提升了20倍,推理速度提升了50%以上。
這一獨(dú)特的技術(shù)優(yōu)勢也助力百度智能云成功突破頭部科技企業(yè)及中腰部客戶市場,推動GenAI IaaS業(yè)務(wù)實(shí)現(xiàn)跨越式增長。
響應(yīng)市場變革,引領(lǐng)“訓(xùn)推拐點(diǎn)”
隨著DeepSeek等開源模型引爆企業(yè)級推理需求,2025年AI算力正從訓(xùn)練主導(dǎo)轉(zhuǎn)向推理驅(qū)動。百度智能云也已完成率先布局:
在算力層面,目前百度智能云成功點(diǎn)亮了昆侖芯P800三萬卡集群,也基于百舸GPU算力平臺適配了國產(chǎn)化P800芯片,來提供整個模型推理服務(wù),為DeepSeek等開源模型提供優(yōu)質(zhì)且適配性強(qiáng)的環(huán)境,使模型發(fā)揮出更高的性能。以DeepSeek R1滿血版為例,百舸+昆侖芯的方案,對推理吞吐和時延等關(guān)鍵指標(biāo)做了優(yōu)化,單卡吞吐性能相比國內(nèi)主流芯片方案可以高出90%;在大規(guī)模高并發(fā)場景下,模型推理速度可以提升40%以上。
在平臺層面,針對DeepSeek等開源模型進(jìn)行了極致的性能優(yōu)化,比如通過高效的PD分離式推理架構(gòu),實(shí)現(xiàn)模型吞吐的大幅度提升,進(jìn)而顯著降低模型推理成本。同時,針對有進(jìn)一步應(yīng)用需求的企業(yè),千帆大模型平臺提供基于模型開發(fā)工具鏈進(jìn)行一鍵部署、蒸餾這樣的能力,能讓企業(yè)客戶更好地將模型用起來,完成特定模型需求的再開發(fā),帶來增益賦能。
在應(yīng)用層面,百度智能云也推出了“精選行業(yè)場景智能體家族”,包括營銷供電方案智能體、公路應(yīng)急指揮智能體、座艙大模型智能體、智慧就醫(yī)智能體、生態(tài)環(huán)境監(jiān)測智能體等,積極探索大模型在智能問數(shù)、公文寫作、理財助手、合規(guī)管理、醫(yī)療輔診等行業(yè)垂直業(yè)務(wù)場景中的能力拓展與應(yīng)用進(jìn)化。
智算未來,生態(tài)共贏
智算基礎(chǔ)設(shè)施服務(wù)市場增長超預(yù)期,GenAI IaaS市場已突破百億規(guī)模且預(yù)計(jì)2029年將突破千億規(guī)?!,F(xiàn)階段來看,規(guī)?;辉俪蔀槟P托阅芴嵘奈ㄒ怀雎?,硬件迭代改進(jìn),底層算法調(diào)優(yōu),強(qiáng)化學(xué)習(xí)優(yōu)化等技術(shù)突破也與算力擴(kuò)張協(xié)同驅(qū)動模型發(fā)展,百度智能云也將持續(xù)推進(jìn)GPU云戰(zhàn)略,實(shí)現(xiàn)國產(chǎn)芯片與智算基礎(chǔ)設(shè)施平臺協(xié)同發(fā)展,為人工智能產(chǎn)業(yè)提供高效算力支撐。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2024 中國高新網(wǎng)chinahightech.comAll Rights Reserved.京ICP備14033264號-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證060344號主辦單位:《中國高新技術(shù)產(chǎn)業(yè)導(dǎo)報》社有限責(zé)任公司