近日，賽迪顧問(wèn)發(fā)布的《2025中國(guó)AI Infra平臺(tái)市場(chǎng)研究報(bào)告》顯示，京東云憑借在異構(gòu)算力調(diào)度和GPU池化管理領(lǐng)域的技術(shù)突破，在“2024年中國(guó)AI Infra平臺(tái)算力管理層市場(chǎng)廠商競(jìng)爭(zhēng)力象限分析圖”中位列產(chǎn)品能力前三。這一成績(jī)的取得，源于其持續(xù)深耕新一代人工智能基礎(chǔ)設(shè)施（AI Infra）的技術(shù)創(chuàng)新與實(shí)踐。

報(bào)告指出，當(dāng)前AI Infra平臺(tái)已形成“算力管理層—模型管理層—應(yīng)用管理層”的三層架構(gòu)體系，其中算力管理層占據(jù)主導(dǎo)地位，2024年市場(chǎng)份額達(dá)64.6%。異構(gòu)算力的精細(xì)化納管能力成為平臺(tái)競(jìng)爭(zhēng)的核心指標(biāo)。京東云依托京東集團(tuán)豐富的業(yè)務(wù)場(chǎng)景，聚焦“異構(gòu)算力+極致推理”方向，其核心平臺(tái)JoyScale通過(guò)軟硬件協(xié)同優(yōu)化，實(shí)現(xiàn)了對(duì)華為昇騰、寒武紀(jì)、海光等國(guó)產(chǎn)芯片的高性能異構(gòu)計(jì)算支持。通過(guò)算力池化與智能調(diào)度技術(shù)，平臺(tái)顯著提升了集群利用效率，完成了國(guó)產(chǎn)算力的統(tǒng)一納管與高效運(yùn)維。

針對(duì)大模型訓(xùn)練與推理的算力需求，京東云推出的JoyScale AI算力平臺(tái)具備獨(dú)特優(yōu)勢(shì)。該平臺(tái)基于京東內(nèi)部統(tǒng)一GPU池化實(shí)踐打造，支持訓(xùn)練任務(wù)與推理服務(wù)的統(tǒng)一調(diào)度和資源共享，兼容10余種國(guó)產(chǎn)AI算力卡及20多種訓(xùn)練推理框架。值得關(guān)注的是，其成為業(yè)內(nèi)首個(gè)同時(shí)支持英偉達(dá)顯卡與昇騰NPU遠(yuǎn)程調(diào)用的平臺(tái)，為AI應(yīng)用運(yùn)行提供了跨硬件生態(tài)的算力支撐。

技術(shù)層面，JoyScale平臺(tái)展現(xiàn)四大核心能力：在算力性能方面，其內(nèi)核態(tài)池化引擎提供多卡聚合、單卡切分、集群化調(diào)度及推理加速等功能，滿(mǎn)足大參數(shù)模型部署需求。作為通過(guò)信通院最高等級(jí)雙認(rèn)證的平臺(tái)，其金融級(jí)數(shù)據(jù)安全保障能力突出，整體推理性能較傳統(tǒng)方案提升50%。在異構(gòu)調(diào)度方面，平臺(tái)全面適配國(guó)產(chǎn)加速卡，通過(guò)云原生AI調(diào)度技術(shù)將資源利用率提升70%。生態(tài)合作層面，京東云與多家國(guó)產(chǎn)芯片廠商開(kāi)展深度技術(shù)協(xié)作，通過(guò)開(kāi)放Runtime層代碼實(shí)現(xiàn)硬件復(fù)雜性的內(nèi)核層屏蔽。框架支持方面，平臺(tái)覆蓋PyTorch、TensorFlow等主流訓(xùn)練框架，以及vllm、TensorRT-LLM等推理框架。

基于京東集團(tuán)復(fù)雜業(yè)務(wù)場(chǎng)景的實(shí)踐積累，京東云已構(gòu)建覆蓋全鏈條的大模型產(chǎn)品矩陣。該體系從底層智算基礎(chǔ)設(shè)施延伸至上層Agent應(yīng)用開(kāi)發(fā)，包含模型服務(wù)工具層與中間層解決方案，為國(guó)央企客戶(hù)提供從算力部署到AI應(yīng)用落地的全流程支持，助力企業(yè)重塑數(shù)字化生產(chǎn)力。