在人工智能技術(shù)加速?gòu)摹澳Ｐ陀?xùn)練”向“推理部署”轉(zhuǎn)型的關(guān)鍵階段，中國(guó)移動(dòng)攜手合作伙伴在智算運(yùn)營(yíng)領(lǐng)域?qū)崿F(xiàn)重大創(chuàng)新，推出全球首個(gè)“智算推理集群運(yùn)營(yíng)黃金標(biāo)準(zhǔn)”。該標(biāo)準(zhǔn)通過(guò)構(gòu)建可量化、可評(píng)估的集群效能評(píng)估體系，首次實(shí)現(xiàn)對(duì)AI推理算力服務(wù)質(zhì)量的標(biāo)準(zhǔn)化度量，為行業(yè)破解“降本增效”與“服務(wù)保障”的雙重挑戰(zhàn)提供了系統(tǒng)性解決方案。

當(dāng)前，AI推理應(yīng)用已深度滲透政務(wù)、金融、制造、醫(yī)療等核心領(lǐng)域，驅(qū)動(dòng)算力需求結(jié)構(gòu)發(fā)生根本性轉(zhuǎn)變。數(shù)據(jù)顯示，推理算力在智算基礎(chǔ)設(shè)施中的占比持續(xù)攀升，成為支撐智能體生態(tài)發(fā)展的核心負(fù)載。然而，用戶對(duì)高性能、低成本、優(yōu)體驗(yàn)的復(fù)合需求，與行業(yè)在資源調(diào)度、效能優(yōu)化等方面的能力短板形成鮮明矛盾。如何在保障服務(wù)質(zhì)量的前提下，實(shí)現(xiàn)推理系統(tǒng)的經(jīng)濟(jì)高效運(yùn)行，成為智算基礎(chǔ)設(shè)施建設(shè)的關(guān)鍵命題。

中國(guó)移動(dòng)提出的“黃金標(biāo)準(zhǔn)”以“度量破局”為核心，創(chuàng)新構(gòu)建四大維度評(píng)估體系：用戶體驗(yàn)指標(biāo)聚焦響應(yīng)延遲、服務(wù)穩(wěn)定性等關(guān)鍵參數(shù)；系統(tǒng)并發(fā)能力指標(biāo)衡量集群處理峰值請(qǐng)求的能力；系統(tǒng)可用性指標(biāo)確保服務(wù)連續(xù)性；硬件利用率指標(biāo)則覆蓋算力、顯存、帶寬等核心資源。通過(guò)實(shí)時(shí)監(jiān)測(cè)集群運(yùn)行狀態(tài)，該體系可精準(zhǔn)識(shí)別不同場(chǎng)景下最先觸達(dá)性能瓶頸的“黃金指標(biāo)”，為擴(kuò)容優(yōu)化提供科學(xué)依據(jù)。

在試點(diǎn)驗(yàn)證階段，中國(guó)移動(dòng)針對(duì)DeepSeek-R1等MoE稀疏模型、Qwen3-32B等稠密模型、Qwen2.5-VL-72B等多模態(tài)理解模型，以及Stable Diffusion等生成模型，開展全場(chǎng)景實(shí)測(cè)。測(cè)試發(fā)現(xiàn)，不同模型在算力利用率、顯存帶寬利用率等四項(xiàng)硬件指標(biāo)上的增長(zhǎng)速率存在顯著差異，且各場(chǎng)景的性能瓶頸指標(biāo)各不相同。例如，多模態(tài)生成模型在顯存帶寬利用率上更易達(dá)到臨界點(diǎn)，而大語(yǔ)言模型則對(duì)算力利用率更為敏感。

基于“黃金指標(biāo)”的動(dòng)態(tài)監(jiān)控機(jī)制，企業(yè)可實(shí)現(xiàn)精細(xì)化運(yùn)營(yíng)：當(dāng)資源利用率低于閾值時(shí)，系統(tǒng)自動(dòng)引入負(fù)載提升效能；當(dāng)指標(biāo)接近擴(kuò)容臨界點(diǎn)時(shí)，觸發(fā)彈性擴(kuò)容流程。實(shí)踐表明，該機(jī)制可使擴(kuò)容決策準(zhǔn)確率提升至近100%，顯著降低運(yùn)營(yíng)成本。以某金融場(chǎng)景為例，通過(guò)優(yōu)化顯存利用率指標(biāo)，集群整體效能提升35%，同時(shí)將服務(wù)延遲控制在毫秒級(jí)。

作為國(guó)家“人工智能+”戰(zhàn)略的踐行者，中國(guó)移動(dòng)正以“三位一體”定位（人工智能供給者、匯聚者、運(yùn)營(yíng)者）推動(dòng)技術(shù)普惠。通過(guò)升級(jí)“AI+”行動(dòng)計(jì)劃，公司持續(xù)強(qiáng)化智算基礎(chǔ)設(shè)施底座建設(shè)，創(chuàng)新運(yùn)營(yíng)模式，推動(dòng)算力供給向綠色智能方向演進(jìn)。目前，其開放的應(yīng)用場(chǎng)景已覆蓋千行百業(yè)，加速AI技術(shù)在實(shí)體經(jīng)濟(jì)中的規(guī)模化落地，為經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型注入新動(dòng)能。