亞馬遜AWS與晶圓級(jí)AI芯片企業(yè)Cerebras近日達(dá)成重要合作，雙方宣布將在未來數(shù)月內(nèi)于Amazon Bedrock平臺(tái)部署一套創(chuàng)新的混合AI推理系統(tǒng)。該系統(tǒng)通過整合雙方芯片技術(shù)優(yōu)勢(shì)，旨在實(shí)現(xiàn)前所未有的負(fù)載處理速度，為AI應(yīng)用提供更高效的算力支持。

這一解決方案的核心在于將Cerebras的CS-3系統(tǒng)與亞馬遜AWS的Trainium芯片深度結(jié)合，并輔以EFA彈性網(wǎng)絡(luò)適配器實(shí)現(xiàn)高效互聯(lián)。具體分工上，Trainium芯片負(fù)責(zé)處理推理過程中的預(yù)填充階段（即提示處理），而CS-3系統(tǒng)則專注于解碼階段（輸出生成任務(wù)）。這種分工模式充分利用了兩種芯片的架構(gòu)特性——Trainium在并行計(jì)算和內(nèi)存帶寬間的平衡優(yōu)勢(shì)，與CS-3在串行任務(wù)處理中的高帶寬特性形成互補(bǔ)。

技術(shù)層面，推理預(yù)填充階段需要處理大規(guī)模并行計(jì)算任務(wù)，對(duì)算力需求極高但內(nèi)存帶寬要求相對(duì)適中；而解碼階段作為串行流程，雖然算力需求較低，卻對(duì)內(nèi)存帶寬極為敏感。通過EFA網(wǎng)絡(luò)適配器構(gòu)建的高速連接通道，兩種芯片得以無縫協(xié)作，既避免了資源浪費(fèi)，又確保了每個(gè)環(huán)節(jié)都能以最優(yōu)效率運(yùn)行。這種異構(gòu)計(jì)算架構(gòu)的設(shè)計(jì)，為AI推理任務(wù)提供了全新的性能優(yōu)化路徑。

據(jù)行業(yè)分析，這種軟硬協(xié)同的創(chuàng)新模式有望突破傳統(tǒng)單一芯片架構(gòu)的性能瓶頸。特別是在處理復(fù)雜AI模型時(shí)，混合系統(tǒng)能夠動(dòng)態(tài)調(diào)配計(jì)算資源，使預(yù)填充階段的快速響應(yīng)與解碼階段的高精度輸出形成完美配合。隨著生成式AI等應(yīng)用場(chǎng)景對(duì)實(shí)時(shí)性要求的不斷提升，此類異構(gòu)計(jì)算方案或?qū)⒁l(fā)行業(yè)技術(shù)路線的重新思考。