在人工智能領(lǐng)域，AI Agent正逐步從概念走向?qū)嶋H應(yīng)用，成為推動(dòng)行業(yè)創(chuàng)新的重要力量。Kimi作為這一領(lǐng)域的先行者，通過(guò)將Agent能力融入具體產(chǎn)品，不僅推出了“深度研究”、“Agentic PPT”、“OK Computer”及“數(shù)據(jù)分析”等多項(xiàng)創(chuàng)新技能，更在C端業(yè)務(wù)中成功承載了數(shù)以萬(wàn)計(jì)的并發(fā)請(qǐng)求，展現(xiàn)了強(qiáng)大的技術(shù)實(shí)力和市場(chǎng)潛力。

面對(duì)如此龐大的用戶需求，Kimi在基礎(chǔ)設(shè)施層面進(jìn)行了深度布局。為了確保每一次請(qǐng)求都能得到快速響應(yīng)，Kimi與阿里云展開(kāi)了深度合作，以阿里云容器服務(wù)Kubernetes版ACK和阿里云容器計(jì)算服務(wù)ACS的Agent Sandbox為核心，構(gòu)建了一套端到端的Agent Infra基礎(chǔ)設(shè)施體系。這一體系不僅為Kimi的Agent產(chǎn)品提供了強(qiáng)大的算力支持，更在彈性、成本、穩(wěn)定性等方面實(shí)現(xiàn)了全面優(yōu)化。

AI Agent的落地并非易事，它要求系統(tǒng)能夠理解復(fù)雜的用戶意圖，并自主分解任務(wù)、調(diào)用工具、執(zhí)行并完成一系列多步驟工作流。在“深度研究”和“OK Computer”等場(chǎng)景中，Kimi的Agent通過(guò)自然語(yǔ)言指令，驅(qū)動(dòng)虛擬計(jì)算機(jī)沙箱環(huán)境自動(dòng)化執(zhí)行復(fù)雜任務(wù)流，包括工具調(diào)用、聯(lián)網(wǎng)搜索、代碼調(diào)測(cè)等。這一過(guò)程中，系統(tǒng)需要同時(shí)處理數(shù)以萬(wàn)計(jì)的用戶請(qǐng)求，每個(gè)請(qǐng)求都可能觸發(fā)一次或多次Agent的復(fù)雜推理和工具調(diào)用，對(duì)系統(tǒng)的即時(shí)響應(yīng)能力和資源分配效率提出了極高要求。

為了應(yīng)對(duì)這些挑戰(zhàn)，Kimi在沙箱環(huán)境的彈性能力與啟動(dòng)速度上進(jìn)行了重點(diǎn)突破。傳統(tǒng)的虛擬機(jī)或容器部署方式啟動(dòng)時(shí)間較長(zhǎng)，對(duì)于需要即時(shí)響應(yīng)的Agent服務(wù)而言難以接受。為此，Kimi采用了ACS Agent Sandbox技術(shù)，該技術(shù)基于輕量級(jí)虛擬機(jī)（MicroVM）技術(shù)，將虛擬化開(kāi)銷降低90%，實(shí)現(xiàn)了大規(guī)模并發(fā)彈性下的秒級(jí)啟動(dòng)。同時(shí)，通過(guò)預(yù)測(cè)預(yù)調(diào)度、資源復(fù)用等手段，進(jìn)一步節(jié)省了沙箱環(huán)境的調(diào)度、創(chuàng)建時(shí)間，確保了系統(tǒng)的高效運(yùn)行。

除了即時(shí)響應(yīng)能力外，Kimi還注重沙箱環(huán)境的隔離性與安全性。由于Agent會(huì)執(zhí)行由大模型生成的未經(jīng)人工驗(yàn)證的代碼，沙箱必須提供強(qiáng)隔離能力，防止其對(duì)其他租戶、宿主機(jī)或其他關(guān)鍵系統(tǒng)造成影響。為此，Kimi采用了硬件級(jí)別的計(jì)算安全隔離環(huán)境，結(jié)合Network Policy、Fluid等能力增強(qiáng)，提供了Pod級(jí)別網(wǎng)絡(luò)、存儲(chǔ)的端到端安全運(yùn)行環(huán)境。

在滿足即時(shí)響應(yīng)和安全隔離的同時(shí)，Kimi還面臨著如何保持沙箱狀態(tài)連續(xù)性以及應(yīng)對(duì)大規(guī)模并發(fā)帶來(lái)的調(diào)度壓力等挑戰(zhàn)。對(duì)于需要長(zhǎng)時(shí)間運(yùn)行的Agent任務(wù)，沙箱需要具備靈活的狀態(tài)保持與恢復(fù)能力，以便在任務(wù)暫停后能夠快速恢復(fù)到之前的執(zhí)行點(diǎn)。為此，Kimi引入了實(shí)例休眠及喚醒能力，支持沙箱環(huán)境的一鍵休眠和快速喚醒，確保了任務(wù)的連續(xù)性。同時(shí)，通過(guò)構(gòu)建常態(tài)算力與Serverless算力的分級(jí)調(diào)度體系，Kimi成功應(yīng)對(duì)了大規(guī)模并發(fā)帶來(lái)的系統(tǒng)穩(wěn)定性問(wèn)題，實(shí)現(xiàn)了容量確定性、彈性速度與成本優(yōu)化的平衡。

在成本控制方面，Kimi同樣表現(xiàn)出色。通過(guò)合理的資源調(diào)度策略，Kimi實(shí)現(xiàn)了按需彈性進(jìn)行穩(wěn)定的資源調(diào)度，以最低的成本支撐了海量并發(fā)。特別是在使用ACS Agent Sandbox的過(guò)程中，Kimi通過(guò)內(nèi)存狀態(tài)的持久化技術(shù)，在休眠期間釋放了沙箱的CPU和內(nèi)存資源，降低了休眠期間的資源成本。同時(shí)，支持?jǐn)?shù)秒快速喚醒Pod的功能，使得Kimi在成本與體驗(yàn)之間找到了最佳平衡點(diǎn)。

隨著用戶規(guī)模的擴(kuò)大和業(yè)務(wù)需求的不斷升級(jí)，Kimi對(duì)基礎(chǔ)設(shè)施的要求也越來(lái)越高。為了確保在如此大規(guī)模的負(fù)載下集群依然能夠穩(wěn)定運(yùn)行，Kimi對(duì)Kubernetes的核心組件進(jìn)行了深度優(yōu)化和加固。在調(diào)度器層面通過(guò)參數(shù)調(diào)整提高了隊(duì)列處理深度以及單個(gè)Pod的處理速度；在API Server層面則通過(guò)全鏈路端到端參數(shù)優(yōu)化和管控組件動(dòng)態(tài)彈性擴(kuò)容等手段，滿足了Agent沙箱秒級(jí)彈性、高并發(fā)API訪問(wèn)的訴求。

高質(zhì)量的搜索和記憶服務(wù)是構(gòu)建復(fù)雜Agent的關(guān)鍵基礎(chǔ)。為此，Kimi借助阿里云多模數(shù)據(jù)庫(kù)Lindorm構(gòu)建了具備高效檢索和海量存儲(chǔ)能力的記憶與搜索模塊。Lindorm作為一個(gè)多模數(shù)據(jù)庫(kù)，集成了寬表引擎、搜索引擎、向量引擎、AI引擎四大核心組件，數(shù)據(jù)在內(nèi)部自動(dòng)流轉(zhuǎn)無(wú)需自建同步鏈路。這一特點(diǎn)為Kimi快速構(gòu)建Agent背后的AI搜索基礎(chǔ)設(shè)施提供了有力支持。