在上海浦江AI學(xué)術(shù)年會(huì)上，阿里巴巴攜手上海人工智能實(shí)驗(yàn)室共同發(fā)布了一份名為《守己利他：智能時(shí)代做負(fù)責(zé)任的技術(shù)》的白皮書。該白皮書聚焦于人工智能（AI）智能體領(lǐng)域的安全隱患，提出了全行業(yè)應(yīng)對(duì)風(fēng)險(xiǎn)挑戰(zhàn)的三大核心原則：守己、利他與合作。

這已是阿里巴巴連續(xù)第四年發(fā)布人工智能治理方向的實(shí)踐成果。據(jù)介紹，阿里巴巴依托其全棧AI能力，已構(gòu)建了一套立體化的智能體安全防護(hù)體系，旨在從源頭保障AI技術(shù)的安全性。

白皮書強(qiáng)調(diào)，在AI技術(shù)迅猛發(fā)展的當(dāng)下，安全已不再是研發(fā)過程中的可選項(xiàng)，而是社會(huì)信任的基石。阿里巴巴人工智能治理與可持續(xù)發(fā)展實(shí)驗(yàn)室主任薛暉在發(fā)布會(huì)上指出，隨著AI從“能說會(huì)道”向“能干實(shí)事”轉(zhuǎn)變，確保其安全性變得尤為重要。他提到，去年以來，智能體的普及速度加快，AI開始自主調(diào)度資源、執(zhí)行復(fù)雜任務(wù)，風(fēng)險(xiǎn)也隨之集中顯現(xiàn)。

為了應(yīng)對(duì)這些挑戰(zhàn)，阿里巴巴將安全理念融入全棧AI體系的每一個(gè)環(huán)節(jié)，從芯片、云計(jì)算到模型和應(yīng)用，確保技術(shù)和產(chǎn)品從誕生之初就具備安全基因。同時(shí)，阿里巴巴還堅(jiān)持開源開放，將內(nèi)部驗(yàn)證過的技術(shù)，包括安全技術(shù)，作為公共產(chǎn)品向全行業(yè)開放，推動(dòng)“負(fù)責(zé)任的技術(shù)”理念在各行各業(yè)落地生根。

在智能體安全的具體實(shí)踐上，阿里巴巴通義實(shí)驗(yàn)室安全負(fù)責(zé)人張榮用一個(gè)生動(dòng)的比喻解釋了用戶DIY智能體與封裝完備產(chǎn)品之間的安全差異。他指出，用戶自行搭建的智能體如同將保險(xiǎn)箱置于家門口，安全性難以保障；而封裝完備的產(chǎn)品則通過內(nèi)置安全機(jī)制，為智能體提供了更強(qiáng)的防護(hù)能力。

針對(duì)智能體面臨的復(fù)雜風(fēng)險(xiǎn)，阿里巴巴構(gòu)建了一套立體化的安全防護(hù)體系。該體系的核心在于提升基礎(chǔ)大模型的內(nèi)生安全能力，并構(gòu)筑多層系統(tǒng)級(jí)安全圍欄，實(shí)現(xiàn)智能體風(fēng)險(xiǎn)的全鏈路管控。張榮進(jìn)一步解釋說，在智能體的運(yùn)行過程中，工具調(diào)用與代碼執(zhí)行是安全風(fēng)險(xiǎn)的高發(fā)環(huán)節(jié)，這兩個(gè)環(huán)節(jié)高度依賴底層大模型的代碼生成能力。因此，阿里巴巴將強(qiáng)化千問模型在編程場(chǎng)景下的原生安全作為重點(diǎn)工作。

依托阿里巴巴20余年頂尖安全團(tuán)隊(duì)積累的代碼安全經(jīng)驗(yàn)，以及千萬級(jí)真實(shí)漏洞樣本，阿里巴巴打造了高質(zhì)量的安全訓(xùn)練語料。通過將這些語料深度融入模型訓(xùn)練的各個(gè)階段，并開展多輪嚴(yán)格的安全對(duì)齊，千問模型的代碼安全性已達(dá)到行業(yè)領(lǐng)先水平。在權(quán)威代碼安全評(píng)測(cè)基準(zhǔn)SecCodeBench中，千問模型生成代碼的安全性穩(wěn)居開源模型首位。