阿里巴巴集團(tuán)與清華大學(xué)近日正式簽署了一項(xiàng)為期五年的戰(zhàn)略合作協(xié)議，共同推進(jìn)智能體與多模態(tài)安全領(lǐng)域的產(chǎn)學(xué)研深度融合。此次合作聚焦于解決中國(guó)人工智能用戶在真實(shí)應(yīng)用場(chǎng)景中面臨的核心安全挑戰(zhàn)，首批將啟動(dòng)六個(gè)重點(diǎn)研究課題。簽約儀式上，清華大學(xué)副校長(zhǎng)吳華強(qiáng)、中國(guó)科學(xué)院院士張鈸、中國(guó)工程院院士戴瓊海以及阿里巴巴集團(tuán)副總裁錢磊等嘉賓共同出席。

張鈸院士指出，此次合作的核心目標(biāo)是通過基礎(chǔ)理論與產(chǎn)業(yè)場(chǎng)景的深度融合，突破多模態(tài)安全領(lǐng)域的關(guān)鍵技術(shù)瓶頸，為下一代人工智能發(fā)展奠定堅(jiān)實(shí)的安全基礎(chǔ)。他強(qiáng)調(diào)，這種"從0到1"的理論創(chuàng)新與"從1到N"的產(chǎn)業(yè)應(yīng)用相結(jié)合的模式，將有效推動(dòng)人工智能安全技術(shù)的跨越式發(fā)展。戴瓊海院士則表示，雙方的合作將打通"創(chuàng)新策源"與"產(chǎn)業(yè)轉(zhuǎn)化"的完整鏈條，是推動(dòng)人工智能領(lǐng)域產(chǎn)學(xué)研協(xié)同創(chuàng)新的重要實(shí)踐。

根據(jù)合作規(guī)劃，研究將圍繞兩大核心方向展開：一是大模型自身的安全機(jī)制建設(shè)，重點(diǎn)提升模型魯棒性和價(jià)值觀對(duì)齊能力；二是以大模型為基礎(chǔ)的智能體應(yīng)用安全，涵蓋人機(jī)交互、自主決策等場(chǎng)景下的行為可信性、隱私保護(hù)及風(fēng)險(xiǎn)防控。項(xiàng)目計(jì)劃開發(fā)"AI智能體安全中樞"和"高階大模型內(nèi)生安全架構(gòu)"等關(guān)鍵技術(shù)，構(gòu)建覆蓋底層模型到上層應(yīng)用的全棧安全防護(hù)體系。

阿里巴巴集團(tuán)副總裁錢磊表示，清華大學(xué)在人工智能基礎(chǔ)研究領(lǐng)域具有國(guó)際領(lǐng)先優(yōu)勢(shì)，而阿里巴巴則擁有豐富的產(chǎn)業(yè)應(yīng)用場(chǎng)景和實(shí)踐經(jīng)驗(yàn)。此次合作實(shí)現(xiàn)了科研能力與產(chǎn)業(yè)需求的優(yōu)勢(shì)互補(bǔ)，雙方將基于"負(fù)責(zé)任科技"理念開展前瞻性研究，并通過開源開放生態(tài)推動(dòng)技術(shù)成果惠及全行業(yè)。

據(jù)悉，阿里巴巴與清華大學(xué)的合作由來已久。自2021年以來，雙方已在安全領(lǐng)域聯(lián)合完成近20個(gè)科研課題，在CVPR、ICML、NeurIPS等國(guó)際頂級(jí)學(xué)術(shù)會(huì)議發(fā)表近20篇高水平論文，多項(xiàng)技術(shù)成果實(shí)現(xiàn)從實(shí)驗(yàn)室到產(chǎn)業(yè)應(yīng)用的轉(zhuǎn)化。同時(shí)，通過聯(lián)合培養(yǎng)博士后、設(shè)立研究型實(shí)習(xí)崗位、共建學(xué)術(shù)交流平臺(tái)等方式，為行業(yè)輸送了大量高素質(zhì)復(fù)合型人才。