近期，一款被戲稱為“龍蝦”的開源智能體項(xiàng)目引發(fā)了持續(xù)熱議，這場由技術(shù)革新引發(fā)的討論浪潮，正從專業(yè)領(lǐng)域向大眾生活滲透。在搜狐科技最新一期《AI十二談》直播中，快思慢想研究院院長田豐與隆安律所全國合規(guī)委副主任陳煥，圍繞智能體安全使用與產(chǎn)業(yè)價(jià)值展開深度對話，為公眾提供了兼具技術(shù)洞察與法律視角的參考框架。

“智能體安全與傳統(tǒng)網(wǎng)絡(luò)安全存在本質(zhì)差異。”田豐指出，當(dāng)前“龍蝦”類項(xiàng)目面臨三大新型風(fēng)險(xiǎn)：提示詞注入攻擊可能導(dǎo)致系統(tǒng)誤判指令為內(nèi)容輸入，造成數(shù)據(jù)泄露；技能庫審核滯后引發(fā)的技能污染問題，部分惡意技能甚至具備刪除安全日志的能力；用戶過度授權(quán)現(xiàn)象普遍，部分案例中智能體因獲得系統(tǒng)級權(quán)限導(dǎo)致批量文件誤刪。他特別提到meta對齊總監(jiān)遇到的失控事件：“當(dāng)上下文窗口溢出時(shí)，智能體會陷入‘執(zhí)行慣性’，此時(shí)物理斷電是唯一有效干預(yù)手段?！?/p>

針對安全防護(hù)，兩位專家給出具體建議。陳煥強(qiáng)調(diào)數(shù)據(jù)分級管理原則：“賬戶密碼、商業(yè)機(jī)密等敏感信息必須脫敏處理，猶豫是否提供的數(shù)據(jù)通常屬于禁止范疇?！碧镓S補(bǔ)充道，普通用戶應(yīng)優(yōu)先選擇云端部署方案，大廠產(chǎn)品在權(quán)限管理系統(tǒng)和安全審計(jì)機(jī)制上更具優(yōu)勢。對于堅(jiān)持本地部署的用戶，他建議使用備用設(shè)備并安裝安全插件，同時(shí)避免接入攝像頭等可能侵犯隱私的硬件。

在法律責(zé)任界定方面，陳煥分析稱，現(xiàn)行法律框架下智能體行為后果主要由使用者承擔(dān)。“這要求用戶在授權(quán)時(shí)保持審慎，通過AI工具了解權(quán)限對應(yīng)功能，避免超越必要范圍的授權(quán)申請。”他透露，部分開源項(xiàng)目正在開發(fā)安全閾值系統(tǒng)，當(dāng)檢測到異常操作如批量刪除郵件時(shí)，將自動觸發(fā)人類干預(yù)機(jī)制。

產(chǎn)業(yè)層面，智能體正引發(fā)科技巨頭戰(zhàn)略轉(zhuǎn)向。田豐觀察到，云服務(wù)商與AI模型公司成為主要推動力量：“開源特性降低了本地部署門檻，而智能體與大模型的結(jié)合能顯著提升token消耗量，形成商業(yè)閉環(huán)?！睋?jù)統(tǒng)計(jì)，全球?yàn)锳I付費(fèi)用戶不足5%，但使用智能體的群體展現(xiàn)出更強(qiáng)付費(fèi)意愿，這為產(chǎn)業(yè)變現(xiàn)提供了新路徑。

關(guān)于技術(shù)平權(quán)爭議，田豐將智能體比作“自動化生產(chǎn)線上的福特T型車”：“開源模式讓每個人都能參與創(chuàng)新，這種技術(shù)普惠將重塑生產(chǎn)力格局?！彼A(yù)測，未來3-5年智能體使用能力將成為數(shù)字時(shí)代基礎(chǔ)素養(yǎng)，不會操作智能體的人群將面臨類似“數(shù)字文盲”的困境。陳煥則從學(xué)習(xí)曲線角度提出建議：“初學(xué)者可從云端版本入手，待技術(shù)門檻降低后再探索本地化部署，現(xiàn)階段更重要的是建立正確的使用認(rèn)知?！?/p>

這場由智能體引發(fā)的技術(shù)革命，正在重構(gòu)人機(jī)協(xié)作邊界。當(dāng)被問及如何平衡創(chuàng)新與風(fēng)險(xiǎn)時(shí)，兩位專家達(dá)成共識：既不能因噎廢食拒絕技術(shù)進(jìn)步，也不應(yīng)忽視安全防護(hù)投入。隨著大廠安全方案的持續(xù)迭代與開源社區(qū)的協(xié)同治理，智能體有望在可控風(fēng)險(xiǎn)范圍內(nèi)，真正成為推動社會效率躍升的關(guān)鍵力量。