每經記者｜楊煜    每經編輯｜楊翼    

在AI（人工智能）掀起生產力變革之際，安全已成為至關重要的議題。

4月25日，第二屆騰訊云黑客松智能滲透挑戰賽決賽暨騰訊安全沙龍在北京圓滿落幕。該活動通過各種場景驗證AI Agent（智能體）在復雜滲透任務中替代重復性人工操作、提升攻防效率的能力，并從不同視角探討了AI Agent的發展潛力與潛在安全風險。

騰訊云安全總經理、云鼎實驗室首席架構師李濱在接受包括《每日經濟新聞》記者在內的媒體記者采訪時表示，伴隨AI的普及應用，傳統安全漏洞并沒有消失，甚至由于大量AI輔助工具快速生成代碼，而產生了更多的安全問題；同時傳統安全風險在結合AI的風險特點后，也衍生出了大量新形態的安全風險。

李濱還強調，AI融入生產流程帶來的信任關系的變化，是Agent和AI安全里最核心的問題之一。

以近期熱門的OpenClaw（一款開源人工智能體框架，俗稱“龍蝦”）、Hermes（一款開源人工智能體框架，俗稱“馬”）等智能體為例，當它被授權以用戶的身份和權限行事時，其身份和權限的判斷、多Agent與資源之間的互信、行為的約束與追溯都成為難題。

《每日經濟新聞》記者了解到，AI給安全控制帶來的另一大變化是，AI作為“超級中間體”，打通所有系統后帶來的“安全模型倒置”。傳統的網絡安全攻防體系強調“縱深防御”，從外到內層層推進、層層設防。然而，AI打通所有系統后，大模型的“上下文空間”成為連接所有系統的隱含通道，安全防御的關注點從過去的“從外到內”，轉變為需要同時防御“從內到外”，新形態的復雜安全模型和以往完全不同。

面對這些新挑戰，行業專家認為，防御體系智能化升級迫在眉睫。

騰訊安全云鼎實驗室攻防負責人李鑫表示，在網絡安全攻防領域，成本是一個核心議題。過去，由于防御領域人才短缺與防御體系存在明顯短板，攻防雙方的成本嚴重不對等，攻擊方往往能以較小成本實現“四兩撥千斤”的效果。然而，進入AI時代，防御方借助AI技術實現了能力上的快速提升，盡管攻擊方也會利用AI進步，但防御端的進步會更快。

《每日經濟新聞》記者了解到，從攻擊視角來看，AI時代的攻擊行為將更趨隱蔽。人類攻擊者通常存在某些行為特征與缺陷，而AI驅動的攻擊則能實現高度隱秘，僅需通過指令或提示詞即可完成一系列難以察覺的惡意行為。攻防博弈正不斷向更深維度發展，騰訊安全也在持續探索如何利用AI技術對抗AI攻擊，并推動相關方案落地。

李鑫舉例道，當前，AI已具備一定的自進化能力。例如，某些智能體在遭受攻擊時，能夠根據日志與環境信息自主識別攻擊行為，定位問題并完成修復，表現出初步的“免疫”功能。這意味著，未來安全防護的思路將從過去依賴人工打補丁演變為自我防御，通過一個“健壯的免疫系統”，來自動識別威脅、自主實施防護。

封面圖片來源：每經媒資庫