AI安全面臨靈魂拷問：“意圖篡改”怎么防？綠盟科技給你答案！

摘要： 綠盟科技召開以“清風拂境 · 智御全域”為主題的大模型安全創新成果線上發布會

 

隨著AI Agent規?；涞乇话聪?ldquo;加速鍵”，其安全是否值得信任？意圖篡改、調用鏈投毒、供應鏈漏洞、合規備案壓力等問題，正成為企業AI落地路上的“絆腳石”。

應勢而生，綠盟科技召開以“清風拂境 · 智御全域”為主題的大模型安全創新成果線上發布會。發布會從分析AI應用需求的變化入手，以體系化方案回應行業最迫切的大模型安全防護訴求，并重磅加碼綠盟“清風衛”系列產品智能體安全能力，為各行業客戶AI安全落地提供可落地、可驗證的最新實戰指南。

 “意圖博弈”威脅新起，
 AI安全紅線在哪里？

綠盟科技高級安全研究員
祝榮吉
 

2025年AI應用經歷了從“對話助手”向“智能體”的能力躍遷，高速進步的背后暴露諸多隱患：智能體自主運行時，如何避免行為失控風險？自主智能體具備邏輯主權后，它的安全紅線在哪里？隨“智”而變，綠盟科技高級安全研究員祝榮吉介紹了AI能力演進與攻防焦點變化趨勢。他基于Agent感知、規劃、記憶、行動四大核心模塊，針對性提出了“感知需凈輸入、規劃需抗干擾、記憶需防污染、行動需控權限”的防御準則。

在攻防焦點的動態演進上，祝榮吉表示AI安全正由“內容檢測”向“意圖博弈”深度轉向：2024年聚焦“內容博弈”，重點攻堅對話框安全，解決模型“言多必失”的合規問題；2025年邁入“協議生態”，隨MCP工具協議的普及，風險面由對話端延伸至業務系統，核心在于構建調用鏈的生態信任；2026年的安全重心將直面“意圖主權”，嚴防攻擊者通過劫持感知信息實現深層意圖篡改與指令劫持。    

基于此演進趨勢，會上正式發布了AISS年度威脅關注矩陣。該矩陣縱向聚焦基座、數據、模型、應用、身份五大安全支柱，完成了從基礎大模型到復雜Agent系統的風險透視。通過系統性梳理威脅的年度動態演進路徑，矩陣旨在幫助企業在復雜多變的AI場景中精準識別風險優先級、鎖定核心問題，真正實現從“盲目圍堵”向“精準治理”的體系化演進與升級。

針對風險評估能力的落地，祝榮吉詳細介紹了智能化紅隊評估的技術路徑與方法論。綠盟科技依托動態數據集構建、智能風險判定及智能體業務信息探測等核心能力，通過與前沿攻防對抗方法的組合應用，實現了對MCP工具惡意利用、智能體意圖劫持及預期外代碼執行等新型風險的檢測覆蓋，真正將碎片化的紅隊經驗轉化為體系化的安全驗證能力。

 靠“補丁”沒用，
 大模型安全如何實現“主動免疫”？

綠盟科技高級方案經理
郝廣賓
 

AI時代的安全，從來不是單點的“補丁式防護”，而是貫穿全流程的體系化工程，是整個AI生態的基石。綠盟科技高級方案經理郝廣賓發表《“四道防線”守護大模型系統安全防護》的主題演講，全面闡釋了綠盟大模型系統安全方案，他提出“四道防線”縱深防御體系。該體系構建覆蓋“開發、部署、運行”全流程的安全防護能力，以實現大模型從“被動響應”到“主動免疫”的安全升維，滿足客戶大模型系統安全合規應用與實戰防護的雙重需求。

【四道防線】實現“主動免疫”的安全升維
 

大模型系統開發階段，打造“合規+校驗”防線體系。要聚焦語料合規和組件安全，使用語料評估工具或服務，對全部訓練數據、外掛知識庫數據等進行清洗；優先采購部署經過備案的商業大模型服務，加強模型代碼及組件完整性校驗和安全測試，構建AI軟件物料清單，剖析AI系統所依賴的各類組件，精準識別潛在三方供應鏈組件風險。

大模型系統部署階段，構建“評測+加固”和“監測+防護”閉環自進化雙道協同防線。讓“評測”明確“防護”重點，“防護結果”反哺“模型評測”，打造“越用越聰明”的主動免疫體系。在大模型系統上線前，需圍繞內容安全、對抗安全、AI紅隊、供應鏈等多維度開展安全評測，保障大模型系統安全上線；在大模型系統部署時，需圍繞基礎設施、模型、應用、數據等打造縱深防御，部署多級安全認證、多維聯防圍欄、原生應用防護、數據防泄漏等監測防護能力，打造特殊場景安全代答能力，守護大模型系統應用安全。

大模型系統應用運行階段，優先加強大模型系統安全管理防線。從“監測預警”“應急處置”“供應鏈安全保障”“備案、標識雙合規”等多維度開展大模型系統日常安全運營工作。

 使用智能體接連踩坑，
 安全“防不住、查不清”？

綠盟科技AI安全產品經理
李斌
 

基于對智能體安全風險的深度洞察，綠盟科技高級產品經理李斌圍繞“資產管理、漏洞管理、運行時檢測、MCP安全、數據安全、安全態勢、安全審計”七大維度，詳細介紹了覆蓋智能體全生命周期的安全能力體系。發布會上，綠盟科技“清風衛”AI安全系列產品三大智能體安全組件全新亮相。

智能體資產與風險治理系統：支持對智能體核心組件（模型、工具、MCP、知識庫、提示詞等）進行細粒度發現與動態清點，構建資產與風險畫像；

智能體運行時意圖與行為安全防護：基于對智能體職責邊界的AI建模，實時監測其與MCP、工具、外部系統的交互行為，實現對越權訪問、數據泄露等風險的實時發現與自動阻斷；

智能體紅隊測評與持續驗證平臺：依托AI紅隊測評引擎，基于智能體配置與業務場景生成針對性攻擊用例，通過單輪與多輪對話模擬，深度挖掘潛在風險。

李斌強調，綠盟清風衛AI安全產品體系具備“平臺化集成、場景化適配、自動化運營”三大特點，可靈活對接各類智能體開發平臺與既有安全基礎設施，為客戶提供從開發態到運行態的一體化“監管控”能力。


從AI Copilot到AI Agent，從協作輔助到自主執行，大模型應用形態越深入業務核心，安全的重要性就越凸顯。作為網絡安全行業排頭兵，綠盟科技始終秉承“巨人背后的專家”的使命，未來將持續跟蹤AI應用風險與需求的變化，不斷優化整體安全防護方案，升級產品和服務，為行業客戶破解安全難題，讓安全不再是AI創新的“顧慮”，而是驅動業務增長的“底氣”！

 參與調研 
歡迎掃碼參與調研，請花幾分鐘時間分享您對大模型安全產品和服務的想法，從而幫助我們更好地滿足您的需求。

*最終解釋權歸綠盟科技所有