產業觀察 | 大模型爆發帶來新風險 AI安全博弈白熱化：如何重構數字信任？

每經記者｜張梓桐    每經編輯｜陳俊杰    

AI（人工智能）與數據安全的融合博弈已進入白熱化階段，海內外科技巨頭近期密集發布核心方案，推動行業從被動防御向主動治理轉型。

“燃料（數據）質量決定了引擎（AI）的上限，垃圾數據喂不出優質模型。”安恒信息技術股份有限公司數據安全運營總監程文博，在“2025全球數商大會”普陀分會場接受《每日經濟新聞》記者采訪時，以谷歌近期熱門的NoteBook LM舉例稱，其降低幻覺的核心在于高質量知識庫輸入，反之則會陷入“垃圾進垃圾出”的困境。

Gartner高級研究總監陳延全在今年9月曾經指出：“到2027年，60%的中國大型企業機構將在安全運營中心（SOC）采用暴露面管理技術，以提高事件響應效率并減少漏洞；到2028年，60%部署AI技術的中國企業機構將采用協作式AI防御策略，整合跨職能團隊來應對AI的網絡安全風險，而目前這一比例僅為5%。”

海外陣營中，谷歌在Next 2025大會推出AI Protection全生命周期防護方案。OpenAI也發布開源模型GPT-OSS-Safeguard-20B，將合規落地周期從月級縮至小時級。

兩大巨頭的動作直指 AI 安全核心痛點，而這一切解決方案的落地，終究離不開大模型與數據的深度協同——大模型與數據的關系，被業內人士喻為“火箭引擎與燃料”。

在程文博看來，AI大模型的進化依賴于高質量的數據支撐，同時，AI也將進一步優化目前的數據安全保護體系，精準預測、處理網絡安全威脅。

“安全與利用的平衡”成核心關鍵詞

“AI對數據安全的賦能，從來不是單向輸出。”程文博表示，這一關系包含兩個核心維度：讓安全更智能，讓智能更安全。前者是技術迭代的自然延伸，后者則是新場景催生的新責任。

程文博介紹，數據安全分類分級曾是耗時耗力的“重活”，人工標注不僅效率低下，還易因主觀判斷出現偏差。AI技術的介入改變了這一現狀，通過算法對數據特征的精準識別，分類分級效率提升超3倍，準確率也穩定在95%以上。

同樣，在API（應用程序編程接口）安全領域，API安全智能體通過對接口報文、路徑及敏感數據的要素解構，結合聚類分析和大模型推理技術，能過濾非API資產，完成API資產的高精度梳理，輸出高純度的資產清單。

“智能體通過識別API中的業務數據，并結合行業特點賦予接口精準的業務屬性標簽，有效提升了資產管理的深度與廣度。”他告訴記者，在風險監測與降噪方面，智能體通過大模型計算實現自動化風險降噪，同時根據風險類型、報文特征及上下文信息提供智能化解讀與綜合處置建議，幫助安全團隊精準定位并快速響應潛在威脅。

“這些升級并非停留在實驗室，而是已轉化為面向金融、政務等行業的成熟解決方案。”程文博說。

但與此同時，大模型的爆發式增長，也帶來了提示詞注入攻擊、輸出內容不當等新風險。

“政府部門用大模型向公眾提供服務，總不能出現違規表述吧？”程文博舉例道。安恒信息的應對方案，是通過語義識別與風險攔截技術，為大模型搭建“電子圍欄/大模型安全防火墻”。這套系統能實時監測輸出內容，對敏感信息、不當表述進行攔截或修正，目前已在部分政務服務場景試點應用。

當話題轉向數據要素市場化改革，“安全與利用的平衡”成為核心關鍵詞。

“安全是發展的前提，沒有安全，數據就流不動、用不好。”程文博表示，目前業內的破局路徑分為兩步：筑牢安全底線，打通利用通道。

在安全保障端，業內頭部廠商的產品已覆蓋數據全生命周期管理；在利用賦能端，隱私保護計算技術成為關鍵抓手。通過“數據可用不可見”的技術特性，有效解決了企業間數據共享的信任難題。

針對中小微企業數字化轉型中的合規痛點，程文博坦言，數據安全分類分級是數據安全的第一步，但傳統方案成本高、部署復雜，讓不少小企業望而卻步。

數字信任：如何重構隱私保護邊界？

“AI與數據的融合不是簡單的技術疊加，而是數字經濟雙循環的核心動力。”在“2025全球數商大會”普陀分會場“數字經濟雙循環發展視角下的數字信任與安全合規”圓桌對話上，上海社科院互聯網研究中心主任惠志斌開場拋出的議題，引發全場共鳴。

政務領域的技術實踐成為首個破題案例。上海市大數據中心副主任王明政分享了中心的實踐：用大模型破解代碼審計的“高成本困局”。

傳統代碼審計依賴人工，效率低下且漏檢率高。上海市大數據中心通過兩種路徑構建數據集——采集歷史安全漏洞代碼，同時用大模型生成模擬漏洞代碼，以此訓練專用審計模型。

“雖然還在摸索階段，但已能將部分場景的審計效率提升30%。”王明政同時警示，大模型的“幻覺”風險不容忽視，網絡上大量由AI生成的“全能化賦能”文章，恰恰暴露了技術落地中的認知偏差。

隱私保護的邊界重構，成為全場熱議的焦點。

王明政觀察到全球監管的微妙變化：歐洲近期提案放松GDPR（通用數據保護條例）對大模型訓練數據的限制，將高風險AI法規實施時間推遲18個月，背后是“技術競爭與監管平衡”的深層考量。而國內場景更復雜——會議拍照無需明確同意、線上線下隱私認知差異等現象，正倒逼監管邏輯升級。

全鏈條監管技術正在填補漏洞。

針對數據可復制、難追溯的特性，公安部第三研究所數據安全中心副主任盛小寶透露了兩大技術方向：數據水印可實現交易后溯源，即便數據用于模型訓練也能精準定位；模型指紋則能識別“備案與實際使用不符”的違規行為，此前某聊天App備案DeepSeek模型，實際卻使用微調后并產生擦邊內容，正是通過該技術發現。

“安全不是一勞永逸的，要建立政府、企業、研究院三位一體的情報共享生態。”他以供應鏈安全情報共享為例，強調協同防御的重要性。

產業生態的構建則為技術落地提供了土壤。上海市普陀區數據局局長張軍表示，產業集聚是普陀區的核心優勢。雖然缺乏單一頭部巨頭，但數量眾多的中小安全企業形成了集群效應。360安全、安恒信息等企業扎根于此，京東科技、淘寶閃購、餓了么等數字企業也在此深耕，構成了“安全服務+數字應用”的完整產業生態。這種生態優勢，在數據要素流通中轉化為獨特競爭力——安全企業為數字應用提供防護，數字應用為安全企業提供場景，形成雙向賦能的閉環。

封面圖片來源：圖片來源：視覺中國-VCG211550173673