每經(jīng)記者｜張梓桐    每經(jīng)編輯｜陳俊杰    

AI（人工智能）與數(shù)據(jù)安全的融合博弈已進(jìn)入白熱化階段，海內(nèi)外科技巨頭近期密集發(fā)布核心方案，推動(dòng)行業(yè)從被動(dòng)防御向主動(dòng)治理轉(zhuǎn)型。

“燃料（數(shù)據(jù)）質(zhì)量決定了引擎（AI）的上限，垃圾數(shù)據(jù)喂不出優(yōu)質(zhì)模型。”安恒信息技術(shù)股份有限公司數(shù)據(jù)安全運(yùn)營(yíng)總監(jiān)程文博，在“2025全球數(shù)商大會(huì)”普陀分會(huì)場(chǎng)接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)，以谷歌近期熱門(mén)的NoteBook LM舉例稱(chēng)，其降低幻覺(jué)的核心在于高質(zhì)量知識(shí)庫(kù)輸入，反之則會(huì)陷入“垃圾進(jìn)垃圾出”的困境。

Gartner高級(jí)研究總監(jiān)陳延全在今年9月曾經(jīng)指出：“到2027年，60%的中國(guó)大型企業(yè)機(jī)構(gòu)將在安全運(yùn)營(yíng)中心（SOC）采用暴露面管理技術(shù)，以提高事件響應(yīng)效率并減少漏洞；到2028年，60%部署AI技術(shù)的中國(guó)企業(yè)機(jī)構(gòu)將采用協(xié)作式AI防御策略，整合跨職能團(tuán)隊(duì)來(lái)應(yīng)對(duì)AI的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，而目前這一比例僅為5%?！?/p>

海外陣營(yíng)中，谷歌在Next 2025大會(huì)推出AI Protection全生命周期防護(hù)方案。OpenAI也發(fā)布開(kāi)源模型GPT-OSS-Safeguard-20B，將合規(guī)落地周期從月級(jí)縮至小時(shí)級(jí)。

兩大巨頭的動(dòng)作直指 AI 安全核心痛點(diǎn)，而這一切解決方案的落地，終究離不開(kāi)大模型與數(shù)據(jù)的深度協(xié)同——大模型與數(shù)據(jù)的關(guān)系，被業(yè)內(nèi)人士喻為“火箭引擎與燃料”。

在程文博看來(lái)，AI大模型的進(jìn)化依賴(lài)于高質(zhì)量的數(shù)據(jù)支撐，同時(shí)，AI也將進(jìn)一步優(yōu)化目前的數(shù)據(jù)安全保護(hù)體系，精準(zhǔn)預(yù)測(cè)、處理網(wǎng)絡(luò)安全威脅。

“安全與利用的平衡”成核心關(guān)鍵詞

“AI對(duì)數(shù)據(jù)安全的賦能，從來(lái)不是單向輸出?！背涛牟┍硎?，這一關(guān)系包含兩個(gè)核心維度：讓安全更智能，讓智能更安全。前者是技術(shù)迭代的自然延伸，后者則是新場(chǎng)景催生的新責(zé)任。

程文博介紹，數(shù)據(jù)安全分類(lèi)分級(jí)曾是耗時(shí)耗力的“重活”，人工標(biāo)注不僅效率低下，還易因主觀判斷出現(xiàn)偏差。AI技術(shù)的介入改變了這一現(xiàn)狀，通過(guò)算法對(duì)數(shù)據(jù)特征的精準(zhǔn)識(shí)別，分類(lèi)分級(jí)效率提升超3倍，準(zhǔn)確率也穩(wěn)定在95%以上。

同樣，在API（應(yīng)用程序編程接口）安全領(lǐng)域，API安全智能體通過(guò)對(duì)接口報(bào)文、路徑及敏感數(shù)據(jù)的要素解構(gòu)，結(jié)合聚類(lèi)分析和大模型推理技術(shù)，能過(guò)濾非API資產(chǎn)，完成API資產(chǎn)的高精度梳理，輸出高純度的資產(chǎn)清單。

“智能體通過(guò)識(shí)別API中的業(yè)務(wù)數(shù)據(jù)，并結(jié)合行業(yè)特點(diǎn)賦予接口精準(zhǔn)的業(yè)務(wù)屬性標(biāo)簽，有效提升了資產(chǎn)管理的深度與廣度。”他告訴記者，在風(fēng)險(xiǎn)監(jiān)測(cè)與降噪方面，智能體通過(guò)大模型計(jì)算實(shí)現(xiàn)自動(dòng)化風(fēng)險(xiǎn)降噪，同時(shí)根據(jù)風(fēng)險(xiǎn)類(lèi)型、報(bào)文特征及上下文信息提供智能化解讀與綜合處置建議，幫助安全團(tuán)隊(duì)精準(zhǔn)定位并快速響應(yīng)潛在威脅。

“這些升級(jí)并非停留在實(shí)驗(yàn)室，而是已轉(zhuǎn)化為面向金融、政務(wù)等行業(yè)的成熟解決方案?！背涛牟┱f(shuō)。

但與此同時(shí)，大模型的爆發(fā)式增長(zhǎng)，也帶來(lái)了提示詞注入攻擊、輸出內(nèi)容不當(dāng)?shù)刃嘛L(fēng)險(xiǎn)。

“政府部門(mén)用大模型向公眾提供服務(wù)，總不能出現(xiàn)違規(guī)表述吧？”程文博舉例道。安恒信息的應(yīng)對(duì)方案，是通過(guò)語(yǔ)義識(shí)別與風(fēng)險(xiǎn)攔截技術(shù)，為大模型搭建“電子圍欄/大模型安全防火墻”。這套系統(tǒng)能實(shí)時(shí)監(jiān)測(cè)輸出內(nèi)容，對(duì)敏感信息、不當(dāng)表述進(jìn)行攔截或修正，目前已在部分政務(wù)服務(wù)場(chǎng)景試點(diǎn)應(yīng)用。

當(dāng)話題轉(zhuǎn)向數(shù)據(jù)要素市場(chǎng)化改革，“安全與利用的平衡”成為核心關(guān)鍵詞。

“安全是發(fā)展的前提，沒(méi)有安全，數(shù)據(jù)就流不動(dòng)、用不好?！背涛牟┍硎荆壳皹I(yè)內(nèi)的破局路徑分為兩步：筑牢安全底線，打通利用通道。

在安全保障端，業(yè)內(nèi)頭部廠商的產(chǎn)品已覆蓋數(shù)據(jù)全生命周期管理；在利用賦能端，隱私保護(hù)計(jì)算技術(shù)成為關(guān)鍵抓手。通過(guò)“數(shù)據(jù)可用不可見(jiàn)”的技術(shù)特性，有效解決了企業(yè)間數(shù)據(jù)共享的信任難題。

針對(duì)中小微企業(yè)數(shù)字化轉(zhuǎn)型中的合規(guī)痛點(diǎn)，程文博坦言，數(shù)據(jù)安全分類(lèi)分級(jí)是數(shù)據(jù)安全的第一步，但傳統(tǒng)方案成本高、部署復(fù)雜，讓不少小企業(yè)望而卻步。

數(shù)字信任：如何重構(gòu)隱私保護(hù)邊界？

“AI與數(shù)據(jù)的融合不是簡(jiǎn)單的技術(shù)疊加，而是數(shù)字經(jīng)濟(jì)雙循環(huán)的核心動(dòng)力。”在“2025全球數(shù)商大會(huì)”普陀分會(huì)場(chǎng)“數(shù)字經(jīng)濟(jì)雙循環(huán)發(fā)展視角下的數(shù)字信任與安全合規(guī)”圓桌對(duì)話上，上海社科院互聯(lián)網(wǎng)研究中心主任惠志斌開(kāi)場(chǎng)拋出的議題，引發(fā)全場(chǎng)共鳴。

政務(wù)領(lǐng)域的技術(shù)實(shí)踐成為首個(gè)破題案例。上海市大數(shù)據(jù)中心副主任王明政分享了中心的實(shí)踐：用大模型破解代碼審計(jì)的“高成本困局”。

傳統(tǒng)代碼審計(jì)依賴(lài)人工，效率低下且漏檢率高。上海市大數(shù)據(jù)中心通過(guò)兩種路徑構(gòu)建數(shù)據(jù)集——采集歷史安全漏洞代碼，同時(shí)用大模型生成模擬漏洞代碼，以此訓(xùn)練專(zhuān)用審計(jì)模型。

“雖然還在摸索階段，但已能將部分場(chǎng)景的審計(jì)效率提升30%?！蓖趺髡瑫r(shí)警示，大模型的“幻覺(jué)”風(fēng)險(xiǎn)不容忽視，網(wǎng)絡(luò)上大量由AI生成的“全能化賦能”文章，恰恰暴露了技術(shù)落地中的認(rèn)知偏差。

隱私保護(hù)的邊界重構(gòu)，成為全場(chǎng)熱議的焦點(diǎn)。

王明政觀察到全球監(jiān)管的微妙變化：歐洲近期提案放松GDPR（通用數(shù)據(jù)保護(hù)條例）對(duì)大模型訓(xùn)練數(shù)據(jù)的限制，將高風(fēng)險(xiǎn)AI法規(guī)實(shí)施時(shí)間推遲18個(gè)月，背后是“技術(shù)競(jìng)爭(zhēng)與監(jiān)管平衡”的深層考量。而國(guó)內(nèi)場(chǎng)景更復(fù)雜——會(huì)議拍照無(wú)需明確同意、線上線下隱私認(rèn)知差異等現(xiàn)象，正倒逼監(jiān)管邏輯升級(jí)。

全鏈條監(jiān)管技術(shù)正在填補(bǔ)漏洞。

針對(duì)數(shù)據(jù)可復(fù)制、難追溯的特性，公安部第三研究所數(shù)據(jù)安全中心副主任盛小寶透露了兩大技術(shù)方向：數(shù)據(jù)水印可實(shí)現(xiàn)交易后溯源，即便數(shù)據(jù)用于模型訓(xùn)練也能精準(zhǔn)定位；模型指紋則能識(shí)別“備案與實(shí)際使用不符”的違規(guī)行為，此前某聊天App備案DeepSeek模型，實(shí)際卻使用微調(diào)后并產(chǎn)生擦邊內(nèi)容，正是通過(guò)該技術(shù)發(fā)現(xiàn)。

“安全不是一勞永逸的，要建立政府、企業(yè)、研究院三位一體的情報(bào)共享生態(tài)?！彼怨?yīng)鏈安全情報(bào)共享為例，強(qiáng)調(diào)協(xié)同防御的重要性。

產(chǎn)業(yè)生態(tài)的構(gòu)建則為技術(shù)落地提供了土壤。上海市普陀區(qū)數(shù)據(jù)局局長(zhǎng)張軍表示，產(chǎn)業(yè)集聚是普陀區(qū)的核心優(yōu)勢(shì)。雖然缺乏單一頭部巨頭，但數(shù)量眾多的中小安全企業(yè)形成了集群效應(yīng)。360安全、安恒信息等企業(yè)扎根于此，京東科技、淘寶閃購(gòu)、餓了么等數(shù)字企業(yè)也在此深耕，構(gòu)成了“安全服務(wù)+數(shù)字應(yīng)用”的完整產(chǎn)業(yè)生態(tài)。這種生態(tài)優(yōu)勢(shì)，在數(shù)據(jù)要素流通中轉(zhuǎn)化為獨(dú)特競(jìng)爭(zhēng)力——安全企業(yè)為數(shù)字應(yīng)用提供防護(hù)，數(shù)字應(yīng)用為安全企業(yè)提供場(chǎng)景，形成雙向賦能的閉環(huán)。

封面圖片來(lái)源：圖片來(lái)源：視覺(jué)中國(guó)-VCG211550173673