針對(duì)AI安全，網(wǎng)信辦近日發(fā)布兩大指導(dǎo)文件，影響深遠(yuǎn)！

#網(wǎng)安頭條 ·2026-05-25 17:03:47

近日網(wǎng)信辦連發(fā)兩份關(guān)于AI安全的重磅文件，直接在工廠圈子里炸開鍋了。作為天天跟模型訓(xùn)練、數(shù)據(jù)脫敏打交道的網(wǎng)安從業(yè)者，我熬夜把這兩份文件啃了好幾遍，連一份咖啡涼透了都顧不上喝。

這兩份文件，一份聚焦模型的分類分級(jí)安全風(fēng)控，另一份則直指供應(yīng)鏈與算法審計(jì)的合規(guī)痛點(diǎn)，可以說(shuō)是給一個(gè)正在成長(zhǎng)和落地憂慮的人工智能產(chǎn)業(yè)、規(guī)劃生育的紅線。

其中最讓我感同身受的就是監(jiān)管層終于打消了“一刀切”的疑慮，這給我們?cè)趯?shí)際業(yè)務(wù)中的合規(guī)落地吃了一個(gè)定心丸。以前做安全合規(guī)總覺得無(wú)從下手，標(biāo)準(zhǔn)也相對(duì)模糊，而新規(guī)明確了根據(jù)應(yīng)用的風(fēng)險(xiǎn)高低、用戶群體敏感度以及數(shù)據(jù)場(chǎng)景賴程度來(lái)進(jìn)行精細(xì)化管理。

這意味著涉及人員的擬人化互動(dòng)，或者金融、醫(yī)療等高危領(lǐng)域的AI應(yīng)用將采用最嚴(yán)格要求的動(dòng)態(tài)監(jiān)控，而一般性的企業(yè)內(nèi)部提效工具則能輕裝上陣，這種有張有弛的治理節(jié)奏，確實(shí)解決了我們?cè)谝痪€做架構(gòu)設(shè)計(jì)時(shí)長(zhǎng)期面臨的合規(guī)成本平衡問(wèn)題。

而關(guān)于供應(yīng)鏈安全與算法合規(guī)審計(jì)的硬核指引，它則是直接把聚光燈打到了過(guò)去常常被忽視的技術(shù)底層盲區(qū)。坦白講，現(xiàn)在搞大模型開發(fā)，真正從零開始自己訓(xùn)練的寥寥無(wú)幾，多數(shù)都是套個(gè)開源、接個(gè)第三方API或者買點(diǎn)現(xiàn)成的數(shù)據(jù)集就直接上馬了，這種“拿來(lái)主義”隱藏的供應(yīng)鏈投毒、后門漏洞、數(shù)據(jù)正確權(quán)問(wèn)題，在新規(guī)的“照妖鏡”下都無(wú)處遁形，文件里提出了可解釋性抽查的算法以及鏈供應(yīng)全生命周期的溯源要求，雖然在短時(shí)間內(nèi)拉高了研發(fā)合規(guī)模型，但從長(zhǎng)期來(lái)看，這無(wú)異于是在幫整個(gè)大模型生態(tài)提前排雷。

這次的高頻發(fā)文，實(shí)際上正昭示著AI安全治理正在全速駛?cè)肷钏畢^(qū)，正從過(guò)去的“圍墻式”外部防護(hù)向“全內(nèi)嵌式”的縱深治理演變。以前總覺得給服務(wù)器加個(gè)防火墻、給接口做個(gè)加密就萬(wàn)事大吉了，現(xiàn)在大模型的內(nèi)生安全問(wèn)題——比如對(duì)抗風(fēng)險(xiǎn)攻擊、幻覺引發(fā)的信息失真、潛在的數(shù)據(jù)必須泄露——根本不是傳統(tǒng)安全硬件能夠攔得住的，未來(lái)的網(wǎng)安重心必然會(huì)向大規(guī)模數(shù)據(jù)治理、模型魯棒性測(cè)試以及自動(dòng)化監(jiān)管合監(jiān)測(cè)平臺(tái)方向演進(jìn)，這就逼著我們不得不及時(shí)更新知識(shí)庫(kù)，如果還留戀綜合審計(jì)的老套不放，后續(xù)的生存空間必然越來(lái)越小。

未來(lái)，只有把安全紅線內(nèi)化作為研發(fā)底線，業(yè)務(wù)在商業(yè)化落地的時(shí)候才不會(huì)隨時(shí)面臨被“叫停”的風(fēng)險(xiǎn)。