隨著以DeepSeek為代表的人工智能大模型加速賦能政務(wù)服務(wù)，其所帶來(lái)的效率提升與便利服務(wù)備受矚目。然而，黑客攻擊、數(shù)據(jù)泄露、內(nèi)容違規(guī)等新型風(fēng)險(xiǎn)，也正成為制約政務(wù)數(shù)字化進(jìn)程的潛在威脅。例如，在政務(wù)AI助手的實(shí)際運(yùn)行中，就可能遭遇以下一系列“安全陷阱”：
黑客通過(guò)高頻并發(fā)請(qǐng)求發(fā)起資源消耗攻擊，導(dǎo)致政務(wù)系統(tǒng)服務(wù)癱瘓；
智能問(wèn)答接口被惡意利用，成為敏感信息泄露的隱蔽渠道；
大模型遭“越獄”攻擊，被誘導(dǎo)輸出違法違規(guī)內(nèi)容；
敏感數(shù)據(jù)在不知情的情況下被輸入非涉密模型，造成泄密風(fēng)險(xiǎn)。
在此背景下，中央網(wǎng)信辦、國(guó)家發(fā)展改革委印發(fā)的《政務(wù)領(lǐng)域人工智能大模型部署應(yīng)用指引》明確提出以下安全要求：
1、加強(qiáng)對(duì)抗攻擊檢測(cè)
“做好政務(wù)大模型對(duì)抗攻擊的檢測(cè)與處置，識(shí)別并攔截提示詞注入、資源消耗攻擊等新型威脅。”
2、做好內(nèi)容全鏈路管控
“加強(qiáng)政務(wù)大模型內(nèi)容安全管理，綜合運(yùn)用語(yǔ)義識(shí)別、規(guī)則庫(kù)、模型算法等，做好多模態(tài)輸入輸出內(nèi)容的識(shí)別、分析與管控，建立合理的代答、拒答機(jī)制，及時(shí)發(fā)現(xiàn)并處置違法和不良信息、敏感內(nèi)容等。”
3、防范敏感數(shù)據(jù)泄露
“防止國(guó)家秘密、工作秘密和敏感信息等輸入非涉密人工智能大模型，防范敏感數(shù)據(jù)匯聚、關(guān)聯(lián)引發(fā)的泄密風(fēng)險(xiǎn)”
4、確保日志審計(jì)可追溯
“做好政務(wù)大模型應(yīng)用運(yùn)行日志管理，定期對(duì)日志記錄進(jìn)行審計(jì)”
深度洞察
政務(wù)AI面臨的三重安全矛盾
業(yè)務(wù)開放性與安全防護(hù)的矛盾
智能問(wèn)答、輔助辦理等高頻交互場(chǎng)景在提升服務(wù)效率的同時(shí)，也暴露了攻擊入口。黑客可通過(guò)提示詞攻擊、模型越獄、資源消耗攻擊（如高頻并發(fā)請(qǐng)求）等手段，突破系統(tǒng)防護(hù)邊界，竊取敏感信息或癱瘓服務(wù)。
數(shù)據(jù)協(xié)同性與內(nèi)容安全的矛盾
跨部門數(shù)據(jù)融合雖能提升治理效能，但多源信息交叉關(guān)聯(lián)可能生成違規(guī)內(nèi)容（如誤導(dǎo)性政策解讀），甚至被惡意利用生成違法文本、偽造政務(wù)指令，導(dǎo)致技術(shù)賦能與公共安全間的矛盾加劇。
技術(shù)復(fù)雜性與監(jiān)管效能的矛盾
文本、圖像、音頻等多模態(tài)內(nèi)容輸入輸出的不可控性，加劇了內(nèi)容安全風(fēng)險(xiǎn)，而人工審核效率低，難以及時(shí)發(fā)現(xiàn)違法不良信息，形成技術(shù)先進(jìn)性與治理手段滯后的結(jié)構(gòu)性矛盾。
破局之道
中孚大模型安全防護(hù)系統(tǒng)：政策驅(qū)動(dòng)的政務(wù)AI安全引擎
靈活部署，業(yè)務(wù)零改造
支持智能體編排、網(wǎng)關(guān)代理、直聯(lián)串接多模式部署，無(wú)縫嵌入現(xiàn)有系統(tǒng)，業(yè)務(wù)零改造快速上線。
智能抗攻擊防護(hù)
基于微調(diào)大模型+動(dòng)態(tài)規(guī)則庫(kù)，精準(zhǔn)識(shí)別提示詞攻擊/資源消耗攻擊，杜絕服務(wù)中斷風(fēng)險(xiǎn)。
多模態(tài)內(nèi)容攔截
政務(wù)專屬規(guī)則庫(kù)+上下文關(guān)聯(lián)分析，實(shí)時(shí)攔截國(guó)家秘密、工作秘密和敏感信息，防護(hù)精準(zhǔn)度達(dá)90%。
全鏈路風(fēng)險(xiǎn)管控
全鏈路日志檢測(cè)+實(shí)時(shí)告警分析，日志自動(dòng)對(duì)接安全監(jiān)測(cè)系統(tǒng)，實(shí)現(xiàn)風(fēng)險(xiǎn)可觀測(cè)、可溯源、可審計(jì)。
核心價(jià)值
四大核心價(jià)值，守護(hù)政務(wù)AI安全防線
保障政務(wù)AI服務(wù)穩(wěn)定運(yùn)行：精準(zhǔn)攔截新型攻擊，杜絕業(yè)務(wù)中斷風(fēng)險(xiǎn)。
守護(hù)敏感數(shù)據(jù)零外泄：實(shí)時(shí)阻斷機(jī)密信息輸入輸出，嚴(yán)防數(shù)據(jù)泄露。
確保內(nèi)容輸出合規(guī)可信：多模態(tài)內(nèi)容高效審核，自動(dòng)攔截涉政、涉黃等違規(guī)信息。
安全風(fēng)險(xiǎn)全鏈路可控：風(fēng)險(xiǎn)可觀測(cè)、日志可溯源，滿足監(jiān)管合規(guī)要求。
在數(shù)字經(jīng)濟(jì)高速發(fā)展的當(dāng)下，提升政務(wù)大模型安全風(fēng)險(xiǎn)應(yīng)對(duì)能力，既是數(shù)字中國(guó)建設(shè)的核心命題，也是技術(shù)創(chuàng)新行穩(wěn)致遠(yuǎn)的前提。政務(wù)大模型安全不再是技術(shù)選項(xiàng)，而是必須筑牢的發(fā)展基石，為此，中孚大模型安全防護(hù)系統(tǒng)將持續(xù)以政策為綱、以技術(shù)為盾，致力為政務(wù)人工智能應(yīng)用構(gòu)建起堅(jiān)實(shí)可靠的 “第一道安全防線”。
寶易加固CPCI計(jì)算機(jī)在海軍艦載多功能顯控臺(tái)的應(yīng)用
