核心框架：四位一體的安全治理體系

白皮書創(chuàng)造性地提出了AI安全治理的總體架構，將復雜的治理體系拆解為四個相互支撐、緊密聯(lián)動的維度：

1. 基礎設施安全：筑牢數(shù)字底座

AI基礎設施是模型訓練與推理的"數(shù)字土壤"，其安全直接決定上層應用的可靠性。當前面臨的核心挑戰(zhàn)包括：

智算硬件設備安全方面，服務器、智算卡等關鍵設備面臨物理攻擊、硬件接口攻擊、固件漏洞利用等多重威脅。攻擊者可能通過探針讀取總線數(shù)據(jù)，或利用調(diào)試端口篡改系統(tǒng)固件。

智算云平臺安全承載著海量敏感數(shù)據(jù)，云底座的存儲服務成為數(shù)據(jù)泄露的主要目標。未經(jīng)安全管理的API接口、存在已知漏洞的云操作系統(tǒng)、包含惡意代碼的容器鏡像，都為攻擊者提供了可乘之機。

智算MaaS平臺安全風險尤為突出。模型即服務（Model as a Service）降低了AI開發(fā)門檻，但也帶來了模型知識產(chǎn)權被盜取、API接口遭受流量攻擊導致服務中斷、GPU資源被惡意占用導致成本激增等新型風險。

智算算力網(wǎng)絡安全作為新興基礎設施，其"算力泛在、靈活接入"的特性反而成為安全隱患。算力信息的正確性與完整性直接影響全網(wǎng)調(diào)度，一旦節(jié)點被攻擊或仿冒，將嚴重影響算網(wǎng)可靠性。

2. 數(shù)據(jù)安全：守護AI的"血液系統(tǒng)"

數(shù)據(jù)是人工智能發(fā)展的核心驅動力，其安全風險貫穿AI全生命周期：

訓練數(shù)據(jù)安多面臨數(shù)據(jù)來源合規(guī)性、內(nèi)容安全性、數(shù)據(jù)投毒攻擊等多重挑戰(zhàn)。攻擊者可能在數(shù)據(jù)預處理階段注入惡意樣本，使模型在特定場景下產(chǎn)生錯誤輸出或植入后門。低質(zhì)量數(shù)據(jù)更會直接削弱模型魯棒性。

微調(diào)數(shù)據(jù)安全風險常被忽視。由于微調(diào)常基于私有數(shù)據(jù)進行，若存儲傳輸環(huán)節(jié)存在漏洞，攻擊者可通過逆向工程從模型輸出中反推敏感訓練數(shù)據(jù)，造成隱私泄露。

推理數(shù)據(jù)安全關乎高價值模型與關鍵行業(yè)數(shù)據(jù)的保護。攻擊者可能利用服務器訪問權限繞過加密保護，直接從內(nèi)存導出模型，或在API關鍵點插入惡意代碼竊取用戶隱私推理數(shù)據(jù)。

知識庫數(shù)據(jù)安全在RAG（檢索增強生成）架構中至關重要。外部攻擊者可能利用SQL注入等手段非法獲取數(shù)據(jù)庫敏感信息，內(nèi)部授權用戶也可能因誤操作或社會工程學攻擊導致數(shù)據(jù)泄露。

3. 模型算法安全：攻克"黑盒"難題

AI模型算法是系統(tǒng)的"大腦"，其安全風險復雜且隱蔽：

模型訓練階段面臨數(shù)據(jù)隱私泄露、版權侵犯、數(shù)據(jù)偏見導致的公平性問題，以及對抗攻擊威脅——攻擊者通過精心設計的輸入誤導模型輸出錯誤結果。

模型微調(diào)階段的風險更加微妙。研究表明微調(diào)后的模型更容易遭受"越獄攻擊"，即通過特殊指令使模型偏離安全限制。不當?shù)奈⒄{(diào)策略還可能導致模型性能下降，增加幻覺現(xiàn)象發(fā)生率。

模型推理階段的對抗攻擊同樣危險。攻擊者輸入經(jīng)過輕微擾動的數(shù)據(jù)樣本，即可誘使模型做出錯誤決策。訓練環(huán)境與實際應用場景的差異還可能導致"數(shù)據(jù)漂移"現(xiàn)象。

模型部署階段需防范模型竊取、傳輸泄露、維護更新引入新漏洞等風險。模型的可解釋性和透明度在金融、醫(yī)療等高風險領域尤為重要。

針對通用AI模型，白皮書特別指出六大典型風險：魯棒性弱、泛化性差、可解釋性差、偏見與歧視、逆向工程風險、對抗攻擊風險。對于生成式AI，則需重點關注提示詞攻擊（如角色扮演攻擊、目標劫持攻擊）、大模型接口攻擊，以及生成內(nèi)容合規(guī)風險——包括侵犯他人合法權益、違反核心價值觀、模型幻覺、思維鏈安全推理風險等。

4. 應用安全：跨越"Z后一公里"

AI應用是技術與場景的結合點，安全風險呈現(xiàn)多樣化特征：

AI模型算法濫用風險包括虛假有害信息傳播、多模態(tài)深度偽造、模型透明性不足導致的用戶過度信任等問題。在情感支持、心理咨詢等敏感領域，用戶可能在情感和心理上過度依賴AI，引發(fā)倫理道德問題。

AI應用開發(fā)安全風險中，端側AI受限于低功耗、小內(nèi)存，模型壓縮優(yōu)化可能犧牲安全性；智能體的自主決策能力使其行為可能因環(huán)境反饋或對抗攻擊偏離原始目標；具身智能的物理行動能力更可能直接引發(fā)人身傷害或財產(chǎn)損失；智能物聯(lián)網(wǎng)（AIoT）則融合了AI算法脆弱性與IoT物理暴露性，風險疊加放大。

AI垂直行業(yè)應用風險各具特點：醫(yī)療領域存在手術機器人操作失誤、醫(yī)學圖像誤判、患者隱私泄露等風險；新聞領域面臨虛假信息傳播、輿論操縱威脅；金融領域需防范多模態(tài)深度偽造技術實施的盜刷、惡意注冊等欺詐行為；編程領域則要警惕AI生成代碼中的XSS、SQL注入等安全漏洞。

白皮書Z后提出了AI安全治理的發(fā)展建議，呼吁從法律法規(guī)完善、標準體系建設、前沿技術探索、人才培養(yǎng)與產(chǎn)學研協(xié)同創(chuàng)新等多個維度共同發(fā)力，推動我國人工智能技術健康、安全、可持續(xù)發(fā)展。

在AI技術日新月異的時代，安全治理不是創(chuàng)新的絆腳石，而是可持續(xù)發(fā)展的壓艙石。W有構建政府監(jiān)管、企業(yè)履責、行業(yè)自律、社會協(xié)同的多元共治格局，才能讓AI技術真正造福人類社會，實現(xiàn)"智能向善"的美好愿景。

這份白皮書的價值，不僅在于其系統(tǒng)性的理論框架和豐富的實踐案例，更在于它展現(xiàn)了ZGAI產(chǎn)業(yè)界對安全治理的深刻思考和主動擔當。在AI競爭進入白熱化階段的今天，安全治理能力將成為衡量AI發(fā)展水平的重要標尺，而這份白皮書正是ZG參與AI治理、貢獻ZG智慧的重要成果。

附件：中國聯(lián)通《人工智能行業(yè)安全治理白皮書（2025）》-AI安全治理的發(fā)展建議,系統(tǒng)性的理論框架和豐富的實踐案例