□吳尚秋

近日，2026年國家網絡安全宣傳周開幕式在山東濟南舉行。全國網絡安全標準化技術委員會發布《人工智能安全治理框架3.0》，圍繞人工智能發展新趨勢更新風險分類，完善技術應對和綜合治理措施。其中對深度合成、生成式內容等新型風險作出系統性回應，為防范AI換臉、擬聲等深度偽造詐騙提供制度參照，也為智能時代筑牢安全底座指明方向。

人工智能在便利生活的同時，也帶來新的安全隱憂。不法分子利用AI換臉、擬聲等深度合成技術，憑借少量照片、短段語音等素材，即可偽造親友、同事、客戶的音視頻。視頻通話中的“熟人”不一定就是本人，僅靠畫面和聲音判斷身份，普通群眾很容易被仿冒。一些以緊急借錢、墊付資金、冒充領導安排轉賬為套路的案件，已造成養老積蓄、家庭存款等財產損失，防范壓力明顯加大。

隨著工具門檻下降，深度偽造風險進一步外溢。人臉、聲紋等生物信息一旦在社交平臺過度暴露，可能被用于訓練仿冒模型；個人信息遭非法收集、倒賣后，還會被接入灰產工具鏈。AI詐騙不只是“錢的問題”，頻繁出現“視頻里的熟人可能是假的”，也會削弱人們對網絡身份、遠程溝通的信任。僅靠個人提高警惕，已不足以應對全鏈條風險。

《人工智能安全治理框架3.0》的價值，正在于把治理關口前移。框架延續“風險分類、技術應對、綜合治理”邏輯，推動安全檢測評估、內容識別、可追溯等能力建設；與《人工智能生成合成內容標識辦法》相銜接，要求對文本、圖片、音頻、視頻等生成合成內容落實顯式標識和隱式標識，推動AI內容可識別、可溯源。在此基礎上，還需監管、平臺、行業、公眾協同，把制度要求轉化為可執行的反詐防線。

平臺應壓實主體責任，提升對偽造音視頻、仿冒賬號的識別攔截能力，落實深度合成和生成合成內容標識，對疑似冒充身份、誘導轉賬的內容早發現、早預警、早處置；同時完善投訴舉報和證據留存機制。監管部門應堅持全鏈條治理，既打擊實施詐騙的團伙，也嚴查非法提供AI合成工具、倒賣人臉聲紋、侵犯公民個人信息的黑產，形成持續震懾。

網絡安全為人民，網絡安全靠人民。再完善的制度和技術，也離不開群眾防范意識。應摒棄“視頻通話看到臉、聽到聲就一定是本人”的慣性：涉及轉賬、驗證碼、屏幕共享，務必通過常用電話、線下見面或家庭約定暗號二次核驗；不隨意發布高清正臉、證件照和長段語音，降低被仿冒素材化的風險。可疑音視頻可借助國家反詐中心App等工具輔助鑒別，發現受騙及時保留錄屏、聊天記錄并報警。

智能浪潮奔涌，安全防線必須同步。人工智能要釋放效率紅利，也要守住安全底線。以治理框架為引領，壓實研發、服務提供、平臺傳播、行業使用和公眾參與各方責任，把標識溯源、技術識別、普法預警結合起來，才能更有效抵御深度偽造詐騙，守護群眾“錢袋子”，維系數字社會來之不易的信任。（來源：德水觀瀾）