新報告揭示了四種關鍵的人工智能驅動的網絡威脅，并闡述了用戶如何在人工智能驅動的世界中智勝攻擊者。

近日，網絡安全解決方案先驅者和全球領導者?Check Point? 軟件技術有限公司在2025年RSA大會期間正式發布首份《AI安全報告》。該報告系統分析了網絡犯罪分子如何“武器化”人工智能（AI）技術，并為安全從業者提供一系列有力的防御建議與實踐策略。隨著AI在各行各業的應用中加速普及，數字世界中真假邊界正逐漸模糊。網絡攻擊者正利用生成式AI與大語言模型（LLM）大規模偽造身份，破壞公眾對數字身份的信任。如今，用戶在網絡上所看到、聽到或閱讀到的信息已無法簡單憑表象判斷真偽。AI驅動的深度偽造技術甚至可以繞過最先進的身份驗證機制，使每一個人都可能成為網絡欺詐的受害者。

“網絡犯罪組織對AI技術的快速采用，正在以前所未有的速度重塑威脅格局，”Check Point Research研究總監Lotem Finkelstein表示。“某些地下服務平臺的智能化程度已經相當高，而即將到來的下一階段將是‘數字分身’的崛起——它不僅是外貌或聲音的仿造，更是具備模擬人類思維與行為的AI復制體。這并不是遙不可及的未來，而是即將來臨的現實。”

人工智能安全報告的關鍵威脅洞察：

報告指出，這些發展背后的核心是人工智能能夠以極高仿真度模仿和操控數字身份，模糊了真實與失實之間的界限。以下是信任崩塌最為明顯的四個核心領域：

·? AI增強型身份冒充與 社交 工程攻擊 ：攻擊者利用AI生成高度仿真的釣魚郵件、語音模擬和深度偽造視頻。近期甚至出現攻擊者通過AI語音合成冒充意大利國防部長的事件，充分說明網絡空間中無論是聲音、面容還是文字內容都可能被偽造。

·? 大語言模型 （LLM） 數據 污染 與 失實 信息傳播 ：黑客通過操控AI訓練數據，引導其輸出偏差內容。例如，涉及俄羅斯失實信息網絡的“Pravda”相關案例顯示，AI聊天機器人有多達33%的回答內容為失實敘事，凸顯AI系統數據完整性防護的重要性。

·? AI生成惡意 軟件 與數據挖掘 ：網絡犯罪團伙借助AI技術生成并優化惡意代碼、自動化DDoS攻擊流程，并對被盜數據進行清洗處理。以“Gabbers Shop”為代表的平臺，已通過AI提升數據轉售價值與攻擊目標精度。

·? AI模型的武器化與劫持 ：從被盜的大語言模型賬號到暗網定制的FraudGPT、WormGPT等黑產模型，攻擊者正繞過原有安全機制，將AI工具 商業 化，用于黑客攻擊與詐騙活動。

安全防御建議：

Check Point指出，防御方應默認AI技術已深度嵌入對抗體系，并據此調整安全架構。為應對這一挑戰，用戶應采用具備人工智能意識的網絡安全框架，包括：

·? AI輔助檢測與威脅狩獵 ：利用AI識別由AI生成的攻擊內容，例如偽造郵件、深度合成視頻等。

·? 多層次身份驗證機制 ：增強身份驗證，采取超越傳統的安全策略，實施多層身份驗證，以應對文本、語音和視頻中的AI驅動的身份冒充——認識到數字身份的可信度已不再是理所當然。

·? 基于 AI 上下文 背景威脅情報能力 ：為安全團隊配備具備AI感知能力的分析工具，增強其對新型攻擊手段的識別與響應能力。

“在人工智能驅動的時代，網絡安全團隊必須將AI能力整合入防御體系，與攻擊者實現同頻對抗，”Finkelstein補充道，“本報告不僅揭示了AI帶來的新型安全挑戰，更提供了構建安全、負責任AI環境的行動路徑。”

完整的 《2025 AI安全報告》 現已開放下載 ！