新报告揭示了四种关键的人工智能驱动的网络威胁，并阐述了用户如何在人工智能驱动的世界中智胜攻击者。
近日，网络安全解决方案先驱者和全球领导者 Check Point 软件技术有限公司（纳斯达克股票代码：CHKP）在 2025 年 RSA 大会期间正式发布首份《AI 安全报告》。该报告系统分析了网络犯罪分子如何“武器化”人工智能（AI）技术，并为安全从业者提供一系列有力的防御建议与实践策略。随着 AI 在各行各业的应用中加速普及，数字世界中真假边界正逐渐模糊。网络攻击者正利用生成式 AI 与大语言模型（LLM）大规模伪造身份，破坏公众对数字身份的信任。如今，用户在网络上所看到、听到或阅读到的信息已无法简单凭表象判断真伪。AI 驱动的深度伪造技术甚至可以绕过最先进的身份验证机制，使每一个人都可能成为网络欺诈的受害者。
“网络犯罪组织对 AI 技术的快速采用，正在以前所未有的速度重塑威胁格局，”Check Point Research 研究总监 Lotem Finkelstein 表示。“某些地下服务平台的智能化程度已经相当高，而即将到来的下一阶段将是‘数字分身’的崛起 —— 它不仅是外貌或声音的仿造，更是具备模拟人类思维与行为的 AI 复制体。这并不是遥不可及的未来，而是即将来临的现实。”
人工智能安全报告的关键威胁洞察：
报告指出，这些发展背后的核心是人工智能能够以极高仿真度模仿和操控数字身份，模糊了真实与失实之间的界限。以下是信任崩塌最为明显的四个核心领域：
· AI 增强型身份冒充与社交工程攻击：攻击者利用 AI 生成高度仿真的钓鱼邮件、语音模拟和深度伪造视频。近期甚至出现攻击者通过 AI 语音合成冒充意大利国防部长的事件，充分说明网络空间中无论是声音、面容还是文字内容都可能被伪造。
· 大语言模型（LLM）数据污染与失实信息传播：黑客通过操控 AI 训练数据，引导其输出偏差内容。例如，涉及俄罗斯失实信息网络的“Pravda”相关案例显示，AI 聊天机器人有多达 33% 的回答内容为失实叙事，凸显 AI 系统数据完整性防护的重要性。
· AI 生成恶意软件与数据挖掘：网络犯罪团伙借助 AI 技术生成并优化恶意代码、自动化 DDoS 攻击流程，并对被盗数据进行清洗处理。以“Gabbers Shop”为代表的平台，已通过 AI 提升数据转售价值与攻击目标精度。
· AI 模型的武器化与劫持：从被盗的大语言模型账号到暗网定制的 FraudGPT、WormGPT 等黑产模型，攻击者正绕过原有安全机制，将 AI 工具商业化，用于黑客攻击与诈骗活动。
安全防御建议：
Check Point 指出，防御方应默认 AI 技术已深度嵌入对抗体系，并据此调整安全架构。为应对这一挑战，用户应采用具备人工智能意识的网络安全框架，包括：
· AI 辅助检测与威胁狩猎：利用 AI 识别由 AI 生成的攻击内容，例如伪造邮件、深度合成视频等。
· 多层次身份验证机制：增强身份验证，采取超越传统的安全策略，实施多层身份验证，以应对文本、语音和视频中的 AI 驱动的身份冒充 —— 认识到数字身份的可信度已不再是理所当然。
· 基于 AI 上下文背景威胁情报能力：为安全团队配备具备 AI 感知能力的分析工具，增强其对新型攻击手段的识别与响应能力。
“在人工智能驱动的时代，网络安全团队必须将 AI 能力整合入防御体系配资吧，与攻击者实现同频对抗，”Finkelstein 补充道，“本报告不仅揭示了 AI 带来的新型安全挑战，更提供了构建安全、负责任 AI 环境的行动路径。”
亿正策略提示：文章来自网络，不代表本站观点。
相关文章
热点资讯
