AI 简讯｜重要事件总结：Gartner Security & Risk Management Summit 2025 专题

主题1：AI赋能网络安全

在2025年6月9日至11日于美国国家港口举行的Gartner安全与风险管理峰会上，AI在网络安全领域的应用成为核心议题。AI智能体通过自动化安全操作中心（SOC）的任务，如漏洞修复、合规性检查和威胁检测，显著提升了效率和响应速度。Gartner分析师Leigh McMullen和Katell Thielemann在开幕主题演讲中指出，AI作为“热门技术”正在重塑网络安全格局，但首席信息安全官（CISO）需在利用AI潜力的同时，管理其复杂性。

技术要点

AI智能体在SOC中的应用：AI智能体被广泛用于自动化重复性任务，如漏洞修复、合规性检查和威胁检测，从而释放人力资源以应对更复杂的威胁。据Gartner数据，24%的CIO和IT领导者已部署AI智能体，超过50%正在研究或试验AI技术。

人类监督的重要性：尽管AI能显著提高效率，但人类专家在理解独特网络配置和提供监督方面不可或缺。Gartner强调，AI无法完全替代人类的专业知识。

“智能体监控智能体”的概念：随着AI系统复杂性增加，Gartner提出使用AI智能体监控其他AI智能体的行为，以应对人类监督的挑战。这一概念旨在确保AI系统的可靠性和安全性。

独立推理：Gartner预测，AI智能体将在6个月内具备独立推理能力，并在2年内能够修改自身指令。这将推动SOC向“智能体式SOC”转型，其中AI与人类专家协作。

安全态势管理：峰会讨论了高级安全态势管理工具（如XSPM、CSPM、DSPM、SSPM、AISPM），通过整合暴露数据，预计到2028年可将网络攻击频率和影响降低50%。

重要性

AI在网络安全中的应用正在改变企业防御威胁的方式。通过自动化和智能化，AI显著提高了SOC的效率和响应能力。然而，AI系统的复杂性要求企业谨慎管理，以避免错误配置或过度依赖AI导致的安全漏洞。Gartner指出，85%的CEO认为网络安全对业务增长至关重要，87%的技术领导者正在增加网络安全预算，凸显了AI在未来安全战略中的核心地位。

主题2：AI自身安全

随着AI技术在企业中的普及，保护AI系统自身的安全性成为峰会讨论的重点。AI系统面临多种新兴威胁，如提示注入和数据投毒，需采取专门的安全措施以确保其可靠性和完整性。Gartner强调，CISO需在保护企业AI投资的同时，应对AI带来的新风险。

技术要点

AI系统面临的风险：包括提示注入、权限滥用、内存操纵攻击、数据投毒和对抗性提示攻击。这些威胁可能导致AI系统输出错误或被恶意利用。

生成式AI的影响：生成式AI（GenAI）尚未引入全新攻击技术，但显著放大了现有攻击的规模，如社交工程和恶意软件生成。例如，AI可加速恶意软件开发和自动化攻击流程。

深伪造威胁：尽管深伪造被认为是潜在风险，但峰会指出，目前尚未观察到深伪造威胁的显著增加。

AI TRISM框架：Gartner提出了AI威胁、风险和安全管理（AI TRISM）框架，强调AI治理、数据保护和访问管理的重要性，以确保AI基础设施的安全。

未来趋势：到2028年，33%的企业应用程序预计将嵌入自主AI智能体，这些智能体在提供速度和可扩展性的同时，也引入了不可预测行为和新攻击面。

重要性

保护AI系统对于维护对其输出的信任和防止其成为攻击媒介至关重要。Gartner数据显示，74%的CEO认为生成式AI将显著影响行业，84%计划增加AI投资。随着AI应用的增长，安全团队需提升AI素养，试验AI安全应用，并调整事件响应策略以应对AI特定风险。