网络安全中的AI明确战略方向-Gartner
今天分享的是：网络安全中的AI明确战略方向-Gartner
报告共计：16页
《网络安全中的AI：明确战略方向》由Gartner发布，主要探讨AI和生成式AI（GenAI）给网络安全带来的影响、风险与应对策略，帮助企业明确AI战略方向，释放AI价值。
1. AI在网络安全领域的现状与影响：AI和GenAI热潮改变商业模式，也带来新安全风险。近90%企业仍在研究或试点GenAI，多数未落实AI TRiSM技术手段或政策，这重塑了安全生态。其影响包括第三方对敏感数据的非受控使用、版权侵权、潜在隐私风险等，还推动安全举措与时俱进和新法规出台。
2. 管理风险与释放AI价值的策略
- 明确战略方向：引入GenAI需新治理框架和网络安全战略路线图，企业AI治理应定制，关注将AI纳入风险管理框架、调整应用安全策略、整合新AI技术到网络安全战略等。
- 实施AI TRiSM框架：外部和内部托管的GenAI模型都存在风险，AI TRiSM框架可通过内容异常检测、数据治理与保护等手段帮助企业管理风险。
- 强化GenAI应用安全防护：构建基础安全控制体系，加强GenAI应用保护，制定可接受使用政策，保障Web、SaaS、云服务等安全。
- 聚焦关键风险领域：GenAI带来不当或恶意使用、幻觉、数据泄露、对抗性攻击等风险，企业需重点关注内容异常检测、数据保护和应用安全领域。
3. 不同角色的应对要点
- CIO：盘点第三方GenAI应用，更新供应商选择标准，优化安全策略，开展概念验证，监控威胁态势。
- CISO：评估GenAI风险，明确衡量标准，试用安全功能，遵循AI TRiSM框架，培训团队。
- 其他角色：CDAO主导数据整理，软件工程主管理解AI影响并推动应用开发，企业架构主管聚焦AI业务价值，各角色协同助力AI战略落地。
4. 未来展望：预计到2026年，采用AI TRiSM控制措施的企业可降低决策失误风险；2028年，生成式增强技术将缩小网络安全技能差距。企业应系统评估AI技术，优化检测响应能力，投资风险暴露管理与威胁情报。
以下为报告节选内容