6月5日，以“AI驱动安全”为主题的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会（BCS大会）在京开幕。北京市相关负责人介绍，本市已将数字安全产业作为全市重点发展的高精尖产业，目前已经汇聚数字安全企业1025家，2023年全市数字安全企业收入达到996亿元，产业带动作用凸显。

当前，各行各业网络化、数字化、智能化转型加速，在以数据为关键要素的新产业、以人工智能为关键技术的新场景下，人类面临的安全挑战更加复杂，各类攻击威胁与日俱增。本次大会历时两天，共举办2场峰会、20多场分论坛，2场大赛，邀请了来自10多个国家和地区的上百位专家学者、10多个行业领域的200多家企业的代表，分享人工智能发展的研究、实践或建议，并就AI（人工智能）驱动安全在数据、能源、金融、交通、制造等领域的情况展开讨论。

在中央网信办网络安全协调局副局长王营康看来，人工智能带来的安全挑战和攻击威胁尤其值得关注。“随着人工智能技术的发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。”

根据奇安信发布的《2024人工智能安全报告》，AI既放大现有网络安全威胁，又引入了新型威胁，引发网络安全事件指数级增长。其中，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件数量增长了1000%。一项对IT行业领导者进行的关于ChatGPT等大模型的调查显示，安全性是受访者最关心的问题，71％的受访者认为生成式人工智能会给企业数据安全带来新的风险。

“AI驱动安全是大势所趋，未来网络攻防就是得AI者得天下。谁能提前抓住AI变革的机遇，谁就能掌握网络空间安全的主动权。”奇安信集团董事长齐向东判断，当前网络安全格局正在被颠覆重构，但这种颠覆重构不仅带来新的安全挑战，也为网络安全行业带来前所未有的战略机遇。

对此，国际工程技术学会会士、英国计算机学会会士阿巴斯·海德尔深表认同。他说，大型语言模型正彻底改变网络安全形势，AI在网络安全领域带来的既有挑战，也有机遇。例如，网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件，但企业也可以用AI完成威胁检测和事件响应、处置。

在先进计算与关键软件（信创）海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克看来，一方面，人工智能的发展推动了网络安全技术的创新。例如，基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现，提高了网络安全的防护能力。另一方面，人工智能的自动化和智能化特性又可以大大提高网络安全管理的效率。通过自动化检测、响应和风险评估等流程，可以更快地应对网络威胁，减少潜在损失。

齐向东提醒，AI大模型不是万能钥匙。尤其是在当前“百模大战”的状态下，只有高质量发展的大模型，才能真正带来指数级能力跃升，激发网络安全行业的新质生产力。他认为，做好“AI驱动安全”至少需要具备三大条件：高质量的训练数据，纵深防御的内生安全体系，设备、体系具有统一的输入输出标准。

据悉，作为具有全球影响力的网络安全大会，BCS大会已成功举办五届，先后有来自中、美、俄、法、日、以等30多个国家和地区，超2000位政要、行业领袖、网络安全专家出席并分享观点。

来源：北京日报客户端

记者：孙奇茹