人工智能变革与网络安全新方向
创始人
2025-05-08 18:01:06
0

4月28日至5月1日,全球网络安全领域的年度盛会RSAC 2025在美国旧金山召开。本届大会以“多元声音,同一社区”(Many Voices,One Community)为主题,旨在强调“人工智能时代的网络安全并非一家企业或一个行业能够独自解决的挑战,需要共同承担责任、多元视角和有针对性的合作。”

AI毫无疑问占据本届RSAC大会的最热门议题。根据RSAC主办方的统计,2025年提交的演讲主题中,AI相关的内容占比高达40%。入围今年创新沙盒十强的厂商中有7家的产品与AI相关,有趣的是第一天上午创新沙盒十强决赛上,非AI主题的演讲者为防止裁判和听众审美疲劳,开场时都先特意声明其介绍的产品不是AI。RSAC 执行主席休·汤普森 (Hugh Thompson) 在主题演讲中表示:“人工智能正在渗透到网络安全的方方面面。”

从大会首日Cisco公司执行副总裁Jeetu Patal和微软安全Vasu Jakkal的演讲,以及随后几天的主题演讲和众多厂商展示的产品,反映出AI在网络安全方面的2大主要方向:1)AI用于网络安全,特别是Agentic AI在安全方面的应用;2)安全的AI(AI Safety)与AI的安全(AI Security),包括针对大语言模型的敌对攻击、AI智能体和自动化系统的安全问题。

根据笔者现场观察,本届RSAC大会主要集中在以下三个主要热点。

一、AI变革:从增强走到自主

RSAC 2025 的一个主要议题是人工智能与网络安全的融合。今年的不同之处在于,讨论的重点从生成式人工智能转向了完全自主的“自主化人工智能”系统。在RSA 2025大会上,从主题演讲到厂商展览,再到小组辩论,自主化AI(Agentic AI)无处不在。

研究机构Forrester甚至戏称,今年RSAC 的非官方主题应该是“AI智能体和自主化AI是(安全)未来。”

随着自主化AI(Agentic)的新型系统崛起,人工智能正在从辅助性工具向核心决策与执行角色的转变。与依赖人类提示的传统人工智能工具不同,Agentic AI 是指能够在设定目标内自主规划、决策和行动的系统。这些能够代表用户自主采取行动的系统被誉为下一个飞跃。

“Agentic SOC”是Agentic AI应用的主要方向。Agentic SOC通过多个专门的 AI Agent协作执行半自主和完全自主的安全运营工作流程, 这一愿景预示着未来的前景——具有特定专业知识的各种AI智能体,可以相互沟通并协调行动,能够比单个工具或孤立的人类分析师更快、更有效地解决复杂的安全事件。

2025创新沙盒10强中,有2家将Agentic AI应用在安全运营中——Command Zero和Twin Security。RSAC展区北区的数家大厂展台占据最醒目的位置,包括Cisco、Microsoft、Google、CrowdStrike等所有涉足安全运营产品的厂商都展示AI在其产品中的应用。

Microsoft Security Copilot在大会期间发布多个安全Agent预览版,包括钓鱼邮件分类、漏洞修复、DLP告警分诊、条件访问优化、威胁情报分析智能体等。 CrowdStrike在会议期间发布了2个Charlotte AI 安全智能体:Agentic Response和Agentic Workflows。Agentic Response能够自动回答安全分析师通常会提出的问题,分析根本原因,并指导调查的后续步骤。Agentic Workflows利用大型语言模型将 AI 推理集成到自动化剧本中。

业界向Agentic SOC的转变表明,组织在处理网络安全方面已经发生范式转变,从反应性、人力密集型模式转向更主动和自动化的系统,这有望带来威胁检测和响应的速度和准确性有显著提高。当然,成功实现这一愿景还取决于将这些 AI智能体无缝集成到现有安全基础设施和工作流程中,以及确保其自主行动的信任和透明度。

应用安全是另一个AI Agent应用热门领域。Checkmarx 宣布推出Agentic AI赋能的应用程序安全态势管理 (ASPM)产品,该产品可以扫描代码库中的所有包,以便在开发人员的 IDE 中直接向开发人员显示优先漏洞和未知代码引用。Semgrep 在 RSAC 2025 上全面展示了其面向开发者与安全团队的产品组合,其中 Semgrep Assistant 作为AI安全智能体,可在平台内半自主执行常规安全任务,显著减少误报负担并为开发人员和安全工程师节省大量时间。

二、AI 安全已是增长最快新兴领域

AI安全同样是今年RSAC的热门话题。英国人工智能安全研究所首席技术官梁晖(Jade LEUN)在会上强调,AI能力的发展速度远远快于安全和防护。针对AI安全的挑战,RSAC 上反复提出的应对策略是利用AI 工具来监视 AI 工具。

大量厂商展示了自己的AI安全产品。专注于AI安全的初创公司有10来家,大部分参展的网络安全厂商都推出了AI安全的产品。连续两年未在RSAC参展的Palo Alto Network也在会议第一天发布了全新的AI安全平台Prisma AIRS。

创新沙盒10强中更是有4家与AI安全相关。通过这4家公司的产品和解决方案就可以看出AI安全要解决的主要问题,包括通过AI大模型运行和推理时的安全和合规保证,企业环境中AI应用的自动发现、实时监控和风险评估,以及内部员工使用AI应用时的数据安全问题等。

Aurascape是一家“AI原生”网络安全初创公司,致力于为企业在生成式AI和智能体日益增长的背景下,提供全面的安全与可观测解决方案。其AI安全平台(Aurascape Platform),专为“AI工具生态”设计,支持对数千种AI应用的自动发现、实时监控与风险评估。其平台采用端点客户端+云端“inline proxy”架构,可将所有AI相关流量实时拦截并在通信“流中”进行深度检测与执行策略,彻底摆脱传统事后日志和API轮询的模式。其次,Aurascape 处理并保护多模态数据,内置数千种AI协议解析器,能够对文本、图像、音视频、代码等多种数据形式进行精准解码与风险评分,误报率极低 。最后,其自动化策略引擎可基于实时威胁情报和合规要求,动态生成与部署安全策略,并与Kubernetes云原生架构无缝集成,实现“零摩擦”AI安全运营。

CalypsoAI致力于为企业在整个AI生命周期中提供端到端的安全与合规保障,其核心产品包括基于云的SaaS平台、实时推理防护层(Inference Perimeter)及多种安全评估工具。平台实现了模型无关(model-agnostic)的架构,支持与任意大模型或生成式AI服务无缝集成,并通过自主式红队测试(agentic red-teaming)、实时防御和持续可观察性,为AI推理阶段提供动态安全防护。其技术与产品的关键创新包括全生命周期覆盖、模型安全排行榜(Security Leaderboard)与安全指数(CASI)、可定制化安全扫描器,以及自动化漏洞修复与合规审计功能,从而在安全性、灵活性与可扩展性上形成差异化优势。

EQTY Lab致力于通过先进的加密技术和硬件信任增强,为AI数据、模型和智能体提供端到端的可验证治理和安全保障;其核心技术“AI Integrity Fabric”涵盖软件物料清单(AI SBOM)、运行时可验证计算(Verifiable Compute)和合规即代码的SDK(Verifiable AI SDK),并通过与Intel、NVIDIA等业界巨头的深度合作,将硬件与软件层面紧密结合以实现动态审计与保真;其产品矩阵包括AI Integrity Suite、MCP Guardian、Verifiable Compute、行业定制解决方案(如生命科学)等,形成了从开发到部署、从静态到运行时的全栈可信AI生态;创新之处在于其首创的“可验证计算”概念、垂直整合的实现路径、对开源标准的贡献以及面向高度合规行业的深度定制能力。

Knostic.ai 是业内首家针对大型语言模型(LLM)提出“Need-to-Know(按需知悉)”访问控制框架的企业AI安全厂商,致力于防止内部员工使用AI应用引起的数据泄露,同时推动AI与安全的深度融合。其产品矩阵涵盖从AI部署前评估(Copilot Readiness Assessment)、实时访问控制引擎、持续监测与补救,到行业合规的安全部署框架,形成闭环式安全流程。技术上采用“知识图谱 + 联邦学习”架构提升模型训练效率40%,基于多维情境的策略引擎实现上下文感知的响应重塑(Response Shaping),并通过自适应学习动态调整策略。

三、开源为AI时代的网络安全发展带来新动能

在RSAC 2025大会上,思科、Meta和ProjectDiscovery宣布推出新的开源安全大模型以及由社区驱动的攻击面与漏洞检测开源项目,共同定义了开源在网络安全领域的未来。

在RSAC 2025第一天,Cisco公司执行副总裁兼首席产品官Jeetu Patal在主旨演讲最后发布开源安全大模型 Foundation-sec-8B。这一模型由思科新成立的 Foundation AI 团队开发,基于 Meta 的 Llama3.1架构,专门针对网络安全任务进行优化。与通用模型不同,Foundation-sec-8B 在训练过程中使用了经过精心筛选的漏洞数据库、威胁情报报告和安全工具文档等精选数据集,确保其能够准确理解和应对各种网络威胁,拥有80亿个参数,旨在为网络安全领域提供专门的 AI 基础设施。

思科将这一专为网络安全设计的大型语言模型开源,赢得现场阵阵掌声,国内安全行业也非常关注,甚至认为Cisco这类大厂开源安全大模型可以实现类似于DeepSeek的大模型技术平权。

目前,Cisco开源Foundation-Sec安全大模型已公开了一些安全知识测试集的对比数据,在CTI-Bench测试集上的表现确实好于通用大模型。在某些安全任务上可以与 Llama 3.1-70B 和 GPT-4o-mini 相匹敌。

但在RSAC期间的交流中,国外同行交对Cisco开源的8b安全大模型的反应相对比较平淡。从现场展区已集成AI能力的厂商来看,基本都是接入OpenAI、Claude和Gemini等先进通用大模型,并通过RAG等技术实现多智能体。这可能与国外企业上云比例较高有关。国内客户更喜欢私有部署,受限于算力会考虑性价比更高的支持本地部署的安全大模型。

Cisco的Foundation-sec-8B安全大模型计划中还包括公开现实世界实际安全运营和任务的测试集,对于行业推动大模型在安全任务上的效果评估会有些促进作用,至少会导致一批能力欠佳的安全垂域大模型裸泳者退去。

思科的 Foundation-sec-8B、Meta 的扩展版 AI Defenders Suite 以及 ProjectDiscovery 的 Nuclei 共同证明,当跨公司界限的开放性、协作性和专业领域专业知识相融合时,网络安全创新才能蓬勃发展。这些开源解决方案不仅提升了企业应对网络威胁的能力,也降低了安全防护的成本。未来,网络安全有望依赖于开源合作与共享技术,助力企业在数字化转型中安全前行。

自主化人工智能、量子计算正带来前所未有的挑战,对于努力适应这种新形势的企业来说,RSAC 2025 传递的信息非常明确:网络安全行业正处于变革的转折点。过去的安全模式已不足以应对未来的威胁。

新兴的技术变革也将会推动构建更具弹性、更智能、更自适应的安全框架,从而可以实现以更简单的工具、更快的速度、更少的资源,实现降低风险的目标。

| 来源:虎符智库,作者:江爱军 奇安信集团产品总体部AI高级研究员

网络安全资料列表:

https://docs.qq.com/doc/DTGJUTmNva1Roc0xQ

相关内容

热门资讯

太原理工大学电子信息工程学院赵... 近日,我校电子信息工程学院赵菊敏教授团队在解决并行解码中的信号超级簇问题方面取得突破,显著提升了系统...
河北吉诚取得降低高钛渣细粉率专... 金融界2025年5月8日消息,国家知识产权局信息显示,河北吉诚新材料有限公司取得一项名为“在V型选粉...
首款鸿蒙电脑正式亮相! 5月8日,华为在深圳举办鸿蒙电脑技术与生态沟通会,“鸿蒙电脑”正式亮相,意味着国产操作系统在个人电脑...
为什么说「只用指纹浏览器不用 ... 在跨境电商运营、社交媒体矩阵管理等场景中,多账号独立管理是刚性需求,而平台对账号关联的检测机制极为严...
EA大规模裁员风波后引争议 C... 在EA最新财报电话会议上,首席执行官Andrew Wilson通过预先准备的发言稿强调“人工智能正在...
【光明论坛】推动人工智能健康有... 作者:张鹏(山东建筑大学马克思主义学院教授、博士生导师) “人工智能是年轻的事业,也是年轻人的事业。...
网络系统镜像分发工具 iVen... IT之家 5 月 8 日消息,科技媒体 borncity 昨日(5 月 7 日)发布博文,报道称网络...
原创 百... 在2025年的智能手机市场中,百元机(0-999元价位段)早已摆脱了“卡顿”“凑合”的标签。得益于技...
中国煤科总院发布“煤科矿安”“... 近日,第八届数字中国建设峰会在福建福州举行,中国煤炭科工集团煤炭科学研究总院(以下简称“中国煤科总院...
原创 机... 从达芬奇的骑士机器人,到早年的液压驱动波士顿动力,再到进工厂、当伴侣,机器人早就不是之前的提线木偶了...
为什么大多数企业都用web前端... 2025年,各企业异地项目井喷,越来越多的企业选择将Web前端开发外包给专业团队。这一趋势背后,是成...
原创 中... 明确告知各位! 在当前全球高端科技领域,真正具备重塑全球格局实力的并非机器人或人工智能。 它们仅仅是...
无锡理奇取得干法极片压延的压延... 金融界2025年5月8日消息,国家知识产权局信息显示,无锡理奇智能装备股份有限公司取得一项名为“干法...
5G-A信号来了!如何体验、怎... 最近,不少北京移动和联通用户发现手机上出现了5G-A信号。5G-A是什么?对我们普通人来说又有什么用...
凌云光涨0.31%,成交额2.... 5月8日,凌云光涨0.31%,成交额2.29亿元,换手率3.36%,总市值132.44亿元。 异动分...
特写|华夏数科周攀谈AI大模型... “这是我们构建核心竞争力的其中一种方式,不断去做苦活累活,用脚去丈量每一个园区,完整上线园区的数据。...
简单易懂!网络投票制作教程来袭 还在为网络投票制作发愁吗?别担心!简单易懂!网络投票制作教程来袭,手把手教你从 0 到 1 轻松搞定...
光伏双向计量电表:余电上网 “... 关注【acrelzx】公众号,可获取更多信息和行业案例 一、背景 在能源转型和可持续发展的时代浪潮...
人工智能大模型板块5月8日跌0... 证券之星消息,5月8日人工智能大模型板块较上一交易日下跌0.0%,鸿博股份领跌。当日上证指数报收于3...
第二届“金灵光杯”中国互联网创... 大象新闻记者 付艳波 5月8日,2025(第二届)“金灵光杯”中国互联网创新大赛地方行华中专场在郑州...