人工智能变革与网络安全新方向
创始人
2025-05-08 18:01:06
0

4月28日至5月1日,全球网络安全领域的年度盛会RSAC 2025在美国旧金山召开。本届大会以“多元声音,同一社区”(Many Voices,One Community)为主题,旨在强调“人工智能时代的网络安全并非一家企业或一个行业能够独自解决的挑战,需要共同承担责任、多元视角和有针对性的合作。”

AI毫无疑问占据本届RSAC大会的最热门议题。根据RSAC主办方的统计,2025年提交的演讲主题中,AI相关的内容占比高达40%。入围今年创新沙盒十强的厂商中有7家的产品与AI相关,有趣的是第一天上午创新沙盒十强决赛上,非AI主题的演讲者为防止裁判和听众审美疲劳,开场时都先特意声明其介绍的产品不是AI。RSAC 执行主席休·汤普森 (Hugh Thompson) 在主题演讲中表示:“人工智能正在渗透到网络安全的方方面面。”

从大会首日Cisco公司执行副总裁Jeetu Patal和微软安全Vasu Jakkal的演讲,以及随后几天的主题演讲和众多厂商展示的产品,反映出AI在网络安全方面的2大主要方向:1)AI用于网络安全,特别是Agentic AI在安全方面的应用;2)安全的AI(AI Safety)与AI的安全(AI Security),包括针对大语言模型的敌对攻击、AI智能体和自动化系统的安全问题。

根据笔者现场观察,本届RSAC大会主要集中在以下三个主要热点。

一、AI变革:从增强走到自主

RSAC 2025 的一个主要议题是人工智能与网络安全的融合。今年的不同之处在于,讨论的重点从生成式人工智能转向了完全自主的“自主化人工智能”系统。在RSA 2025大会上,从主题演讲到厂商展览,再到小组辩论,自主化AI(Agentic AI)无处不在。

研究机构Forrester甚至戏称,今年RSAC 的非官方主题应该是“AI智能体和自主化AI是(安全)未来。”

随着自主化AI(Agentic)的新型系统崛起,人工智能正在从辅助性工具向核心决策与执行角色的转变。与依赖人类提示的传统人工智能工具不同,Agentic AI 是指能够在设定目标内自主规划、决策和行动的系统。这些能够代表用户自主采取行动的系统被誉为下一个飞跃。

“Agentic SOC”是Agentic AI应用的主要方向。Agentic SOC通过多个专门的 AI Agent协作执行半自主和完全自主的安全运营工作流程, 这一愿景预示着未来的前景——具有特定专业知识的各种AI智能体,可以相互沟通并协调行动,能够比单个工具或孤立的人类分析师更快、更有效地解决复杂的安全事件。

2025创新沙盒10强中,有2家将Agentic AI应用在安全运营中——Command Zero和Twin Security。RSAC展区北区的数家大厂展台占据最醒目的位置,包括Cisco、Microsoft、Google、CrowdStrike等所有涉足安全运营产品的厂商都展示AI在其产品中的应用。

Microsoft Security Copilot在大会期间发布多个安全Agent预览版,包括钓鱼邮件分类、漏洞修复、DLP告警分诊、条件访问优化、威胁情报分析智能体等。 CrowdStrike在会议期间发布了2个Charlotte AI 安全智能体:Agentic Response和Agentic Workflows。Agentic Response能够自动回答安全分析师通常会提出的问题,分析根本原因,并指导调查的后续步骤。Agentic Workflows利用大型语言模型将 AI 推理集成到自动化剧本中。

业界向Agentic SOC的转变表明,组织在处理网络安全方面已经发生范式转变,从反应性、人力密集型模式转向更主动和自动化的系统,这有望带来威胁检测和响应的速度和准确性有显著提高。当然,成功实现这一愿景还取决于将这些 AI智能体无缝集成到现有安全基础设施和工作流程中,以及确保其自主行动的信任和透明度。

应用安全是另一个AI Agent应用热门领域。Checkmarx 宣布推出Agentic AI赋能的应用程序安全态势管理 (ASPM)产品,该产品可以扫描代码库中的所有包,以便在开发人员的 IDE 中直接向开发人员显示优先漏洞和未知代码引用。Semgrep 在 RSAC 2025 上全面展示了其面向开发者与安全团队的产品组合,其中 Semgrep Assistant 作为AI安全智能体,可在平台内半自主执行常规安全任务,显著减少误报负担并为开发人员和安全工程师节省大量时间。

二、AI 安全已是增长最快新兴领域

AI安全同样是今年RSAC的热门话题。英国人工智能安全研究所首席技术官梁晖(Jade LEUN)在会上强调,AI能力的发展速度远远快于安全和防护。针对AI安全的挑战,RSAC 上反复提出的应对策略是利用AI 工具来监视 AI 工具。

大量厂商展示了自己的AI安全产品。专注于AI安全的初创公司有10来家,大部分参展的网络安全厂商都推出了AI安全的产品。连续两年未在RSAC参展的Palo Alto Network也在会议第一天发布了全新的AI安全平台Prisma AIRS。

创新沙盒10强中更是有4家与AI安全相关。通过这4家公司的产品和解决方案就可以看出AI安全要解决的主要问题,包括通过AI大模型运行和推理时的安全和合规保证,企业环境中AI应用的自动发现、实时监控和风险评估,以及内部员工使用AI应用时的数据安全问题等。

Aurascape是一家“AI原生”网络安全初创公司,致力于为企业在生成式AI和智能体日益增长的背景下,提供全面的安全与可观测解决方案。其AI安全平台(Aurascape Platform),专为“AI工具生态”设计,支持对数千种AI应用的自动发现、实时监控与风险评估。其平台采用端点客户端+云端“inline proxy”架构,可将所有AI相关流量实时拦截并在通信“流中”进行深度检测与执行策略,彻底摆脱传统事后日志和API轮询的模式。其次,Aurascape 处理并保护多模态数据,内置数千种AI协议解析器,能够对文本、图像、音视频、代码等多种数据形式进行精准解码与风险评分,误报率极低 。最后,其自动化策略引擎可基于实时威胁情报和合规要求,动态生成与部署安全策略,并与Kubernetes云原生架构无缝集成,实现“零摩擦”AI安全运营。

CalypsoAI致力于为企业在整个AI生命周期中提供端到端的安全与合规保障,其核心产品包括基于云的SaaS平台、实时推理防护层(Inference Perimeter)及多种安全评估工具。平台实现了模型无关(model-agnostic)的架构,支持与任意大模型或生成式AI服务无缝集成,并通过自主式红队测试(agentic red-teaming)、实时防御和持续可观察性,为AI推理阶段提供动态安全防护。其技术与产品的关键创新包括全生命周期覆盖、模型安全排行榜(Security Leaderboard)与安全指数(CASI)、可定制化安全扫描器,以及自动化漏洞修复与合规审计功能,从而在安全性、灵活性与可扩展性上形成差异化优势。

EQTY Lab致力于通过先进的加密技术和硬件信任增强,为AI数据、模型和智能体提供端到端的可验证治理和安全保障;其核心技术“AI Integrity Fabric”涵盖软件物料清单(AI SBOM)、运行时可验证计算(Verifiable Compute)和合规即代码的SDK(Verifiable AI SDK),并通过与Intel、NVIDIA等业界巨头的深度合作,将硬件与软件层面紧密结合以实现动态审计与保真;其产品矩阵包括AI Integrity Suite、MCP Guardian、Verifiable Compute、行业定制解决方案(如生命科学)等,形成了从开发到部署、从静态到运行时的全栈可信AI生态;创新之处在于其首创的“可验证计算”概念、垂直整合的实现路径、对开源标准的贡献以及面向高度合规行业的深度定制能力。

Knostic.ai 是业内首家针对大型语言模型(LLM)提出“Need-to-Know(按需知悉)”访问控制框架的企业AI安全厂商,致力于防止内部员工使用AI应用引起的数据泄露,同时推动AI与安全的深度融合。其产品矩阵涵盖从AI部署前评估(Copilot Readiness Assessment)、实时访问控制引擎、持续监测与补救,到行业合规的安全部署框架,形成闭环式安全流程。技术上采用“知识图谱 + 联邦学习”架构提升模型训练效率40%,基于多维情境的策略引擎实现上下文感知的响应重塑(Response Shaping),并通过自适应学习动态调整策略。

三、开源为AI时代的网络安全发展带来新动能

在RSAC 2025大会上,思科、Meta和ProjectDiscovery宣布推出新的开源安全大模型以及由社区驱动的攻击面与漏洞检测开源项目,共同定义了开源在网络安全领域的未来。

在RSAC 2025第一天,Cisco公司执行副总裁兼首席产品官Jeetu Patal在主旨演讲最后发布开源安全大模型 Foundation-sec-8B。这一模型由思科新成立的 Foundation AI 团队开发,基于 Meta 的 Llama3.1架构,专门针对网络安全任务进行优化。与通用模型不同,Foundation-sec-8B 在训练过程中使用了经过精心筛选的漏洞数据库、威胁情报报告和安全工具文档等精选数据集,确保其能够准确理解和应对各种网络威胁,拥有80亿个参数,旨在为网络安全领域提供专门的 AI 基础设施。

思科将这一专为网络安全设计的大型语言模型开源,赢得现场阵阵掌声,国内安全行业也非常关注,甚至认为Cisco这类大厂开源安全大模型可以实现类似于DeepSeek的大模型技术平权。

目前,Cisco开源Foundation-Sec安全大模型已公开了一些安全知识测试集的对比数据,在CTI-Bench测试集上的表现确实好于通用大模型。在某些安全任务上可以与 Llama 3.1-70B 和 GPT-4o-mini 相匹敌。

但在RSAC期间的交流中,国外同行交对Cisco开源的8b安全大模型的反应相对比较平淡。从现场展区已集成AI能力的厂商来看,基本都是接入OpenAI、Claude和Gemini等先进通用大模型,并通过RAG等技术实现多智能体。这可能与国外企业上云比例较高有关。国内客户更喜欢私有部署,受限于算力会考虑性价比更高的支持本地部署的安全大模型。

Cisco的Foundation-sec-8B安全大模型计划中还包括公开现实世界实际安全运营和任务的测试集,对于行业推动大模型在安全任务上的效果评估会有些促进作用,至少会导致一批能力欠佳的安全垂域大模型裸泳者退去。

思科的 Foundation-sec-8B、Meta 的扩展版 AI Defenders Suite 以及 ProjectDiscovery 的 Nuclei 共同证明,当跨公司界限的开放性、协作性和专业领域专业知识相融合时,网络安全创新才能蓬勃发展。这些开源解决方案不仅提升了企业应对网络威胁的能力,也降低了安全防护的成本。未来,网络安全有望依赖于开源合作与共享技术,助力企业在数字化转型中安全前行。

自主化人工智能、量子计算正带来前所未有的挑战,对于努力适应这种新形势的企业来说,RSAC 2025 传递的信息非常明确:网络安全行业正处于变革的转折点。过去的安全模式已不足以应对未来的威胁。

新兴的技术变革也将会推动构建更具弹性、更智能、更自适应的安全框架,从而可以实现以更简单的工具、更快的速度、更少的资源,实现降低风险的目标。

| 来源:虎符智库,作者:江爱军 奇安信集团产品总体部AI高级研究员

网络安全资料列表:

https://docs.qq.com/doc/DTGJUTmNva1Roc0xQ

相关内容

热门资讯

彭博社:苹果新款Vision ... (映维网Nweon 2025年07月10日)根据彭博社的马克·古尔曼,苹果即将在今年发布的升级版Ap...
首次揭示月背约42亿年前和28... 本报北京7月9日电 (吴月辉、刘珈如)7月9日,中国科学院举行新闻发布会,发布嫦娥六号月球样品最新研...
2kW下效率高达97%!港晟图... 前言 当前,高功率电源在效率、散热与体积方面正面临重重考验。尽管升压 PFC+LLC 拓扑已被广泛...
北大学生选择武汉创业 专注智慧... “明天,我们一起去工厂里走一遍流程,看能不能想办法把净空空间利用得更好……”6月30日,在湖北浩蓝智...
新 AI 模型助力更准确预测心... 转自:科普中国 美国研究人员开发出一款多模态人工智能(AI)模型,能显著提高识别心源性猝死高风险人群...
工会数智化核心基础设施“工会智... 在7月3日召开的全国工会数智化建设工作现场推进会上,“工会智脑”正式发布。 “工会智脑”由大模型算力...
华为又一重大发布!引领酒店行业... “ 华为发布星河AI酒店网络解决方案,将重塑酒店业数智化标准 在当今数智化与智能化深度融合的时代浪潮...
AI狂欢,网站末日来了!互联网... 新智元报道 编辑:KingHZ 【新智元导读】谷歌上线AI摘要功能,表面上让搜索更高效,背后却在悄...
罗马仕之死 来源 | 伯虎财经(bohuFN) 作者 | 梦得 席卷充电宝整个行业的风暴,似乎“罗马仕”受伤最为...
有感觉吗?今天是地球有史以来最... 【圣路易时报讯】2025年7月9日,地球迎来有记录以来“最短的一天”。据国际地球自转和参考系统服务机...
北上 | 来自铁路上的他们! 白山黑水间,青春热望与北疆辽阔相遇。这片土地以包容开放姿态,托举青年理想,而青年正以滚烫赤诚回应时代...
从太空轨道到未来神话的伦理危机 在技术飞速发展的当代,人工智能、宇宙移民与生命工程的讨论已从专业学界延伸至公众视野,技术如何改变生命...
AI浏览器新挑战:Perple... 在AI技术日新月异的当下,一场关于如何重新定义上网体验的商业竞争正悄然升温。近期,备受瞩目的美国AI...
智元机器人入主上纬新材:三步走... 近日,资本市场迎来了一则引人注目的消息:智元机器人拟入主A股上市公司上纬新材(688585),这一消...
蓝海视界取得CELL双工位检测... 金融界2025年7月9日消息,国家知识产权局信息显示,深圳市蓝海视界科技有限公司取得一项名为“一种C...
“双轮驱动”打通 页岩油开发的... 新的成就标志着新疆油田在非常规油气开发领域取得重大突破,更彰显了开发者们齐心协力“把这件事干成”的坚...
格力申请一种BMC材料组合物等... 金融界2025年7月9日消息,国家知识产权局信息显示,珠海格力新材料有限公司;珠海格力电器股份有限公...
中银国际:产业催化在即 重视A... 智通财经获悉,中银国际发布研报称,AI眼镜、AI手机等AI端侧产品正在进入加速落地期,国产消费电子龙...
走在前、挑大梁•产业链上的山东... 近日,2025年市工业企业“一企一技术”研发中心名单发布,威高采血耗材有限公司入围。作为国内采血耗材...
超导量子比特相干时间创一毫秒新... 新华社赫尔辛基7月9日电(记者朱昊晨 徐谦)芬兰阿尔托大学8日宣布,该校研究人员将超导量子比特的最长...