“用AI打败AI”，网络安全如何AI赋能？| ToB产业观察
“用AI打败AI”，这是钛媒体在与Commvault亚太地区副总裁 Martin Creighan（马丁·克里根）对话过程中，他反复提到的一句话。
2023年，伴随着生成式AI的火热出圈，AI开始加快在各行各业的技术落地，越来越多的场景涌现。与此同时，AI也为不法之徒提供了更便捷的工作，给企业网络安全带来了更多威胁。
面对这些威胁，企业如何应对成为关系到企业数据安全的重中之重。
数据越重要，安全越重要
当下，数据已经成为个人、企业，乃至国家的重要资产，数据的重要性也越来越高。据国际数据公司（IDC）预测，到2025年中国产生的数据总量将达48.6ZB，占全球的27.8%；对国内生产总值（GDP）增长的贡献率将达年均1.5-1.8个百分点。
国家层面，1月4日，国家数据局等17部门联合印发《“数据要素×”三年行动计划（2024―2026年）》中明确，开放融合，安全有序。推动数字经济领域高水平对外开放，加强国际交流互鉴，促进数据有序跨境流动。坚持把安全贯穿数据要素价值创造和实现全过程，严守数据安全底线。
与此同时，《行动计划》还指出，落实数据安全法规制度，完善数据分类分级保护制度，落实网络安全等级保护、关键信息基础设施安全保护等制度，加强个人信息保护，提升数据安全保障水平。丰富数据安全产品，发展面向重点行业、重点领域的精细化、专业型数据安全产品，开发适合中小企业的解决方案和工具包，支持发展定制化、轻便化的个人数据安全防护产品。培育数据安全服务，鼓励数据安全企业开展基于云端的安全服务，有效提升数据安全水平。
显然，数据安全已经成为数字经济能否良性发展的关键抓手。
企业层面，数据已经成为了企业的重要资产，数据不仅关乎企业的日常运营，更是企业决策的重要依据。
在竞争激烈的市场环境中，企业需要实时掌握市场动态和消费者需求。通过数据分析，企业可以洞察市场趋势，了解消费者偏好，从而制定出更加精准的市场策略。例如，通过分析用户的在线购物行为数据，企业可以预测未来的销售趋势，提前调整库存和营销策略。
在运营管理方面，数据分析有助于企业优化内部流程，提高生产效率。例如，通过分析生产过程中的数据，企业可以找出生产瓶颈，针对性地进行改进。
在产品开发过程中，数据分析可以帮助企业了解用户需求，优化产品设计，提高产品成功率。例如，通过分析用户对产品的反馈数据，企业可以针对性地改进产品功能和用户体验。
安全新挑战
随着云服务的广泛应用，越来越多的企业将数据存储在云端。IDC预计，到2026年，全球会有27%的数据从云端产生，60%的全球数据会存储在云端，而企业侧云端存储比例将达到70%。
云服务在为企业实现降本增效的同时，也带来了新的安全挑战，如数据传输安全、访问控制等。因此，企业需要关注云服务提供商的安全能力和数据加密技术的运用，以确保数据在云端的安全性。
而AI等技术的快速发展，让企业数据安全也面临着更加严峻的挑战。在Akamai高级战略销售总监张轲看来，2024年将成为AI安全“元年”，“2023年，伴随着众多AI大模型的诞生，整个行业迎来了一个新的行业增长点。”张轲指出，“同时我们也看到AI被应用到不好的场景里，比如说AI驱动的网络攻击的工具，因为有了AI加持之后，发动网络攻击对于攻击者而言相比之前更加容易，可以更加高效的组织更加复杂，规模更大的安全攻击。”
无独有偶，马丁·克里根也有着相似的看法，他表示，刚刚过去的一年，随着AI技术的快速发展，不法分子利用AI技术，可以更快速、更高效的对企业的网络造成威胁，企业在AI时代，数据安全将面临更大的挑战。
确实，通过AI技术，攻击者将更加快速的、高效的击溃企业的安全防御，而企业的数据也将在这种情况下面临更大的威胁。仅数据泄露一项，据IBMSecurity 发布的《2023年数据泄露成本报告》中显示，2023年全球数据泄露的平均成本达到445万美元，创该报告有史以来以来最高记录，较过去三年均值增长了15%。
除了数据泄露以外，不法分子利用AI大模型还可以更快速的篡改企业数据、攻击企业核心系统，IEEE调研显示，2024年将会出现其他更具威胁的网络安全问题，包括勒索软件攻击（2024年为37%，高于2023年的30%）、网络钓鱼攻击（2024年为35%，高于2023年的25%）以及内部威胁（2024年为26%，高于2023年的19%）。
对此，张轲表示，随着AI技术的发展，在2024年，企业将面临更加高等级的漏洞攻击。与此同时，在张轲看来，安全已经不仅仅是企业IT部门关注的话题，已经上升为企业战略层面关注的焦点，“数字资产已经成为企业，乃至国家的重要资产组成部分。无论是企业也好，政府也好，对数字资产安全保护的重视程度是前所未有的提升，”张轲强调，“2024年数字安全将成为企业的重要的战略优先级。”
用AI打败AI
在新的数据安全趋势下，显然传统的数据安全技术手段，已经不足以确保企业所面临的诸如API攻击、高级机器人攻击等安全威胁，企业需要一套更灵活、更系统、更专业的保护措施。
在钛媒体与多位专家学者，以及安全厂商的调研中，大部分人都认为，在AI时代，企业虽然将遭受AI带来的更多的安全威胁，但是企业也可以利用AI技术，将AI技术与安全产品融合，实现“用AI打败AI”的目标。
IEEE标准协会新标准立项委员会副主席兼IEEE数字金融与经济标准委员会主席林道庄曾对钛媒体表示，虽然AI时代，企业面临着更大的网络安全和数据安全的挑战，但是在这个过程中，企业也可以充分应用AI的能力进行预警、防御，“通过AI自动学习识别，预测一些潜在的风险，并将这些风险自动隔离起来，”林道庄如是说，“通过AI的赋能，让企业级防火墙具备更强的应变能力。”
无独有偶，Commvault亚洲区副总裁Michel Borst（米歇尔·博斯特）也曾对钛媒体表示，现阶段已经有很多安全产品“植入”了AI的技术，“现阶段，我们可以利用AI技术进行监测、识别等工作，”Michel Borst如是说，“未来，从Commvault产品布局来看，我们还将尝试利用AI技术进行辅助运维人员决策，与运维人员一起面对当下严峻的安全挑战。”
而布局AI+安全产品的也不仅仅是Commvault一家，张轲也在与钛媒体的对话中表示，Akamai目前已经开始使用机器学习等技术，对网络攻击的数据进行分析，“与此同时，Akamai还在利用AI相关的技术对攻击者行为，以及攻击者之间的相关性进行研究和分析。”张轲指出。
除了传统的AI技术与安全产品的融合以外，去年火热的AIGC技术也为安全行业提供了更多的技术选择，而众多安全厂商也开始尝试将大模型的能力与自身的安全产品进行整合，例如，360于2023年9月开放360智脑大模型，据了解，该模型是全国首个原生安全大模型；腾讯安全在混元大模型基础上投喂安全知识语料库二次训练出安全大模型，并基于安全大模型打造了腾讯云AI安全助手........
从现阶段的AI+安全产品来看，AI技术主要被用于AI的分析、检测与识别等领域，以Akamai为例，据张轲介绍，Akamai主要利用AI技术对DNS请求数据进行分析，从而在庞大的网络流量中甄别出有危险的网络攻击行为，并对攻击行为进行定位。而这也是目前众多安全厂商布局AI+安全产品时主要的着力点。
展望未来，马丁·克里根对钛媒体表示，未来，AI的能力将从识别更多的转向辅助决策。据了解，Commvault现阶段已经开始在辅助运维及决策方面进行布局，近期，Commvault发布了Commvault Cloud支持Arlie AI小助手，“接下来三到六个月里面，我们还会把Arlie AI小助手跟其他的AI安全厂商进行集合。在安全扫描方面，我们将和Avira等合作，在更准确地检测出备份数据里的恶意病毒方面做一些工作”马丁·克里根表示，“在AI治理方面，在未来三到六个月，我们将和Databricks推进AI治理方面的合作，实现自动扫描所有数据，并根据数据的使用权限，为用户提出更好治理数据的建议。”
可以想见，2024年，虽然AI技术将给企业的安全带来更大的挑战，但是随着越来越强大的AI安全的产品的问世，企业可以“用AI打败AI”，AI技术可以为企业安全保驾护航。
（本文首发钛媒体，作者 | 张申宇）