中国信通院联合三六零启动大模型标准制定，助推AI安全可控发展
随着人工智能技术的迅猛发展，大模型在各个领域的应用日益广泛，但随之而来的安全问题也日益凸显。为了筑牢人工智能安全防线，提升大模型技术的安全风险防范能力，中国信息通信研究院（以下简称“信通院”）联合360发起大模型安全基准测试SafetyAI Bench制定工作。
大模型安全基准测试旨在建立业内权威的大模型安全中文基准测试体系，秉持“公平公正、产业应用、选型参考”三大原则，通过科学严谨的测试方法，评估大模型在内容安全、数据安全和科技伦理等方面的表现。该体系将覆盖价值观正确、合法合规、隐私保护、文明健康、AI自主意识等27个维度的中文评测数据集，为行业提供全面、细致的安全性能测试指标。
信通院作为中国信息通信行业的重要研究机构，在人工智能和大数据领域具有深厚的研究底蕴和丰富的行业经验，是国内ICT领域唯一能打通新技术研究、标准研制、试验验证、检测认证到产业推进全链条全环节的产业创新平台。其专业的研究团队、广泛的行业合作网络以及深厚的行业影响力，为大模型安全基准测试的顺利推进提供了坚实的保障。
360集团在网络安全领域深耕多年，拥有的安全大数据规模全球领先；且作为国内较早布局人工智能大模型的企业，360自研的认知型通用大模型——“360智脑”在中文通用大模型基准评测等多个第三方评测中位列国产大模型能力第一梯队。凭借在数字安全和人工智能的深厚积累和领先实力，360将为本次标准测试工作提供强大的技术支持、实践经验和创新思路，共同推动大模型安全基准测试体系的建立和完善。
业内人士表示，此次信通院与360联合开展大模型安全基准测试属于强强联合、优势互补，不仅能够在行业内树立一个权威且公正的安全评估标准，还将进一步推动大模型技术的创新与应用，为人工智能产业的稳健发展贡献力量。
据了解，360集团创始人周鸿祎还将在2月29日举行2024大模型应用场景元年首堂AI免费课，届时将深入探讨大模型技术的发展趋势，以及在各领域的应用前景与挑战。
来源：金融界资讯
下一篇：广西党政代表团莅临云天励飞调研