日前，腾讯QQ发布了2024第一季度QQ平台生态治理公告。公告显示，第一季度平台累计打击违规账号411万个，并重点整治涉网络赌博、诈骗、未成年人负面影响的有害内容。

随着大数据、人工智能、区块链等新技术、新业态的发展，网络黑产非法牟利的技术和手段不断变形升级。近期，QQ安全团队召开了媒体沟通会，分享了QQ在安全方面的新升级。会上，QQ安全团队透露，通过AI技术加持，目前已能实现更精准的黑灰产打击治理。

QQ安全团队表示，在充分保障用户隐私的情况下，QQ安全团队利用安全大数据、社交图计算、安全多模态大模型等手段构建了一套全方位的安全技术防御体系，实现上游严格管控黑灰产账号资源、中游及时准确识别各类风险、下游精准打击处置违规内容。

黑灰产案例。

以违规内容识别打击为例，借助大模型对通识和社交知识的学习积累和应用能力，QQ平台能准确鉴别各类色情低俗内容。而针对“AI换脸”新型诈骗，QQ也已经储备了异常环境检测、风险账号识别和异常操作分析等多重技术手段，一旦出现此类风险可以对疑似被诈用户下发提醒或直接拦截阻断，保障用户隐私和财产安全。

同时，QQ也根据不同用户特点，在“加好友、加群、沟通、分享屏幕”等业务场景部署多重安全防护措施，通过安全弹框、状态栏消息、公众号推送等多种形式的安全提醒每天触达约30余万名用户，及时有效提醒广大用户警惕网络风险。

作为国内最早的即时通讯工具，QQ账号是许多用户的互联网钥匙，被用户广泛应用于各个互联网产品中，这也无形中放大了QQ账号密码泄露的风险，增加了QQ账号安全工作的复杂性。

针对黑产作恶全链路的多个核心节点，QQ安全团队基于QQNT全新的系统架构，加强了各项核心安全能力，实时响应并自动化拦截突发异常。目前，QQ安全团队实现对“黑产自动化作恶工具、作恶号源批量生产、黑号解封复活操作、恶意流量曝光占位”等进行有效的持续性封堵拦截，特别是在QQ协议挂的治理上基本达成“团灭”的打击效果。随着新版QQ安全加固的落地，其针对所有端的协议都完成了自动化管理覆盖，平台整体风险流量相比2022年初下降超90%。

此外，在未成年人网络保护议题上，据介绍，早在2020年QQ就率先上线了适合网课场景使用的“学习模式”，并在同年9月将“学习模式”全面升级为“青少年模式”。截至目前，QQ还在“游戏娱乐”“消费充值”“广告推送”“短视频内容”等方面进行了80余次的持续优化。近期，QQ青少年模式新增了内容分级能力，帮助未成年人在不同年龄段触达更适合的知识内容。

采写：南都记者 林文琪