经济日报：莫让数据污染冲击人工智能安全
创始人
2025-08-17 02:02:18
0次
国家安全部近日发文提示，人工智能的训练数据良莠不齐，其中不乏虚假信息、虚构内容和偏见性观点，造成数据源污染，给人工智能安全带来新的挑战。
数据是人工智能发展的基础。人工智能模型通过分析和处理大量的训练数据来理解世界，进而驱动内容生产和智能决策。高质量的数据能提升人工智能模型的准确性和可靠性，但数据如果被污染，则会扭曲人工智能模型的认知，导致决策失误，甚至诱发有害输出。有研究显示，当训练数据集中有0.01%的虚假文本时，模型输出的有害内容会增加11.2%。
当下，互联网作为人工智能模型的重要“语料库”，各类信息鱼龙混杂，准确性难以保证，即使模型训练时尽力过滤可疑数据，也很难完全避免虚假或有害内容的渗透。
如今，从美食推荐到自动驾驶，从金融决策到医疗诊断，人工智能已深度融入人们生活。每一次因数据污染作出的误判，都可能引起连锁反应，带来不可估量的损失。比如，在自动驾驶领域，误判路况造成交通事故；在金融领域，炮制虚假信息引发股价异常波动。
由此可见，防范数据污染不仅是人工智能领域的技术挑战，更关乎社会信任和公共安全。当前，《生成式人工智能服务管理暂行办法》已将人工智能训练数据纳入监管，各方也在探索多种方法识别和抵御恶意数据的影响。但随着数据污染日益隐蔽，要为人工智能构筑起更强大的“免疫系统”，不断升级技术手段，建立更严格的数据筛选验证机制，从源头过滤掉虚假、错误以及带有偏见性的可疑内容。同时，完善动态监测和反馈机制，对模型的异常行为及时纠偏，定期依据法规标准清洗修复受污数据，筑牢人工智能数据底座。
来源：经济日报
相关内容
热门资讯
原创 能...
一直以来都有一个问题在小智脑海里盘旋，那就是我手上的手机"真的完全属于我自己"吗？可能很多人看到这个...
沪天阀门取得紧凑型水平电动锥形...
金融界2025年8月16日消息，国家知识产权局信息显示，沪天阀门制造有限公司取得一项名为“一种紧凑型...
在“2025年度AI人物”看见...
8月14日，总台人工智能产业发展大型主题活动《2025中国·AI盛典》重磅揭晓“2025年度AI人物...
工学云签到数据一键同步钉钉企业...
在现代办公环境中，多平台协作已成为常态，但不同系统间的数据同步问题却常常困扰着职场人士。以往，员工在...
常荣声学等公布“一种声波发生器...
天眼查APP显示，近日，国家能源集团永州发电有限公司,南京常荣声学股份有限公司申请的“一种声波发生器...
人形机器人，进化“赛道”向何方...
来源：市场资讯 （来源：上观新闻） 8月15日，2025世界人形机器人运动会正式开赛！来自16个国...
方圆阀门申请一种球阀专利，可将...
金融界2025年8月16日消息，国家知识产权局信息显示，方圆阀门集团有限公司申请一项名为“一种球阀”...
神舟二十号航天员乘组圆满完成第...
央广网北京8月16日消息（记者张棉棉）据中央广播电视总台中国之声《新闻和报纸摘要》报道，据中国载人航...
南洋环境取得新型曝气器专利，提...
金融界2025年8月16日消息，国家知识产权局信息显示，南洋环境工程技术（惠州）有限公司取得一项名为...
向“人享其行物畅其流”前行
交通运输是国民经济的“大动脉”。“十四五”时期，我国交通运输事业取得历史性成就，综合交通运输体系建设...
经济日报：莫让数据污染冲击人工...
国家安全部近日发文提示，人工智能的训练数据良莠不齐，其中不乏虚假信息、虚构内容和偏见性观点，造成数据...
海英特电源等取得一种新电源外壳...
金融界2025年8月16日消息，国家知识产权局信息显示，海英特电源技术有限公司、山东春光科技集团股份...
当Z世代遇见鸿蒙，人生第一堂H...
暑假余额告急，当同龄人还在为宅家躺平或出门暴走而犹豫不决时，200名怀揣技术梦想的青年学子已齐聚华为...
建业能源公布“一种连续油管用管...
天眼查APP显示，近日，克拉玛依市建业能源股份有限公司申请的“一种连续油管用管道解堵设备及使用方法”...
原创 深...
从鱼到人的进化史诗：达尔文没说完的故事，藏在化石与基因里 1859 年，《物种起源》像一颗投入平静...
泰立机械取得可调工作台的台钻结...
金融界2025年8月16日消息，国家知识产权局信息显示，台州市泰立机械股份有限公司取得一项名为“一种...
【车载GPS大揭秘】如何精准判...
一、GPS设备的基础工作原理 GPS（全球定位系统）设备通过接收卫星信号确定位置，其核心组件包括天线...
磁带大小塞入75TB数据，日本...
智东西 作者 | 陈骏达 编辑 | 云鹏 智东西8月13日报道，昨天，富士胶片（中国）投资有限公司发...
“城市无人机空中医药配送航线”...
8月14日上午，西北地区交通物流与医疗服务融合创新迎来里程碑时刻——首条“城市无人机空中医药配送航线...
松延动力获得自由体操冠军 姜哲...
人形机器人进行自由体操比赛。主办方供图 新京报贝壳财经讯（记者陈维城）8月16日，在2025世界人形...