筑牢人工智能安全防线是应时之举
创始人
2025-06-04 08:40:59
0

近日,《北京市人工智能赋能新型工业化行动方案(2025年)》发布,围绕“人工智能与新型工业化”推出16条措施支持企业发展,特别针对加强智能安全保障、打造行业头部大模型、提升装备智能化水平等方面提出了一系列包含真金白银的奖励举措。

  人工智能作为引领新一轮科技革命和产业变革的战略性技术,在推动经济社会发展的同时,也带来算法偏见、数据泄露、伦理失序等安全风险。习近平总书记在中共中央政治局第二十次集体学习时强调,要把握人工智能发展趋势和规律,加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,构建技术监测、风险预警、应急响应体系,确保人工智能安全、可靠、可控。面对人工智能技术迭代加速与安全风险交织的复杂局面,立足国家安全战略全局,构建安全风险防范体系是应时之举。

  当前,人工智能对国家安全、社会稳定和人类文明构成系统性挑战。从技术维度看,算法黑箱、数据偏差、模型缺陷等底层问题持续存在,成功防范网络攻击难度较高,容易危及智慧医疗诊断精准度和金融风控系统可靠性。从社会维度看,深度伪造技术可生成以假乱真的虚假信息,严重冲击社会信任体系与意识形态安全防线。从文明维度看,系统暗含的算法歧视正在解构社会公平正义,自动驾驶面临的“电车难题”带来伦理困境,这些挑战不断倒逼人类文明新规范的建立。面对这些新形势,构建涵盖技术治理、风险防控、伦理规约的立体化治理体系,是我国把握技术主导权的战略选择。

  人工智能技术的快速发展,要求我们建立健全安全风险防范体系,以保障技术的健康稳定发展。做好这项工作,要坚持系统观念和问题导向,探索形成有效的方法路径,以点的突破带动面的提高。我国以制定全面、长远的国家级人工智能安全风险防范战略规划为依托,构建系统完备的法律法规体系,强化制度约束。在此基础上,加快制定和完善人工智能相关的法律法规,明确人工智能系统的开发者、使用者和监管者在安全风险防范方面的权利、义务和责任,将有利于确保人工智能产业有序发展。

  目前,《新一代人工智能发展规划》《生成式人工智能服务管理暂行办法》等一系列部门规章业已发布,初步明确了数据安全、算法透明、责任追溯等核心规则。相关行政法规对企业公开训练数据来源、算法逻辑,对生成内容进行标识等提出了要求,并进一步推动AI服务安全评估制度落地。针对深度伪造、自动驾驶等重点领域,我国也有了初步的专项治理规范。当然,从长远发展考虑,还需针对数据安全、算法公平、隐私保护等问题,出台更为具体的实施细则和标准规范,使人工智能产业发展有法可依、有章可循。

  人才是人工智能安全风险防范的重要支撑。广泛开展人工智能安全宣传教育活动,面向政府、企业、社会组织和公众,普及人工智能安全知识,提高全社会对人工智能安全风险的认知水平和防范意识,十分重要。通过举办培训讲座、发布科普资料、开展案例研讨等多种形式,营造全民关注、共同参与人工智能安全风险防范的良好氛围。加强人工智能安全专业人才培养体系建设,在高校中增设相关专业课程和专业方向,优化课程设置,注重实践教学环节,培养既懂人工智能技术又具备安全管理知识的复合型人才。鼓励企业开展内部培训和技能提升活动,建立人才激励机制,吸引和留住优秀人才,为人工智能安全风险防范体系建设提供源源不断的动力。

  加强人工智能安全风险防范体系建设,既是技术命题,更是社会治理命题。我们应坚持科技发展与安全并重的原则,多方协同、多措并举,积极应对人工智能发展带来的安全挑战,推动人工智能技术朝着安全、可靠、可控的方向发展,让人工智能更好地服务国家、造福社会、惠及人民。

  (作者:耿姗姗,系中共北京市委党校〔北京行政学院〕讲师、北京党内法规研究会秘书长)

相关内容

热门资讯

金星耐火取得低气孔莫来石砖生产... 金融界2025年6月6日消息,国家知识产权局信息显示,郑州金星耐火材料有限公司取得一项名为“一种低气...
DR纳睿雷获得发明专利授权:“... 证券之星消息,根据天眼查APP数据显示DR纳睿雷(688522)新获得一项发明专利授权,专利名为“板...
苹果价格战打懵华为?份额激翻3... “本想新手机换国产,结果一看iPhone 16 Pro只要5499,真香。” 在过去的两周里,原本定...
先导智能获得发明专利授权:“电... 证券之星消息,根据天眼查APP数据显示先导智能(300450)新获得一项发明专利授权,专利名为“电池...
迈吉机电取得电气设备散热防尘保... 金融界2025年6月6日消息,国家知识产权局信息显示,宁波市迈吉机电有限公司取得一项名为“一种电气设...
“科技创新与自然博物馆可持续发... 新京报讯(记者展圣洁)6月5日-6日,由北京市科学技术研究院和中国自然科学博物馆学会共同主办、国家自...
南昌红谷滩区政数局开展网络安全... 数字化时代,网络安全的重要性愈发凸显,因为它不仅关系到个人隐私保护、企业运营安全,更关乎国家安全和社...
新进展!我国卫星互联网低轨卫星... 为了让大家都能在任何地方都能享受到网络服务,美国和中国纷纷开启了地轨道互联网卫星的发展,美国主要由S...
对话智源王仲远:大模型迈向物理... 智源研究院院长王仲远 蓝鲸新闻6月6日讯(记者 武静静)2025年6月6日,第七届智源大会在北京召开...
原创 日... 随着科技的不断飞跃,人类生活模式正经历着前所未有的蜕变。近年来AI智能技术的勃兴,让曾经只存于科幻银...
莱塔思光学取得一种研磨装置专利... 金融界2025年6月6日消息,国家知识产权局信息显示,深圳莱塔思光学科技有限公司、宁波莱塔思光学科技...
“一底双长焦”全新长焦专利亮相... 在 @华为终端 官宣将于6月11日14:00召开华为Pura 80系列及全场景新品发布会的消息之前,...
河南郏县:“黑科技”助力夏种提... “咱这台播种机采用北斗卫星导航定位技术,能确保播种位置准确,避免重播、漏播现象,使玉米行距、株距均匀...
铜基新材料省重点实验室通过验收 记者6月5日获悉,经省科学技术厅组织相关专家综合评审及评分,铜基新材料山西省重点实验室近日通过验收,...
中国移动“全球通·逐马计划”新... 2025年3月,国家卫生健康委正式启动“体重管理年”三年行动,明确将“健康体重”定位为衡量全民健康水...
注意重点防范这些境外恶意网址和... 中国国家网络与信息安全信息通报中心通过支撑单位发现一批境外恶意网址和恶意IP,境外黑客组织利用这些网...
高版本ios系统云手机:市场里... **一、云手机的兴起与优势** 云手机是一种新兴的技术概念,它为用户带来了诸多便利。对于手游玩家...
小鹏华为合推全球顶尖AR-HU... 今日,小鹏汽车联合华为智能汽车解决方案发布车载AR-HUD新品「追光全景」。这是全球首个真正融入AI...
西安上空现不明飞行物 6月6日凌晨,陕西西安多位网友再次拍到不明飞行物。画面显示,该飞行物有着很长的拖尾,从地平线左侧斜着...
AI×机器人何以弄潮?广东省工... 6月6日,由广东省委统战部、省工商联牵头,会同省直相关单位组建的广东省人工智能与机器人产业联盟正式在...