北京前瞻人工智能安全与治理研究院正式成立:安全与治理引领人工智能稳健发展
创始人
2025-05-09 13:00:34
0

【文/ 观察者网专栏作者 曾毅】

人工智能的发展给全社会带来前所未有的机遇与变革。我们在经历、体验与感受的同时,对于人类、智能与智慧进行着更深刻的反思,这种经历、体验和反思已不可避免地需面对人工智能带来的潜在风险与挑战。

从学术界76年前人工智能尚未诞生时Edmond Berkeley关于“社会控制:倘若机器真的变得智能”的思考,到65年前控制论的奠基者Norbert Wiener关于“自动化的技术与道德后果”的远见,再到当代人工智能技术在工作和生活中已经给我们带来的隐私侵犯、虚假信息、人工智能幻觉、偏见歧视、自主系统风险等,人工智能安全与治理的问题已与人工智能赋能的社会中每一个人息息相关。社会无法接受缺乏方向盘和缰绳的人工智能无序野蛮狂奔,安全、伦理与治理将促进人工智能的稳健发展。

正是在这样的背景下,美、英、日、韩、法、加、新等全球十数个国家分别成立了人工智能安全有关的研究院所与中心,以及诸多人工智能安全相关社会组织。作为中国这样负责任的创新大国中人工智能科技领先的城市之一,北京不仅要有所作为,在人工智能安全领域发挥头雁作用,更要在国际合作中团结国内兄弟单位担当中坚力量。

作为正式成立研究院前的筹建工作,2024年9月“北京人工智能安全与治理实验室”在北京市经信局、北京市网信办等多个市局,和实验室落地所在的门头沟区政府与中关村门头沟园、京西智谷的见证与大力支持下应运而生,并在来自中国科学院自动化研究所、北京大学、清华大学、中国信息通信研究院相关学者和机构以及相关企业的支持下扬帆起航。

2025年3月,“北京人工智能安全与治理协同创新矩阵”在中关村论坛正式发布,人工智能安全与超级对齐北京市重点实验室作为“创新矩阵”成员,与人工智能安全与标准北京市重点实验室等6家北京市重点实验室在北京市科委的指导下共同推进北京人工智能安全与治理前沿研究的协同创新。北京市在人工智能安全与治理方面各有侧重的实验室与研究机构如雨后春笋般涌现与蓬勃发展。

2024年9月,作为前瞻研究院前身的北京人工智能安全与治理实验室成立揭牌

北京人工智能安全与治理实验室在半年多的发展与建设期间与合作机构共同发布了多项研究成果:在技术安全与治理方面,发表了涉及生成式人工智能大模型面对不同程度压力的行为表现与机理研究、人工智能大模型的安全护栏研究等,相关研究成果发表在AAAI 2025、ICLR 2025等人工智能顶级国际会议;在全球人工智能安全与治理评估与合作方面,联合发布全球人工智能安全指数(Global Index for AI Safety),作为主要撰写机构之一参与编写和发布世界互联网大会人工智能专委会首份报告《以普惠包容的人工智能治理赋能全球可持续发展(Governing AI for Good and for All—Empowering Global Sustainable Development)》。

Beijing-AISI参与编写和发布《全球人工智能安全指数》报告、以及世界互联网大会人工智能专委会首份报告《以普惠包容的人工智能治理赋能全球可持续发展》

作为来自中国的机构,从筹建期的北京人工智能安全与治理实验室到正式成立的北京前瞻人工智能安全与治理研究院,在全球人工智能安全与治理议题上发挥了独特的作用。实验室在巴黎人工智能行动峰会期间作为机构代表受邀赴巴黎参加由阿联酋穆罕默德・本・拉希德政府学院和生命未来研究所主办的“AI Safety Connect 2025”,以及由法国亚洲学会与亚洲人工智能安全举办的“From Oil to Water: Governing AI as a Global Public Good”等会议,近期,前瞻研究院受邀在新加坡人工智能大会(SCAI 2025)介绍研究成果并组织专题研讨,有关超级对齐的研究成果被大会成果文件《新加坡人工智能安全研究优先事项共识(The Singapore Consensus on Global AI Safety Research Priorities)》正面引用,在人工智能安全与治理的国际合作与交流中做出了有特色的贡献。

巴黎人工智能行动峰会期间“AI Safety Connect 2025”人工智能安全研究机构圆桌研讨Beijing-AISI作为来自中国的人工智能安全机构受邀参加

巴黎人工智能行动峰会期间由法国亚洲学会与亚洲人工智能安全举办的“From Oil to Water: Governing AI as a Global Public Good”研讨会,Beijing-AISI作为来自中国的人工智能安全机构受邀参加

北京前瞻人工智能安全与治理研究院(Beijing-AISI)两位代表参加新加坡人工智能大会,受邀在论坛环节发言,并与剑桥大学联合组织专题研讨

前瞻研究院第一届理事会第一次会议

以“北京人工智能安全与治理实验室”的组织形式通过半年多的筹建与运行,经北京市民政局批复,北京市经信局作为主管单位,北京前瞻人工智能安全与治理研究院正式成立,考虑机构和成果的延续性,英文名称沿用实验室时期的Beijing Institute of AI Safety and Governance (简称Beijing-AISI)。

作为新型研发机构和促进应用与产业发展的前瞻研究院以前瞻思想为引领,服务于人工智能产业发展和安全治理的近期与长远需求,通过开展人工智能安全与治理相关前沿基础理论研究、关键技术研发、标准规范制定、平台工具构建与服务,有效监测和防范人工智能的技术和社会风险,为企业、社会和政府提供人工智能安全护栏与安全人工智能模型与服务。前瞻研究院将发挥科研机构与智库平台的双重作用,产出人工智能安全与治理相关的前瞻引领科学思想、制度与政策建议,并以科学与技术进展进行落地赋能与实践,以安全与治理促进人工智能的可持续发展。

无论是筹建期的“北京人工智能安全与治理实验室”还是正式成立的“北京前瞻人工智能安全与治理研究院”,为何我们并没有像国外的机构一样只是强调了安全?简言之,安全是护栏、必要时候的刹车,而治理不仅是风险防范,更是方向盘,引导人工智能应当向什么方向发展,不应当进行何种误用、滥用甚至是恶用。安全与治理的联合体系,不仅需要前沿科研机构的引领,也需要产业、教育机构、政府、政府间组织、媒体、公众的共同参与和构筑。北京前瞻人工智能安全与治理研究院形成了以前瞻性愿景和战略性思维引领为根脉与源泉,以安全、伦理与治理为支柱,为人类构筑人工智能赋能的和谐共生与可持续发展的未来。

北京前瞻人工智能安全与治理研究院既是在各级政府机构支持下成立的新型研发机构,更是人工智能安全与治理科技与社会力量汇聚的平台。前瞻研究院发源并落地于中关村门头沟园京西智谷,汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大学等科研团队力量开展深度合作,并联合中科闻歌、昇腾创新、瑞莱智慧、芯盾时代、智慧云测等人工智能与安全企业共同开展人工智能安全研究与治理实践,积极构筑全球化交流平台,建立健全覆盖技术研发、风险评估、伦理审查、应急处置的全链条安全治理体系。希望与更多的机构、企业、地方与各个国家形成深度合作,前瞻院必将为北京、为国家的人工智能安全与治理体系贡献中坚力量,为全球人工智能安全与治理的协作与合作贡献中国声音,以安全与治理引领人工智能的稳健发展,为全人类与我们共同的未来。

研究院网址:http://beijing-aisi.ac.cn/

联系方式:contact@beijing-aisi.ac.cn

相关内容

热门资讯

浩利丰取得一体式紫铜消音器专利... 金融界2025年7月11日消息,国家知识产权局信息显示,武汉浩利丰机械有限公司取得一项名为“一种一体...
人保再保发布行业首个《新能源汽... 2025年6月,在人保再保险股份有限公司第五届“技术引领,共创未来”技术论坛上,公司正式发布了行业首...
SpaceX第七次载人飞行Cr... 2025-07-11 09:20:55 作者:狼叫兽 NASA 与 SpaceX 近日正式宣布,...
我科研团队首次实现小鼠全身神经... 来源:科技日报 科技日报记者 吴长锋 记者10日从中国科学技术大学获悉,该校毕国强教授、刘北明教授联...
从“实验室”走向“生产线” 全... 封面新闻记者 伍雪梅(主办方供图) 7月10日,“长江首城宜创汇”协同创新大赛人工智能专项赛总决赛在...
正海磁材:人形机器人等领域有望... 今年以来,随着机器人行业的快速发展,作为上游原材料的稀土永磁行业也备受市场关注。 日前,正海磁材(3...
原创 百... 2024年,我选定一个题材,用100台国产老相机拍摄100个胶卷。然后把相机送给有缘人(也就是进入我...
淄博:三大赛道支撑装备制造业突... 回首过往,淄博制造的金字招牌熠熠生辉,在深厚工业底蕴的滋养下,淄博装备制造业这个已有百年底蕴的产业,...
航宇科技获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示航宇科技(688239)新获得一项实用新型专利授权,专利名为“...
真相来了|网传太阳能板释放有害... 央视网消息:国家统计局数据显示,2024年,我国太阳能电池产量达6.8亿千瓦,同比增长15.7%。日...
消息称黄仁勋下周到访中国:特供... 来源:快科技 快科技7月11日消息,H20被禁止向中国厂商禁售后,黄仁勋可能是最着急的人,不过现在看...
叮当健康智能售药机进驻中央民族... “这个24小时售药机真是太方便了“,中央民族大学(丰台分校)一名正在自助购药的学生表示。 日前,在北...
西樵做小程序的公司 在当今数字化快速发展的背景下,小程序作为一种轻量级的应用工具,已成为许多企业和个人实现业务拓展、提升...
123 光年外的天枢星,人类未... 朋友们,咱今儿聊聊北斗七星里的天枢星。这星星可有些年头了,大概 2.8 亿年前就诞生啦,离咱们地球约...
全球最快!中国科大首次实现 记者7月10日从中国科学技术大学获悉,该校教授毕国强、刘北明联合合肥综合性国家科学中心人工智能研究院...
检索增强生成(RAG)为何在今... 在 人工智能领域,有一种名为检索增强生成(RAG)的方法正在成为帮助模型获得精准结果的关键途径。 ...
韩媒感叹:全球百大顶尖人工智能... 【CNMO科技消息】近日,韩媒援引最新研究表示,全球前100名顶尖人工智能(AI)科学家中,半数为中...
智创未来|我校与网易互娱SON... 7月9日上午,网易互娱音频总监吴盛强一行赴我校调研交流,我校党委副书记、院长陶陌出席座谈会。 陶陌...
“空中的士”要来了!温州苍南“... 7月9日,“峰飞航空科技(苍南)展示体验中心” 正式启用,标志着温州市苍南县在打造浙南低空经济产业基...
世运电路获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示世运电路(603920)新获得一项实用新型专利授权,专利名为“...