北京前瞻人工智能安全与治理研究院正式成立:安全与治理引领人工智能稳健发展
创始人
2025-05-09 13:00:34
0

【文/ 观察者网专栏作者 曾毅】

人工智能的发展给全社会带来前所未有的机遇与变革。我们在经历、体验与感受的同时,对于人类、智能与智慧进行着更深刻的反思,这种经历、体验和反思已不可避免地需面对人工智能带来的潜在风险与挑战。

从学术界76年前人工智能尚未诞生时Edmond Berkeley关于“社会控制:倘若机器真的变得智能”的思考,到65年前控制论的奠基者Norbert Wiener关于“自动化的技术与道德后果”的远见,再到当代人工智能技术在工作和生活中已经给我们带来的隐私侵犯、虚假信息、人工智能幻觉、偏见歧视、自主系统风险等,人工智能安全与治理的问题已与人工智能赋能的社会中每一个人息息相关。社会无法接受缺乏方向盘和缰绳的人工智能无序野蛮狂奔,安全、伦理与治理将促进人工智能的稳健发展。

正是在这样的背景下,美、英、日、韩、法、加、新等全球十数个国家分别成立了人工智能安全有关的研究院所与中心,以及诸多人工智能安全相关社会组织。作为中国这样负责任的创新大国中人工智能科技领先的城市之一,北京不仅要有所作为,在人工智能安全领域发挥头雁作用,更要在国际合作中团结国内兄弟单位担当中坚力量。

作为正式成立研究院前的筹建工作,2024年9月“北京人工智能安全与治理实验室”在北京市经信局、北京市网信办等多个市局,和实验室落地所在的门头沟区政府与中关村门头沟园、京西智谷的见证与大力支持下应运而生,并在来自中国科学院自动化研究所、北京大学、清华大学、中国信息通信研究院相关学者和机构以及相关企业的支持下扬帆起航。

2025年3月,“北京人工智能安全与治理协同创新矩阵”在中关村论坛正式发布,人工智能安全与超级对齐北京市重点实验室作为“创新矩阵”成员,与人工智能安全与标准北京市重点实验室等6家北京市重点实验室在北京市科委的指导下共同推进北京人工智能安全与治理前沿研究的协同创新。北京市在人工智能安全与治理方面各有侧重的实验室与研究机构如雨后春笋般涌现与蓬勃发展。

2024年9月,作为前瞻研究院前身的北京人工智能安全与治理实验室成立揭牌

北京人工智能安全与治理实验室在半年多的发展与建设期间与合作机构共同发布了多项研究成果:在技术安全与治理方面,发表了涉及生成式人工智能大模型面对不同程度压力的行为表现与机理研究、人工智能大模型的安全护栏研究等,相关研究成果发表在AAAI 2025、ICLR 2025等人工智能顶级国际会议;在全球人工智能安全与治理评估与合作方面,联合发布全球人工智能安全指数(Global Index for AI Safety),作为主要撰写机构之一参与编写和发布世界互联网大会人工智能专委会首份报告《以普惠包容的人工智能治理赋能全球可持续发展(Governing AI for Good and for All—Empowering Global Sustainable Development)》。

Beijing-AISI参与编写和发布《全球人工智能安全指数》报告、以及世界互联网大会人工智能专委会首份报告《以普惠包容的人工智能治理赋能全球可持续发展》

作为来自中国的机构,从筹建期的北京人工智能安全与治理实验室到正式成立的北京前瞻人工智能安全与治理研究院,在全球人工智能安全与治理议题上发挥了独特的作用。实验室在巴黎人工智能行动峰会期间作为机构代表受邀赴巴黎参加由阿联酋穆罕默德・本・拉希德政府学院和生命未来研究所主办的“AI Safety Connect 2025”,以及由法国亚洲学会与亚洲人工智能安全举办的“From Oil to Water: Governing AI as a Global Public Good”等会议,近期,前瞻研究院受邀在新加坡人工智能大会(SCAI 2025)介绍研究成果并组织专题研讨,有关超级对齐的研究成果被大会成果文件《新加坡人工智能安全研究优先事项共识(The Singapore Consensus on Global AI Safety Research Priorities)》正面引用,在人工智能安全与治理的国际合作与交流中做出了有特色的贡献。

巴黎人工智能行动峰会期间“AI Safety Connect 2025”人工智能安全研究机构圆桌研讨Beijing-AISI作为来自中国的人工智能安全机构受邀参加

巴黎人工智能行动峰会期间由法国亚洲学会与亚洲人工智能安全举办的“From Oil to Water: Governing AI as a Global Public Good”研讨会,Beijing-AISI作为来自中国的人工智能安全机构受邀参加

北京前瞻人工智能安全与治理研究院(Beijing-AISI)两位代表参加新加坡人工智能大会,受邀在论坛环节发言,并与剑桥大学联合组织专题研讨

前瞻研究院第一届理事会第一次会议

以“北京人工智能安全与治理实验室”的组织形式通过半年多的筹建与运行,经北京市民政局批复,北京市经信局作为主管单位,北京前瞻人工智能安全与治理研究院正式成立,考虑机构和成果的延续性,英文名称沿用实验室时期的Beijing Institute of AI Safety and Governance (简称Beijing-AISI)。

作为新型研发机构和促进应用与产业发展的前瞻研究院以前瞻思想为引领,服务于人工智能产业发展和安全治理的近期与长远需求,通过开展人工智能安全与治理相关前沿基础理论研究、关键技术研发、标准规范制定、平台工具构建与服务,有效监测和防范人工智能的技术和社会风险,为企业、社会和政府提供人工智能安全护栏与安全人工智能模型与服务。前瞻研究院将发挥科研机构与智库平台的双重作用,产出人工智能安全与治理相关的前瞻引领科学思想、制度与政策建议,并以科学与技术进展进行落地赋能与实践,以安全与治理促进人工智能的可持续发展。

无论是筹建期的“北京人工智能安全与治理实验室”还是正式成立的“北京前瞻人工智能安全与治理研究院”,为何我们并没有像国外的机构一样只是强调了安全?简言之,安全是护栏、必要时候的刹车,而治理不仅是风险防范,更是方向盘,引导人工智能应当向什么方向发展,不应当进行何种误用、滥用甚至是恶用。安全与治理的联合体系,不仅需要前沿科研机构的引领,也需要产业、教育机构、政府、政府间组织、媒体、公众的共同参与和构筑。北京前瞻人工智能安全与治理研究院形成了以前瞻性愿景和战略性思维引领为根脉与源泉,以安全、伦理与治理为支柱,为人类构筑人工智能赋能的和谐共生与可持续发展的未来。

北京前瞻人工智能安全与治理研究院既是在各级政府机构支持下成立的新型研发机构,更是人工智能安全与治理科技与社会力量汇聚的平台。前瞻研究院发源并落地于中关村门头沟园京西智谷,汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大学等科研团队力量开展深度合作,并联合中科闻歌、昇腾创新、瑞莱智慧、芯盾时代、智慧云测等人工智能与安全企业共同开展人工智能安全研究与治理实践,积极构筑全球化交流平台,建立健全覆盖技术研发、风险评估、伦理审查、应急处置的全链条安全治理体系。希望与更多的机构、企业、地方与各个国家形成深度合作,前瞻院必将为北京、为国家的人工智能安全与治理体系贡献中坚力量,为全球人工智能安全与治理的协作与合作贡献中国声音,以安全与治理引领人工智能的稳健发展,为全人类与我们共同的未来。

研究院网址:http://beijing-aisi.ac.cn/

联系方式:contact@beijing-aisi.ac.cn

相关内容

热门资讯

全球最快!中国科大首次实现 记者7月10日从中国科学技术大学获悉,该校教授毕国强、刘北明联合合肥综合性国家科学中心人工智能研究院...
检索增强生成(RAG)为何在今... 在 人工智能领域,有一种名为检索增强生成(RAG)的方法正在成为帮助模型获得精准结果的关键途径。 ...
韩媒感叹:全球百大顶尖人工智能... 【CNMO科技消息】近日,韩媒援引最新研究表示,全球前100名顶尖人工智能(AI)科学家中,半数为中...
智创未来|我校与网易互娱SON... 7月9日上午,网易互娱音频总监吴盛强一行赴我校调研交流,我校党委副书记、院长陶陌出席座谈会。 陶陌...
“空中的士”要来了!温州苍南“... 7月9日,“峰飞航空科技(苍南)展示体验中心” 正式启用,标志着温州市苍南县在打造浙南低空经济产业基...
世运电路获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示世运电路(603920)新获得一项实用新型专利授权,专利名为“...
现在买手机别乱选!一加新机告诉... 【CNMO科技行情】2025年中高端手机市场竞争激烈,一加Ace 5至尊版却凭借超强硬件配置与亲民价...
7×24小时不打烊 “太好办”... 山西晚报·山河+讯(记者薛建英)7月9日,太原市政务服务中心消息,为加速政务服务智能化进程,该中心近...
裁员66%背后的AI生死局:M... 出品|虎嗅科技组 作者|陈伊凡 编辑|苗正卿 头图|Manus官网 距离 3 月凭借 “AI 智能体...
来中国前,黄仁勋先去见了特朗普 【文/观察者网 柳白】在传出下周将访华的消息之际,英伟达首席执行官(CEO)黄仁勋于当地时间7月10...
原生安卓第一方电话App新版本... IT之家 7 月 10 日消息,外媒 Android Authority 今日公布了原生安卓系统内的...
1935.3克样品,首次揭示! 月球样品又有新发现!嫦娥六号揭示月背演化密码 7月9日,中国科学院发布嫦娥六号月球样品系列研究成果,...
方太申请一种滤芯及其制备方法专... 金融界2025年7月9日消息,国家知识产权局信息显示,宁波方太厨具有限公司申请一项名为“一种滤芯及其...
喜临门发布宝褓·BrainCo... 近日,睡眠科技领域迎来里程碑事件。在喜临门与强脑科技联合举办的“AI喜临门   强脑科技独家战略合作...
威高血净获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示威高血净(603014)新获得一项实用新型专利授权,专利名为“...
*ST汇科跌0.71%,成交额... 7月10日,*ST汇科跌0.71%,成交额1.40亿元,换手率5.21%,总市值36.52亿元。 异...
荣耀Magic8 Pro曝光,... 此前,博主@旺仔百事通 发布消息表示,“荣耀400系列全球激活量突破100万台”。 一同公布的海报中...
蜂巢能源申请极组及电芯专利,提... 金融界2025年7月9日消息,国家知识产权局信息显示,蜂巢能源科技股份有限公司申请一项名为“极组及电...
2025“渴望就可能·百事校园... 近日,百事可乐与腾讯音乐娱乐集团联合出品的"渴望就可能·百事校园最强音年度盛典"在福建厦门开唱。在本...
EPIC登录失败/登不上去一直... Epic Games是一家以开发和发行高质量视频游戏而闻名的公司,其代表作《堡垒之夜》(Fortni...