【文/ 观察者网专栏作者 曾毅】

人工智能的发展给全社会带来前所未有的机遇与变革。我们在经历、体验与感受的同时，对于人类、智能与智慧进行着更深刻的反思，这种经历、体验和反思已不可避免地需面对人工智能带来的潜在风险与挑战。

从学术界76年前人工智能尚未诞生时Edmond Berkeley关于“社会控制：倘若机器真的变得智能”的思考，到65年前控制论的奠基者Norbert Wiener关于“自动化的技术与道德后果”的远见，再到当代人工智能技术在工作和生活中已经给我们带来的隐私侵犯、虚假信息、人工智能幻觉、偏见歧视、自主系统风险等，人工智能安全与治理的问题已与人工智能赋能的社会中每一个人息息相关。社会无法接受缺乏方向盘和缰绳的人工智能无序野蛮狂奔，安全、伦理与治理将促进人工智能的稳健发展。

正是在这样的背景下，美、英、日、韩、法、加、新等全球十数个国家分别成立了人工智能安全有关的研究院所与中心，以及诸多人工智能安全相关社会组织。作为中国这样负责任的创新大国中人工智能科技领先的城市之一，北京不仅要有所作为，在人工智能安全领域发挥头雁作用，更要在国际合作中团结国内兄弟单位担当中坚力量。

作为正式成立研究院前的筹建工作，2024年9月“北京人工智能安全与治理实验室”在北京市经信局、北京市网信办等多个市局，和实验室落地所在的门头沟区政府与中关村门头沟园、京西智谷的见证与大力支持下应运而生，并在来自中国科学院自动化研究所、北京大学、清华大学、中国信息通信研究院相关学者和机构以及相关企业的支持下扬帆起航。

2025年3月，“北京人工智能安全与治理协同创新矩阵”在中关村论坛正式发布，人工智能安全与超级对齐北京市重点实验室作为“创新矩阵”成员，与人工智能安全与标准北京市重点实验室等6家北京市重点实验室在北京市科委的指导下共同推进北京人工智能安全与治理前沿研究的协同创新。北京市在人工智能安全与治理方面各有侧重的实验室与研究机构如雨后春笋般涌现与蓬勃发展。

2024年9月，作为前瞻研究院前身的北京人工智能安全与治理实验室成立揭牌

北京人工智能安全与治理实验室在半年多的发展与建设期间与合作机构共同发布了多项研究成果：在技术安全与治理方面，发表了涉及生成式人工智能大模型面对不同程度压力的行为表现与机理研究、人工智能大模型的安全护栏研究等，相关研究成果发表在AAAI 2025、ICLR 2025等人工智能顶级国际会议；在全球人工智能安全与治理评估与合作方面，联合发布全球人工智能安全指数(Global Index for AI Safety)，作为主要撰写机构之一参与编写和发布世界互联网大会人工智能专委会首份报告《以普惠包容的人工智能治理赋能全球可持续发展(Governing AI for Good and for All—Empowering Global Sustainable Development)》。

Beijing-AISI参与编写和发布《全球人工智能安全指数》报告、以及世界互联网大会人工智能专委会首份报告《以普惠包容的人工智能治理赋能全球可持续发展》

作为来自中国的机构，从筹建期的北京人工智能安全与治理实验室到正式成立的北京前瞻人工智能安全与治理研究院，在全球人工智能安全与治理议题上发挥了独特的作用。实验室在巴黎人工智能行动峰会期间作为机构代表受邀赴巴黎参加由阿联酋穆罕默德・本・拉希德政府学院和生命未来研究所主办的“AI Safety Connect 2025”，以及由法国亚洲学会与亚洲人工智能安全举办的“From Oil to Water: Governing AI as a Global Public Good”等会议，近期，前瞻研究院受邀在新加坡人工智能大会(SCAI 2025)介绍研究成果并组织专题研讨，有关超级对齐的研究成果被大会成果文件《新加坡人工智能安全研究优先事项共识(The Singapore Consensus on Global AI Safety Research Priorities)》正面引用，在人工智能安全与治理的国际合作与交流中做出了有特色的贡献。

巴黎人工智能行动峰会期间“AI Safety Connect 2025”人工智能安全研究机构圆桌研讨Beijing-AISI作为来自中国的人工智能安全机构受邀参加

巴黎人工智能行动峰会期间由法国亚洲学会与亚洲人工智能安全举办的“From Oil to Water: Governing AI as a Global Public Good”研讨会，Beijing-AISI作为来自中国的人工智能安全机构受邀参加

北京前瞻人工智能安全与治理研究院(Beijing-AISI)两位代表参加新加坡人工智能大会，受邀在论坛环节发言，并与剑桥大学联合组织专题研讨

前瞻研究院第一届理事会第一次会议

以“北京人工智能安全与治理实验室”的组织形式通过半年多的筹建与运行，经北京市民政局批复，北京市经信局作为主管单位，北京前瞻人工智能安全与治理研究院正式成立，考虑机构和成果的延续性，英文名称沿用实验室时期的Beijing Institute of AI Safety and Governance (简称Beijing-AISI)。

作为新型研发机构和促进应用与产业发展的前瞻研究院以前瞻思想为引领，服务于人工智能产业发展和安全治理的近期与长远需求，通过开展人工智能安全与治理相关前沿基础理论研究、关键技术研发、标准规范制定、平台工具构建与服务，有效监测和防范人工智能的技术和社会风险，为企业、社会和政府提供人工智能安全护栏与安全人工智能模型与服务。前瞻研究院将发挥科研机构与智库平台的双重作用，产出人工智能安全与治理相关的前瞻引领科学思想、制度与政策建议，并以科学与技术进展进行落地赋能与实践，以安全与治理促进人工智能的可持续发展。

无论是筹建期的“北京人工智能安全与治理实验室”还是正式成立的“北京前瞻人工智能安全与治理研究院”，为何我们并没有像国外的机构一样只是强调了安全？简言之，安全是护栏、必要时候的刹车，而治理不仅是风险防范，更是方向盘，引导人工智能应当向什么方向发展，不应当进行何种误用、滥用甚至是恶用。安全与治理的联合体系，不仅需要前沿科研机构的引领，也需要产业、教育机构、政府、政府间组织、媒体、公众的共同参与和构筑。北京前瞻人工智能安全与治理研究院形成了以前瞻性愿景和战略性思维引领为根脉与源泉，以安全、伦理与治理为支柱，为人类构筑人工智能赋能的和谐共生与可持续发展的未来。

北京前瞻人工智能安全与治理研究院既是在各级政府机构支持下成立的新型研发机构，更是人工智能安全与治理科技与社会力量汇聚的平台。前瞻研究院发源并落地于中关村门头沟园京西智谷，汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大学等科研团队力量开展深度合作，并联合中科闻歌、昇腾创新、瑞莱智慧、芯盾时代、智慧云测等人工智能与安全企业共同开展人工智能安全研究与治理实践，积极构筑全球化交流平台，建立健全覆盖技术研发、风险评估、伦理审查、应急处置的全链条安全治理体系。希望与更多的机构、企业、地方与各个国家形成深度合作，前瞻院必将为北京、为国家的人工智能安全与治理体系贡献中坚力量，为全球人工智能安全与治理的协作与合作贡献中国声音，以安全与治理引领人工智能的稳健发展，为全人类与我们共同的未来。

研究院网址：http://beijing-aisi.ac.cn/

联系方式：contact@beijing-aisi.ac.cn