北京前瞻人工智能安全与治理研究院近日成立。该研究院是一家新型研发机构，将联合相关创新主体，共同开展人工智能安全研究与治理实践，积极构筑全球化交流平台，建立健全覆盖技术研发、风险评估、伦理审查、应急处置的全链条安全治理体系。
“人工智能的发展给全社会带来前所未有的机遇与变革。我们在经历、体验与感受的同时，对于人类、智能与智慧也进行着更深刻的反思。”北京前瞻人工智能安全与治理研究院院长曾毅表示，当下，人工智能技术带来的隐私侵犯、虚假信息、人工智能幻觉、偏见歧视、自主系统风险等隐患，让人工智能安全与治理问题与社会中的每一个人息息相关，“社会无法接受缺乏方向盘和缰绳的人工智能无序野蛮狂奔，安全、伦理与治理将促进人工智能的稳健发展。”
在此视角的基础上，北京人工智能安全与治理实验室、人工智能安全与超级对齐北京市重点实验室、人工智能安全与标准北京市重点实验室等实验室、研究机构，共同推进着北京市人工智能安全与治理前沿研究的协同创新。
其中，作为研究院的前身，北京人工智能安全与治理实验室于2024年9月揭牌。该实验室经过半年多的筹建与运行，近日，经北京市民政局批复，北京市经信局作为主管单位，北京前瞻人工智能安全与治理研究院成立，落户于中关村门头沟园“京西智谷”。曾毅介绍，该研究院将服务于人工智能产业发展和安全治理的近期与长远需求，通过开展人工智能安全与治理相关前沿基础理论研究、关键技术研发、标准规范制定、平台工具构建与服务，有效监测和防范人工智能的技术和社会风险，为企业、社会和政府提供人工智能安全护栏与安全人工智能模型与服务。
来源：北京日报客户端
记者：刘苏雅