北京前瞻人工智能安全与治理研究院发布“前瞻安全基准”

新京报贝壳财经讯（记者罗亦丹）2月28日，北京前瞻人工智能安全与治理研究院（Beijing-AISI）联合人工智能安全与超级对齐北京市重点实验室、中国科学院自动化研究所人工智能伦理与治理研究中心，提出并发布一套全面、多维的人工智能（AI）安全评估基准体系——“前瞻安全基准（ForesightSafety Bench）”。

该基准以AI安全为“第一性原理”指引，以基础安全、拓展安全、产业安全三大类别为支柱，共涵盖7大基础安全风险类别、5大拓展安全支柱以及8大产业安全关键领域，形成了总计94项精细化的风险维度，并已累计形成规模数万条的结构化风险数据与测评结果，全面评估和应对包括智能体安全、具身智能安全、社会智能安全、失控与生存风险等新近安全风险在内的安全隐患。构建了层次化、系统化、覆盖广泛的人工智能安全评估与分析框架。22款代表性大模型安全水平上线，将逐步开放更多模型结果。

前瞻人工智能安全基准发布后引起广泛关注。Anthropic联合创始人、OpenAI前政策负责人Jack Clark（杰克·克拉克）围绕“China’s big AI benchmark（中国的一个重要AI基准）”对前瞻安全基准进行详细分享与点评，他指出“前瞻安全基准展现了东西方在AI安全议题上令人惊讶的共识”。杰克·克拉克还强调了此项研究的重要意义，“AI政策存在一些共通工具：可测量性是大多数AI治理形式的基本前提。尽管地缘政治层面存在分歧，但各国的AI科学家都在面对共同的课题——如何从社会相关层面评估其系统的属性。而更令人鼓舞的是，中国的研究者也在为那些美国前沿实验室同样担忧的生存性风险问题而思考与努力。”

校对 卢茜