第五届网络空间内生安全学术大会-人工智能安全论坛顺利举行

2025年11月27日，由紫金山实验室主办，浙江大学区块链与数据安全全国重点实验室、南京信息工程大学计算机学院及网络空间安全学院承办的第五届网络空间内生安全学术大会-人工智能安全论坛顺利举行。来自高校、科研机构与产业界的专家学者齐聚一堂，围绕人工智能安全的前沿挑战与关键技术展开深入交流，旨在凝聚共识、推动合作，为人工智能技术的安全可信和可持续发展提供坚实支撑。

本次论坛邀请东南大学凌振教授、复旦大学陈智能教授、上海交通大学王烁教授、上海人工智能实验室青年科学家陆超超研究员、浙江大学郑天航研究员、安恒信息首席技术官刘博博士作主题报告，分享各自在人工智能安全领域的最新研究成果与实践经验。论坛由浙江大学王志波教授和南京信息工程大学付章杰教授主持。

东南大学凌振教授以“大模型驱动的物联网未知威胁识别”为题，指出随着无云架构物联网设备广泛部署，设备摆脱云服务直接暴露于互联网所带来的安全风险日益突出。他介绍了团队研发的TORCHLIGHT系统，基于大语言模型的思维链推理识别物联网流量，并实现无云IoT设备的未知攻击检测，该系统在实际运行中展现出强大的漏洞发现能力。

复旦大学陈智能教授聚焦“高效场景文字识别技术及应用”，系统梳理了当前文字识别的主要技术路径，并分享了其团队在提升识别效率与精度方面的研究成果，展现了相关技术在互联网内容监管和复杂文档解析等高负载应用场景中的落地价值。

上海交通大学王烁教授围绕“解释多维度的大模型安全评测”展开论述。他指出，传统静态、单维的安全评估方法已难以应对大模型在开放环境中的复杂风险。为此，其团队构建了一个覆盖安全性、鲁棒性、可信性与可解释性的多维度评测体系，并融合自动化红队测试、多模型协同攻防、LLM-as-a-Judge机制等先进技术，打造可复现、可扩展的开放评测平台，为模型提供闭环治理能力。

上海人工智能实验室青年科学家陆超超在题为“迈向安全可信通用人工智能-挑战、探索与未来”的报告中，系统剖析了当前大模型在解释性、涌现机理、幻觉生成、自我反思机制等方面存在的安全短板。他提出应在“能力—安全”协同演进的框架下，推动人工智能实现可持续、可验证、可依赖的安全发展，并对未来技术路径进行了前瞻性展望。

浙江大学郑天航研究员以“大模型黑盒越狱优化”为题，表示当前越狱攻击呈现策略动态化、目标多元化、效率极致化的新特征，他系统剖析了团队在黑盒越狱优化方向的最新进展，包括MAJIC高效黑盒越狱框架和DualBreach双重越狱优化方案，为深入理解大模型安全边界、推动更可靠防护机制的构建提供了重要技术参考。

安恒信息首席技术官刘博以“让智能更安全：大模型安全的思考与实践”为题，从产业视角出发，阐述了当前大模型在数据、内容、算法和运行层面面临的安全挑战。他介绍了安恒信息构建的“内容安全+运行安全+数据安全+算法安全”四位一体安全治理体系，为政企客户构建全场景安全防护，助力大模型在安全合规轨道上稳健发展。

在论文交流环节，主办方从前期征集的百余篇学生投稿中严格遴选9篇优秀成果进行现场汇报。报告内容涵盖大模型安全、对抗攻击、隐私保护、可信推理等多个前沿方向，与会师生积极提问、深入探讨，展现了新生代科研力量的蓬勃活力与对关键安全问题的敏锐洞察。该环节由浙江大学倪王泽与郑天航研究员共同主持。

本次论坛搭建了一个跨学科、跨行业的深度对话平台，通过理论与实践的交融、学术与产业的联动，有力促进了人工智能安全理念的共识凝聚与技术生态的协同发展。