新加坡推出全球首个人工智能代理治理框架

2026年1月22日，在新加坡通讯及新闻部兼内政部政务部长陈杰豪的主持下，新加坡资讯通信媒体发展局（IMDA）于世界经济论坛（WEF）发布了全球首个《人工智能代理治理框架》（MGF for Agentic AI）。该框架旨在为负责任地部署具备自主推理与行动能力的人工智能代理（Agentic AI）提供系统指引。

相较于传统及生成式人工智能，人工智能代理能够代表用户推理并执行任务，从而助力企业自动化处理客服、办公等重复性工作，释放人力以从事更高价值活动。然而，其获取敏感数据及自主操作环境（如更新数据库、完成支付）的能力也带来了未经授权操作、错误行动等新型风险，并对人类有效监督与问责提出了更高要求。

为此，新框架从四个维度为组织部署人工智能代理提供具体建议：

• 事前评估与风险控制：选择合适的应用场景，并对代理的自主性、工具及数据访问权限设定限制；
• 确保人类有效问责：设定关键决策节点，要求必须获得人工批准；
• 实施全周期技术管控：包括基线测试、仅允许访问白名单服务等；
• 提升终端用户责任意识：通过透明度提升与教育培训实现。

该框架是新加坡构建可信人工智能生态的又一重要举措。此前，新加坡已推出《人工智能治理框架》、AI Verify测试工具包及大语言模型应用安全测试入门工具包等，并通过东盟人工智能治理工作组及新加坡人工智能安全研究所（AISI）积极推动区域与国际协作。