英国政府：不能简单关闭AI，上院议员急了，要立法设紧急开关？

英国政府拒绝了设立所谓人工智能“紧急关闭机制”的提议。该机制旨在防范失控人工智能可能发动攻击的风险。英国内阁办公室12日表示，反对设立一项新的“最后手段权力”，允许政府在紧急情况下关闭自主运行的人工智能模型。内阁办公室称，英国“不能简单地关闭人工智能”。

近几周，英国议会上院议员呼吁设置这类保障措施。随着外界对技术风险的担忧加剧，一些研究人员警告，人工智能可能在未来10年内导致人类灭绝。本月早些时候，自由民主党上院议员克莱门特-琼斯勋爵向《网络安全与韧性法案》提交修正案，建议建立法律机制，以便政府在人工智能模型发生故障时介入。

他表示，这将使政府能够在“缺乏明确法定权力要求紧急关闭”的情况下，启用“必要的紧急关闭机制”。英国政府发言人12日发表声明称：“英国不能简单地关闭人工智能，限制英国境内对模型的访问，也无法阻止这些模型在其他地方被开发或滥用。”

声明说：“企业有明确责任确保产品开发安全，并投资建设这项技术所需的安全基础设施。”“我们将继续采取长期、以科学为依据的方式，了解并准备应对人工智能带来的新兴风险，包括依托世界领先的人工智能安全研究所开展相关工作。”

声明还指出，《网络安全与韧性法案》将提升英国的网络防御能力，并改善民众所依赖的关键公共服务和数字服务的网络安全水平，其中包括数据中心。政府官员表示，正在研究是否需要采取更多有针对性的干预措施，以应对与这项技术相关的最重大风险，但任何措施都必须保持适度。

本周早些时候，英国首相伯纳姆承认，人工智能可能带来“国家安全风险”。此前，安思罗匹克公司的一名顶级安全研究人员称，他认为人工智能可能在未来10年内“杀死所有人类”。伯纳姆已提升人工智能安全事务大臣卡尼什卡·纳拉扬的地位，让其进入内阁。他表示，此举“提高了政府内部围绕人工智能开展讨论的层级”。

安思罗匹克公司的一名顶级安全研究人员埃文·休宾格在社交平台X上发文，表达了对人工智能进一步发展的担忧。他写道：“我们确实真诚地相信，人工智能可能杀死所有人类！我个人认为，这在未来10年内发生的概率超过10%。”

“我相信安思罗匹克正在尽最大努力，但我们尚未找到解决超级智能对齐问题的方案，也没有明显走在解决这一问题的正确轨道上。”休宾格的帖文是对该公司另一名研究人员雅各布·考克森言论的回应。考克森在辞去公司职务时警告，多家公司正竞相开发能够自我改进的超级智能，这是一场“拿我们的生命冒险的赌博”。

考克森宣布离职时表示，安思罗匹克及其主要竞争对手开放人工智能公司没有“负责任地行事”，而人工智能实验室之外的人低估了这项技术的能力。此前，英国《金融时报》报道称，美国科技巨头安思罗匹克没有向英国人工智能安全研究所提供其最新模型。该研究所是全球领先的人工智能风险测试机构之一。报道称，克劳德·迈索斯5.1仅向经过审查的美国机构开放。安思罗匹克和开放人工智能公司尚未就此置评。

作者：妮娜·劳埃德