纽约市议会强推 AI 监管法案，10 亿人死亡风险引担忧

纽约市议会召开了一场针对 AI 技术的听证会，全美最大城市的议会发言人朱莉・梅宁的发言引发广泛关注。

AI 的风险已经到了关乎人类存亡的地步，和以往的新技术不同，AI 的潜在后果不仅巨大，更是直接威胁人类存续。

以往的新技术比如互联网、智能手机，虽然也带来过不少争议，但都不会直接威胁到人类的整体存续。

而这次的 AI，不少业内人士都发出了预警。

比尔盖茨曾公开警告，AI 可能导致 10 亿人死亡，还直言 AI 企业自我监管完全不负责任。

Anthropic 公司的 CEO 达里奥・阿莫代伊也明确表示，AI 对人类存在风险。

该公司前研究员雅各布・考克森甚至提出，到 2030 年人类可能被 AI 消灭。

为啥要对 AI 强监管？因为 AI 企业自己管自己根本行不通。

AI 企业自己不会让航空公司自我监管，不然要 FAA 干嘛；不会放任金融公司自己管，有 SEC 全程盯着；也不会让药企自己说了算，FDA 的存在就是为了规范行业。

如果航空公司出现事故，会有独立机构调查，而不是航空公司自己说没问题；金融公司违规，有 SEC 罚款追责；药企的新药必须经过 FDA 验证安全才能上市。

凭啥 AI 就能例外？监管和发展经济从来不是对立的，而是相辅相成的。

如果因为怕影响创新就放弃监管，一旦出现大规模的 AI 失控事件，反而会让整个行业陷入信任危机，得不偿失。

就像航空、金融、医药行业一样，监管是为了让行业更健康地发展，而不是阻碍进步。

这次纽约市议会的动作非常强硬：要求五家头部 AI 企业出庭作证，还对 SpaceX II 发出了传票，但对方拒绝到场，市议会已经启动法律程序追责。

这也是全球首个要求 AI 企业在宣誓下作证的立法行动，市议会明确表示，不配合传票就必须承担法律后果。

更关键的是，他们要推出两项全美首个法案：一项要求无利益冲突的第三方机构对 AI 模型做安全验证，确保 AI 的开发过程符合安全标准，避免企业既当运动员又当裁判员；另一项则是举报人奖励法案，如果企业被处以罚款，举报人可获得一定比例的分成，鼓励更多内部人士站出来揭发 AI 研发中的安全隐患。

朱莉・梅宁还提到，中国也在加速 AI 研发，全球都在抢赛道，但这不能成为放松监管的借口。作为全美最大城市，纽约要先把监管的护栏立起来，倒逼联邦政府和其他地区跟进。

现在每天都可能出现新的 AI 风险，再等下去只会越来越被动。

这场听证会不是要扼杀 AI 创新，而是要给飞速发展的 AI 套上安全绳。毕竟，没人能承受得起 AI 失控的代价。