联合国吵翻了，秘书长警告机器人是杀手，特朗普：该叫超级智能

是“杀手机器人”还是“超级智能”？联合国领导人对人工智能未来看法迥异，在联合国的会议上，各国领导人对人工智能的未来描绘出截然不同的图景：有人担忧“杀手机器人”，而另一些人则畅想“超级智能”。这种科幻般的未来想象在联合国的讨论中激烈展开，各国领导人争论人工智能究竟是威胁还是机遇。

在这个关乎科学与未来的紧迫议题上，唐纳德·特朗普再次与联合国秘书长及其他领导人意见相左，这种情形与围绕气候变化威胁的持续争论相似。联合国秘书长古特雷斯引用了一份新的科学报告。报告警告，尽管人工智能造成灾难性且不可逆转伤害的可能性较小，但这种风险真实存在。古特雷斯在联合国大会上率先发表讲话，呼吁加强对人工智能的监管，他用鲜明且带有警示意味的措辞说明潜在问题。

在向各国领导人发表的告别演说中，古特雷斯表示：“我们必须共同决定，绝不能让机器来做关乎生死的决定。杀手机器人不应出现在我们的未来。”十年前，他首次在联合国大会发言时也曾警告过人工智能的风险。

古特雷斯强调，世界需要“创造条件，以负责任的方式掌控人工智能的发展速度，并采取更多保障措施来应对风险”。联合国安全理事会将于周三讨论如何对这项技术施加某种形式的管控，人工智能领域的一些重量级人物将出席会议。

特朗普称应叫“超级智能”，而非“人工智能”不到一小时后，特朗普明确表达了不同的立场。他说：“美国完全拒绝任何试图构建全球主义方案、控制如今被广泛讨论的人工智能的做法。从现在起，我们正式把它称作‘超级智能’，改个名字。”

在特朗普之后发言的各国领导人仍使用“人工智能”一词，而非“超级智能”。特朗普表示：“每一项重大新技术都会带来挑战，超级智能也不例外。但那些曾说全球变暖会让我们在12年内全部死亡的人——这个名称后来因地球在变冷而不是变暖，改成了气候变化，而且没有人死亡——如今又是这些人在说，人工智能会杀死我们，机器人会攻击我们，一切都会成为彻底的灾难。”

特朗普提到的是联合国2018年发布的一份报告。该报告指出，全球升温若长期突破较工业化前水平高1.5摄氏度这一国际商定阈值，将带来风险；当时距离这一临界点约有12年。目前的研究显示，这一阈值将在未来数年内被突破。那份报告及其他科学文件并未称所有人都会死亡，而是指出极端天气将变得更加危险，减少污染可在未来82年避免1亿人过早死亡。

美国国家海洋和大气管理局的数据显示，过去12年里，全球并未降温，而是升温了0.8华氏度，即0.45摄氏度。多国主张放缓发展节奏并加强合作芝加哥大学计算机科学系主任亨利·霍夫曼认为，特朗普和古特雷斯都将问题简化为无益的对立。

霍夫曼在一封电子邮件中指出：“一方把它变成科幻电影，另一方则把它当成无关紧要的问题。两者都会让人们选边站队，而不是认真面对现实风险及可能的缓解措施。对于是否需要充分管控强大的自主系统，不应该存在‘阵营’之分。真正值得讨论的是，哪些机制能真正提供这种管控。”

其他国家则希望确保自己不会在美国和另一大国之间的人工智能竞赛中掉队。特朗普称，美国正在赢得这场竞赛。法国总统埃马纽埃尔·马克龙和古特雷斯也都将重点放在保护儿童上。马克龙表示：“不要等到人工智能的后果如雨点般落下。我们必须现在就行动，保护我们的儿童和年轻人。”

芬兰总统亚历山大·斯图布与其他领导人一样，认为人工智能将改变世界，可能带来积极影响，但需要强有力的管控。斯图布说：“人工智能是人类历史上影响最深远的技术。它将影响科学、经济、政治、安全，以及我们人性的本质。人类能够也应当掌握方向盘。我们有选择：竞争、合作，或放慢脚步。对我而言，合作是最好的前进方式。”

英国首相安迪·伯纳姆在联合国大会期间举行的一场商界领袖会议上表示，他希望建立“一套统一的全球原则和标准”，在释放人工智能潜力的同时降低其风险。他说，推动“向善的人工智能”将成为英国明年担任二十国集团轮值主席国期间的主要工作重点。在周一各国领导人发表演讲前，政治风险咨询机构欧亚集团总裁伊恩·布雷默表示，人工智能有望让世界更加清洁，改进技术并改善人们的生活，但也可能令人感到害怕。

布雷默认为，应对人工智能或许会像应对气候变化一样，成为联合国最具意义的职能之一，但联合国的权力有限。周三举行的安理会人工智能会议将有一些人工智能领域的重量级人物参加，其中包括近期就需要设置安全护栏发出警告的人士。开放人工智能公司首席执行官萨姆·奥尔特曼、安思罗皮克公司首席执行官达里奥·阿莫代伊，以及“拥抱脸”公司首席执行官兼联合创始人克莱芒·德朗格将依次出席。“拥抱脸”曾遭一个失控的开放人工智能程序入侵。

作者：埃迪思·M·莱德勒