马库斯：AGI是AI的正确目标吗？AGI究竟是什么？

我相信AGI（通用人工智能）可以改变世界，但同时也认为大语言模型在道德和技术层面都不是通往AGI的正确路径。在今天《纽约时报》的一篇评论文章中，我提出至少在当下，AGI可能不是正确的近期目标：

这篇文章的核心观点借鉴了Waymo和Google DeepMind的积极案例：

大语言模型一直容易出现幻觉和错误。这些障碍可能是生成式AI未能带来科技行业预测的利润和生产力飙升的原因之一。麻省理工学院NANDA计划最近的一项研究发现，95%进行AI试点研究的公司几乎没有获得投资回报。最近的一项财务分析预测，到2030年底，AI公司的预期收入缺口将达到8000亿美元。

如果要真正发挥AI的优势，科技行业应该停止过度关注这些通用工具，转而专注于针对特定问题设计的窄领域专业化AI工具。

现在感觉就像大型科技公司正在把通用AI当作意大利面往墙上扔，希望不会有什么真正糟糕的东西粘住。正如AI先驱Yoshua Bengio最近强调的，推进能够展现更大自主性的通用AI系统不一定符合人类利益。如果实验室将更多资源投入到为科学、医学、技术和教育构建专业工具上，人类将获得更好的服务。

希望你有时间阅读完整的文章。文章简短精炼，触及认知科学中的一些深层思想以及它们在现实世界中的重要性，行文非常易读。

巧合的是，这不是我今天发表的唯一一篇关于AGI的文章。另一篇文章是与AI安全研究员Dan Hendrycks以及包括Yoshua Bengio在内的30多位杰出研究人员合作完成的，我在其中只扮演了很小的角色，我们试图定义AGI。（论文地址：
https://www.agidefinition.ai/）

我们对AGI的定义是："AGI是一种能够匹配或超越受过良好教育的成年人的认知多样性和熟练程度的AI"，这实际上与我几年前在这里提出的定义非常接近（"任何智能……具有灵活性和通用性，其应变能力和可靠性可与人类智能相媲美或超越"），该定义基于与这个术语的创始人Shane Legg和Ben Goertzel的对话。（该术语的另一位创造者Peter Voss后来也签署了支持。）

我不同意这篇新论文的每一个细节（当有30多位作者时这不现实），但我签署支持是因为我强烈支持论文的目标，即更好地阐明拥有人类思维灵活性和通用性意味着什么。

主要的替代方案——用经济标准来定义AGI，比如利润（AGI即1000亿美元利润）或工作岗位替代比例——在我看来根本上是误导的。纯粹以利润定义显然不可取（iPhone为苹果赚取了数千亿美元利润，但这并不使其成为AGI）。但即使是第二种定义也有些转移注意力，将资本和工资的事实与认知混为一谈。从根本上说，试图用经济术语定义AGI会分散人们对构建强大思维意味着什么这一核心认知问题的注意力。

这篇新论文试图将认知分解为众多子领域，是一个受欢迎的纠正。

特别是，它试图将认知分解为许多方面。正如Chaz Firestone和Brian Scholl曾经写道的，认知不是一件事而是多件事。这是阐明这一点的一次尝试，正如论文指出的，当前技术只捕捉到最终需要捕捉的一小部分：

人们可以对这种分解方式提出异议，但这是一个良好的开端。我预计会有大量评论对这个问题采取其他切入点，我很高兴这将开启这些对话。（我个人并不承诺坚持具体细节。）

论文的弱点在于它建立在一系列基准之上，而我们都知道基准可能被操纵。还有一些相当武断的决定可能经不起时间考验（例如，在汇总的众多测试中对每个子指标赋予多少权重）。整个体系应该被视为不断演进的，未来的衡量标准会随着研究人员设计出更好的基准而取代现有标准——而不是作为静态的检查清单。我们目前对如何评估智能的理解只是时间中的一个瞬间。我希望这篇论文不会意外地将那个特定时刻永久固化。

因此，我当然不认为我们的论文应该被视为最终定论，但我认为它在启动一场重要讨论方面做得很好。

Gary Marcus（加里·马库斯）

美国认知科学家、心理学家和AI批评家，纽约大学心理学和神经科学荣誉教授。他是当代最具影响力的AI理性批评者之一，长期质疑深度学习和大语言模型的局限性。

马库斯早年研究儿童语言发展和认知科学，著有多部关于人类思维的畅销科普书籍。近年来，他成为AI领域的重要反思声音，坚持认为当前以大语言模型为代表的AI技术存在根本性缺陷，包括缺乏真正的理解能力、容易产生幻觉、缺少常识推理等。

他创办过两家AI创业公司，并频繁在《纽约时报》《连线》等主流媒体发表评论文章，主张AI发展应该结合符号推理与神经网络，而非单纯依赖规模扩张。马库斯对AGI（通用人工智能）的定义和实现路径持审慎态度，是AI安全和伦理讨论的积极参与者，其观点在学术界和产业界都引发广泛争议和讨论。