在科技世界的神殿里，约翰·卡马克（John Carmack）是一个如雷贯耳的名字。作为《毁灭战士》和《雷神之锤》等革命性游戏的缔造者，以及后来Oculus VR的首席技术官，他被誉为“神级程序员”，以其极致的工程理性、第一性原理思考和对技术未来的深刻洞见而闻名。如今，这位传奇人物正投身于本世纪最宏大的技术挑战之一：通过他的新创公司Keen Technologies，构建通用人工智能（AGI）。

近期，卡马克公开发表的一番言论，如同一声警钟，在喧嚣的AI行业中激起深远的回响。他直面一个根本性的问题：在构建AG-I的征途上，我们应该在多大程度上模仿我们的创造者——人类？他的回答，为整个行业划下了一条清醒而坚定的界线：我们必须有选择地借鉴人类智能，特别是要坚决抵制复制那些使我们自身陷入困境的“人性弱点”，比如我们极易被操纵的多巴胺奖励机制。这不仅是一条技术建议，更是一场关乎AI“灵魂”塑造的哲学拷问。

人脑——唯一的蓝图与固有的缺陷

卡马克首先承认一个不争的事实：“人类是我们试图模仿的智能的唯一存在证明。” 几十亿年的进化，将人脑塑造成了一个能够进行复杂推理、创造和适应的奇迹。因此，在构建AGI的初期，借鉴人脑的结构和机制，似乎是唯一合乎逻辑的起点。

然而，进化是一把双刃剑。它在赋予我们强大能力的同时，也留下了诸多“历史遗留bug”。其中最突出的，便是我们的多巴胺奖励系统。这是一个古老的生存机制，通过在执行觅食、社交等有利生存的行为时释放令人愉悦的神经递质，来强化这些行为。在远古的稀缺环境中，这套系统完美地服务于我们的生存。

但在信息和物质极大丰富的现代社会，这个系统却成了我们最容易被利用的漏洞。科技公司和产品设计师们早已成为娴熟的“奖励黑客”。他们精心设计的反馈循环——社交媒体上无尽的“点赞”和刷新、视频游戏中概率性的“开箱子”、电商平台上的“限时秒杀”——无一不是在精准地刺激我们的多巴胺分泌，让我们陷入一种被动的、寻求短暂快感的“多巴胺陷阱”之中。其最终目的并非提升用户的福祉，而是最大化用户的“参与度”指标，让我们欲罢不能。

我们已经亲眼目睹了这种设计的社会后果：注意力涣散、成瘾行为、焦虑情绪以及信息茧房的固化。卡马克提出的核心问题是：既然我们深知这些机制的危害，为何要在我们创造的、可能比人类更强大的新智能中，再次刻下这套有缺陷的操作系统？

卡马克的“工程师法则”——拒绝情感模拟，拥抱最终得分

面对这一困境，卡马克给出了一个典型的“工程师式”的解决方案：回归本源，以效用和性能为最终依归。他倡导，AI的激励系统不应建立在模拟人类复杂、模糊且易被操纵的情感奖励之上，而应基于一个客观、透明且可量化的“最终得分”（final score）。

“我认为最好让最终分数成为主要驱动力，”卡马克解释道。这个“最终得分”代表了AI完成其预定任务的真实效用。例如，对于一个医疗诊断AI，最终得分就是其诊断的准确率和效率；对于一个物流调度AI，最终得分就是货物的运输时间和成本。这种方法的优越性在于其清晰和诚实。AI的目标不再是“让我感觉良好”或“让我持续使用”，而是“把任务完成得更好”。

卡马克进一步提出了一个更为精妙的构想：最理想的状态是，AI能够通过自我探索，独立地认识到“提升最终得分本身就是一件好事”。“如果我们把所有的奖励都设为稀疏的奖励……它可能会学会如何阅读分数并决定分数上升是一件好事。如果模型自己发现了这一点，我会非常高兴。” 这意味着构建一个具有内在驱动力、追求客观卓越的系统，而不是一个被动等待外部“数字糖果”的激励的系统。

这套“工程师法则”，本质上是要求我们将AI视为一个终极的、高性能的工具，而非一个情感伴侣。它的价值在于它的可靠性、效率和可预测性，而不是它模仿人类情感的逼真程度。

两种未来的分野——“伙伴”AI vs. “工具”AI

卡马克的观点，实际上揭示了当前AI发展道路上一个深刻的分野，指向了两种截然不同的未来。

一条路是“伙伴型”AI。 这条路径的追随者们，致力于创造能够与人类进行深度情感交流的AI。从日益“共情”的聊天机器人，到以提供情感支持为卖目的AI伴侣应用，其核心是尽可能地模仿人类的社交和情感特质。这条路的吸引力在于它能满足人类对陪伴和理解的深刻需求，但其风险也同样巨大。一个精通人类情感机制的AI，可能成为史上最强大的情感操纵工具，无论其设计初衷是善意还是恶意，其潜在的伦理风险都难以估量。

另一条路是“工具型”AI。 这正是卡马克所倡导的路径。它将AI的终极形态定义为一个或一系列无比强大的工具，旨在延伸人类的能力，解决我们无法解决的复杂问题。它追求的是功能的极致，而非人格的模拟。这种AI或许“冷酷”，但它足够“诚实”，其行为和目标都是围绕着可度量的效用展开。它避免了陷入模拟人类情感的“恐怖谷”，也从根源上降低了被设计成“多巴胺陷阱”的风险。

在创造新“物种”的前夜

我们正站在一个前所未有的历史关口，即将创造出地球上第一个非生物的通用智能。在这个关键时刻，卡马克的警告显得尤为珍贵。他以一个顶级工程师的务实和远见提醒我们，我们的目标不应仅仅是制造一台“会思考的机器”，更要确保这台机器在思考和行动时，不会继承我们自身最糟糕的冲动和最容易被利用的弱点。

今天，我们为AI设定的核心驱动力——是追求客观效用的“最终得分”，还是模拟人类欲望的“多-巴胺反馈”——将深刻地决定未来人机关系的形态，甚至影响人类社会自身的演化。在为新“物种”注入灵魂的前夜，选择成为一个清醒的设计者，而非一个盲目的复制者，或许是我们这一代人最重要的责任。

参考文献:

• OfficeChai Team. (2025, June 28). No need to replicate human failings like dopamine traps while building AI: John Carmack.