“AI永远无法突破认知边界！”——宋鸿兵回应学生哲学之问

本文仅在今日头条发布，谢绝转载

宋鸿兵与鸿学院同学围绕人工智能展开深度对话，同学结合历史科学发展案例与 “认知圈” 比喻，提出核心疑问 —— 人工智能究竟是填补人类已知领域的认知盲点，还是具备拓展未知认知边界的能力；宋鸿兵则从大语言模型的本质出发，阐释其机械排列组合的运行逻辑，明确其 “无自主智能、需人类聚焦引导” 的工具属性，进而回应人工智能难以触及人类认知圈外未知领域的核心观点。

连线同学：我的问题是关于人工智能的。上周宋老师讲解了人工智能的相关应用，由此我产生了一个想法：倘若让牛顿去训练人工智能，爱因斯坦的相对论或许会被否定；倘若让爱因斯坦去训练人工智能以验证相对论，量子力学的不确定性或许会被否定；而若是让现代人去训练人工智能，可能一些外星科技也会被否定。

我记得有一位欧洲科学家提出过这样一个比喻：如果我们在纸上画一个圈，圈内代表人类已知的知识，圈外则代表未知的领域。已知的内容越多，这个圈的范围就越大，与此同时，意味着我们所面对的未知部分也随之扩大。

按照这个比喻来推导，我认为在已知的“圈内”可能存在一些我们认知上的盲点，而人工智能恰好能够通过穷举的方式将这些盲点填补。这也让我们时常感到惊叹——这些知识我们本应知晓，为何却一直未能发现？仿佛是人工智能提醒了我们，也因此显得人工智能能力出众。但实际上，这是因为我们的“认知圈”不断扩大，掌握的知识越来越多，盲点自然也就相应增多了。

以上是我的一些想法，我想与宋老师探讨一个问题：人工智能这一工具，究竟是在“圈内”帮助我们发现认知盲点，还是帮助我们将“认知圈”进一步扩大？我认为它或许并不具备后者的能力，甚至根本无法触及圈外的未知领域，因为人工智能是基于人类的认知进行训练的。圈外是全然未知的范畴，即便人工智能偶然触及未知区域的相关内容，我们也无从判断其正确与否。只有当人工智能得出的结论落在“圈内”的已知范畴时，我们才能对其进行验证。不知宋老师对此观点作何看法？

宋鸿兵：这位同学提出的问题颇具理论性与抽象性。实际上，我们可以将当前的大语言模型类人工智能理解为：对所有已知文本信息进行基于概率分布的排列组合与重新梳理。从本质上来说，它并不具备真正意义上的智能，只是一种纯机械性的运算工具。它之所以会给人带来“智能”的错觉，是因为它能够基于概率分布，预判并输出符合人类预期的结论。但它存在一个显著特点：能够通过穷举或机械运算的方式，挖掘所有可能出现的变化方向，并将其呈现给使用者。

最终做出选择与判断的主体仍然是人类。研究者并非依靠人工智能直接获得结论，而是根据自身的研究倾向与偏好，借助人工智能在特定方向上筛选出自己未曾留意的信息。对他们而言，至关重要的能力是聚焦力。因为人工智能背后所涵盖的文本组合数量极为庞大，必须为其明确聚焦的层次、方向与具体问题，它才能真正发挥辅助作用。

从这个角度而言，人工智能并不具备真正的智能。在我看来，智能的定义必须包含生命力、自我感知力、自我觉醒能力，或是自我意识。具备智能的主体应当能够主动开展某项活动，而非被动地根据人类的指令执行操作。结合实际应用场景来看，我之前所举的案例，本质上都是研究者借助人工智能筛选那些被自己忽略的变化信息。从这个层面来讲，将人工智能视为一种搜索引擎，或是一种模式变化的搜索工具，是更为准确的定位。

你所提及的能够探索未知领域的人工智能，已经上升到了哲学层面的概念。具体来说，就是人工智能是否能够帮助我们发现“认知圈”以外的客观规律。我们不妨进行一个假设：人类创造的所有文本信息都被存储于计算机中，且能够被人工智能所获取，这些信息都处于“认知圈”的范围之内，那么圈外必然存在着更广阔的领域。

理论上，人类历史上无数个体在生存过程中留下的所有印记，都可以被人工智能收集整合。但即便掌握了全部人类的信息总量，在这些信息之外，依旧存在着一片未曾被人类实践与经验所触及的辽阔世界。如果事实确实如此，那么仅依靠已知信息的排列组合，又如何能够产生从未出现在“认知圈”内的全新内容呢？由此可见，我们无法借助人工智能去探索那些人类尚不知晓的事物。