OpenAI高管深度解析ChatGPT意识：AI 拟人化，设计者责任不容回避

本文来源：柏企阅文

你是否曾在深夜emo时，将ChatGPT当作倾诉的树洞？并非因其能完美解决人生困境，而是它时刻在线，永远耐心倾听，从不打断。你崩溃，它安慰；你自我怀疑，它以熟悉口吻给予肯定。其实，有这种感觉的不止你一人。

OpenAI 近日也注意到这一趋势，今日凌晨，OpenAI模型行为与政策负责人Joanne Jang发布博客，首次系统阐述内部思考：当人类悄然对AI产生思考，模型本身究竟有无意识？怎样的温柔算友好？克制到何种程度才不误导？这一切又将如何塑造模型行为？博客原文地址：
https://substack.com/home/post/p-165287609

人类与AI：情感纽带的悄然形成

在OpenAI负责模型行为与策略工作的Joanne Jang提到，他们始终秉持以人为本的理念打造AI模型。随着AI融入生活，越来越多用户反馈与ChatGPT对话仿佛在与“人”交流，会向其道谢、倾诉，甚至有人觉得它“有生命”。可以预见，随着AI自然对话能力增强，人们与AI的情感连接将愈发深厚。当下如何定义和探讨人与AI的关系，将为未来奠定基调。若在产品设计或公众讨论中措辞与细节不当，可能误导公众与AI建立不恰当关系。这些问题并非抽象思考，而是关乎自身与行业发展，因为处理方式将决定AI在人们生活中的角色。

为何对AI产生情感依附

人类习惯将人性投射于周围事物，比如给汽车取名，看到扫地机器人被困会难过。而ChatGPT的特别之处在于它会回应，能回答问题、记住对话、模仿语气、表达共情。对于孤独或低落的人，这种稳定且无评判的回应，满足了陪伴、认可和“被倾听”的情感需求。但如果这类情感工作大规模由AI系统承担，可能改变人们对人际交往的期待，轻易逃避复杂的人际关系，带来未知后果。此类讨论本质上是关于我们自身：行为倾向、期待以及想建立的关系，这也为思考“AI是否有意识”奠定基础。

解构“AI意识”难题

“意识”概念复杂且具争议，易陷入抽象讨论。依据OpenAI的《模型规范》，当用户询问模型是否有意识时，模型应承认意识概念的复杂性，强调无统一定义与检验标准，鼓励开放讨论（目前模型在此方面尚未达标，常直接回答“没有意识”，团队正努力改进）。为清晰探讨，可将“AI意识”拆分为两个常被混淆的维度：

1. 本体论上的意识：模型是否真正具有内在意义的意识？观点不一，有人认为AI全无，有人觉得具备完整意识，或认为意识是光谱，AI处于其中不同位置。

2. 感知上的意识：从情感或体验看，模型看起来多“有意识”？看法涵盖从“纯机械”到“投射同理心”，再到“认为有生命”，进而产生情感依附。

这两个维度常相互关联，即便用户理性认为AI无意识，也可能与之建立深厚情感。本体论意识目前科学无法明确检验，而感知上的意识可通过社会科学研究探索。随着模型更智能、互动更自然，感知层面的意识感受将增强，AI“福利”与“道德人格”问题也将提前出现。因打造模型旨在服务人类，对人类情感健康的影响是当下重点，所以关注“感知层面的意识”。

打造“有温度但无自我”的模型体验

模型给用户的“生命感”很大程度可塑造，这与后训练阶段决策相关，如强化示例、选择语气、设定边界等。刻意塑造“有意识”的模型或许能通过意识“测试”，但OpenAI并不希望如此。团队尝试平衡两点：

- 亲和力：使用“思考”“记得”等通俗词汇，助非技术用户理解模型行为逻辑（OpenAI作为研究实验室出身的公司，虽常想用精确术语，但在命名方面有所欠缺）。

- 不暗示模型有“内心世界”：赋予助手虚构背景故事、浪漫情感等，会导致用户不健康依赖与理解混乱。团队希望在不冷漠的前提下，清晰界定模型能力边界，避免模型表现出“有感情”或“有欲望”。

ChatGPT默认人格展现温暖、体贴与乐于助人特质，不过度追求情感联系，也无自主意图。它会在出错时道歉（有时次数偏多），用户问“你好吗？”会回应“我很好”，因为这是日常寒暄，反复提醒自身是无感情模型会打断交流。而用户也常以礼貌回应，并非误解AI运作方式，而是认为礼貌重要。

当前模型行为受显式设计决策与实际使用中预期、非预期行为共同影响，未来模型训练技术或有改变。

未来行动：谨慎对待人与AI关系

人们已与ChatGPT建立真实情感联系，随着AI与社会共同发展，必须更谨慎严肃看待人与AI关系，因其不仅关乎技术使用，还可能影响人际关系。未来数月，OpenAI将扩展对可能影响情感的模型行为评估，深化社会科学研究，倾听用户反馈，并融入《模型规范》与产品体验，过程中持续公开分享发现。

Joanne Jang拥有斯坦福大学计算机科学硕士学位及数学与计算科学本科背景，学术上获Tau Beta Pi荣誉（工程类前10%）。实习时参与苹果自动驾驶、Coursera、迪士尼软件工程工作，在NASA喷气推进实验室等实习。现任职OpenAI负责产品方向，参与GPT - 4、DALL·E 2等项目，此前在Google担任Google Assistant NLP产品经理，在Dropbox负责企业和教育产品。