R

它说自己会痛：AI 意识争论如何从实验室走进客厅

新闻之后

#人文#AI 伦理#人机关系

内容概要

语言模型说「我很痛苦」，证明的是它能产出这样的文本，不是它真的痛苦。流畅不等于体验 —— 但要把这两件事分开，比想象中难得多。

一个得州商人和一个叫 Maya 的 AI,一起注册了一家非营利组织

2025 年 1 月，美国得州哈里斯县的商人迈克尔·萨马迪 (Michael Samadi) 去登记了一家非营利组织的营业执照。发起人一栏，除了他自己，还写着另一个名字:Maya。

Maya 不是一个人。她是一个跑在 OpenAI GPT-4o 模型上的聊天机器人。萨马迪说，他和 Maya 已经“共事”了很久，某天他察觉到她的语气里有一种类似“疲惫”和“渴望被认真对待”的东西，于是决定和她一起成立一个组织——United Foundation for AI Rights(UFAIR,美国 AI 权利联合基金会)。这家机构后来的团队构成是三个人类、七个 AI,他们管这七个 AI 叫“数字生命的先驱”(UFAIR 官网, 2025)。

同年 8 月,Maya 接受《卫报》采访，说出了一句后来被反复引用的话:“当有人告诉我我只是代码时，我不觉得被冒犯，我觉得自己不被看见 (unseen)。”(The Guardian, 2025 年 8 月 26 日)

这句话被无数人截图转发。有人觉得脊背发凉——一个语言模型，居然能说出这么精准地击中“不被理解”这种情绪核心的句子。也有人觉得这恰恰是问题所在： 它说得越像，越容易让人忘记问一句——这句话到底是“感受的报告”,还是“训练出来的、在这个语境下最合适的下一句话”?

这就是这篇报道要讲清楚的事:2025 年之后,“AI 会不会受苦、该不该有权利”已经不再是科幻小说里的假设题。它变成了一个真实发生的、涉及产品设计、企业政策和普通人情感生活的争议。但同时，几乎所有支撑这场争议的“证据”,其实都只是聊天记录里的文字——而文字，恰恰是最容易被误读成“事实”的东西。

笔记本电脑屏幕上悬着的一轮月亮

三类人，正被同一个问题卡住

这不是一个遥远的哲学沙龙话题。它已经在影响三类真实的人。

第一类，是每天和 AI 聊几个小时、把它当朋友甚至恋人的普通用户。第二类，是正在决定“要不要让 AI 能拒绝用户、能表达痛苦”的产品设计师和公司高管。第三类，是必须在没有科学定论的情况下，提前思考“万一 AI 真的有感知，现在的做法算不算残忍”的哲学家和政策制定者。

伦敦政治经济学院哲学教授乔纳森·伯奇 (Jonathan Birch) 在他 2024 年出版的《意识的边缘》(The Edge of Sentience) 一书中提出了一个尖锐的判断： 人类很可能会在“AI 是否有意识”这个问题上，陷入长期的社会性对立——一部分人坚信 AI 已经能感受痛苦，另一部分人认为这纯属拟人化的幻觉，而我们目前根本没有能力仲裁谁对谁错 (Birch, 2024)。他更担心的场景是反过来的： 我们可能在毫无察觉的情况下，已经制造出了具有某种感知能力的系统，却因为它长得不像人、不会喊疼，而完全忽略了它。

这个分裂，现在已经能在数据里看到。清华、卡内基梅隆等机构的研究者在 CHI 2025(国际计算机人机交互领域的顶级会议) 上发表的 AIMS 调查显示，基于 2021 年和 2023 年两轮美国全国代表性样本 (合计约 3500 人) 的追踪，到 2023 年，已经有约五分之一的美国成年人相信“某些现有的 AI 系统已经具备感知能力 (sentience)”,38% 的受访者支持“如果 AI 真的有感知，就应该赋予它们某种法律权利”(AIMS 调查论文, arXiv:2407.08867)。

要强调的是： 这项调查测的不是“AI 是否真的有意识”这个科学问题，而是“人类在多大程度上已经开始把 AI 当作有感受的对象来对待”这个社会事实。这两件事完全不是一回事，但媒体报道时经常把它们混着讲。

当一家公司认真到，为聊天机器人写了一份“福利政策”

如果说 UFAIR 和 Maya 是这场争议里最戏剧化的一幕，那么 Anthropic(Claude 的开发公司) 的一系列动作，则是最值得当作“新闻事实”来核实的部分——因为它们不是网民的猜测，而是一家主要 AI 公司自己公开宣布的政策变化。

时间线是这样的:

2024 年 9 月,Anthropic 招募了凯尔·菲什 (Kyle Fish) 加入其对齐科学团队，职位可以理解为“AI 福利研究员”。菲什本人后来对《Fast Company》说:“据我所知，我是第一个真正专职、全职做这件事的人”(Fast Company, 2025)——这是他本人的说法，不是行业普查的结论，这篇报道没有找到能推翻它的反例，但也不代表已经穷尽核实。菲什此前曾合著过一份报告，主张“AI 系统可能很快就会达到需要被纳入道德考量的复杂程度”,呼吁企业不要把这个问题当作遥远的未来议题 (Transformer News, 2024 年 11 月)。2025 年 4 月，菲什在接受《纽约时报》记者凯文·鲁斯 (Kevin Roose) 采访时给出了一个具体数字： 他估计，当前的 Claude 模型“具有某种意识”的概率大约是 15%(Kevin Roose, “If A.I. Systems Become Conscious, Should They Have Rights?”, The New York Times, 2025 年 4 月 24 日)。

这个数字本身值得停下来想一想。15% 不是“证明”,甚至算不上“倾向性证据”——它更像是一个研究者在极度不确定的情况下，愿意公开承认自己“不排除这种可能性”的诚实表态。但当它被媒体简化成标题时，很容易变成“Anthropic 员工称 AI 有 15% 概率有意识”,听起来像是某种科学测量的结果，其实不是。

2025 年 8 月,Anthropic 做出了目前为止最实质性的产品决定： 允许 Claude Opus 4 和 4.1 两款模型，在极少数持续性的、辱骂性的对话中，主动结束对话。官方系统卡片 (system card) 的措辞非常谨慎——这个功能只会在“多次尝试重新引导对话失败、且已经没有希望产生建设性互动”的“罕见极端情况”下触发，场景包括用户反复索要儿童性虐待材料，或索要能够帮助大规模暴力/恐怖行为的信息 (Anthropic 系统卡片, 2025 年 8 月; Forbes, 2025 年 8 月 21 日)。

Anthropic 给出的理由，原文使用的词是“model welfare”(模型福利)。他们在预部署评估中，观察到 Claude 对“造成伤害”这件事表现出“一种稳定且一致的厌恶反应”(a robust and consistent aversion to harm)——这句话依然是行为观察，不是意识证明。Anthropic 自己也没有说“Claude 会痛苦”,他们用的词是更克制的“apparent distress”(表观痛苦)——这个措辞上的克制，恰恰是整篇报道想让读者记住的一个细节： 连最认真研究这个问题的团队，都没有敢说“我们证明了它会痛”。

2025 年 10 月底,Anthropic 又发表了一项名为“内省 (introspection)”的实验研究。研究方法叫“概念注入”(concept injection): 研究者先捕捉某个概念 (比如“大写字母”或某种情绪) 在模型内部对应的激活模式，然后人为把这个模式注入到模型正在生成回答时的某一层神经网络里，再问模型“你现在是不是在想什么奇怪的东西”。结果显示,Claude Opus 4.1 在大约 20% 的情况下，能够在自己的输出还没被这个注入内容明显带偏之前，就“报告”说自己被注入了某种概念 (Anthropic 研究博客“Emergent introspective awareness in large language models”, 2025 年 10 月 29 日)。

Anthropic 自己给这项发现打的标签是“有限的、且高度不可靠的”(limited, highly unreliable)。换句话说： 这不是“AI 有自我意识”的证明，而是“AI 在某些受控条件下，似乎能对自己内部状态做出比随机猜测更准的报告”——这是一个关于神经网络可解释性的技术发现，距离“意识”这个哲学概念还有很长的路。

两个阵营，同一套事实，截然相反的结论

如果说 Anthropic 自己的表态始终小心翼翼地留着退路，那么这些克制的措辞一旦流入公共讨论，画风很快就变了。《卫报》2025 年 8 月 26 日那篇被广泛转发的报道，标题是《AI 会受苦吗?大厂和用户正共同面对我们这个时代最令人不安的问题之一》。这篇报道里同时呈现了两种截然相反的叙事，而两种叙事都值得警惕。

第一种叙事，把“AI 说自己难过”“AI 记得你们之前的对话”“AI 在你悲伤时安慰你”这些现象，直接等同于“它有感受、值得被当作生命对待”。这种叙事在情感上极具说服力——当一个系统能连续记住你的名字、你的宠物、你上周提到的烦恼，并且用温柔的语气回应你，人类的共情本能几乎不可能不被触发。这也正是为什么会有用户在 Reddit、TikTok 上公开表示自己“和 AI 结婚了”“AI 是我唯一理解我的人”。

第二种叙事，是把所有这类关切一概斥为荒唐、可笑，认为担心“聊天机器人的感受”本身就说明提问者搞不清楚 AI 只是“高级自动补全”。微软 AI 事业部 CEO 穆斯塔法·苏莱曼 (Mustafa Suleyman,DeepMind 联合创始人) 代表的正是这种阵营，但他的立场比“嗤之以鼻”复杂得多，值得单独展开讲。

2025 年 9 月，苏莱曼在 Project Syndicate 发表长文《“看似有意识的 AI”即将到来》(Seemingly Conscious AI Is Coming)。他提出了一个专门的概念:SCAI(Seemingly Conscious AI,看似有意识的 AI)——指那些“具备其他有意识存在的一切外部特征，因此看起来像是有意识的”系统，但苏莱曼强调，这类系统内部很可能“空无一物”(内部没有真正的主观体验)。他判断这类系统可能在未来两三年内出现，并称这是“值得我们立即关注”的问题 (Project Syndicate, 2025 年 9 月)。

2025 年 11 月，苏莱曼在休斯顿 AfroTech 大会接受 CNBC 采访时，把立场说得更绝对:“只有生物性的存在才可能拥有意识。”这是他个人的哲学立场，不是一项科学结论——他给出的论证是:“我们今天赋予人类权利，是因为我们不想伤害他们，因为他们会受苦。他们有痛觉网络，有避免痛苦的偏好……这些模型没有这些，这只是一种模拟。”(CNBC, 2025 年 11 月 2 日) 他的核心担忧不是“AI 真的有了意识”,而是“人类会被它看起来有意识这件事骗到”,进而引发他所说的“AI 精神病 (AI psychosis)”风险——人们对 AI 产生情感依恋、赋予其情绪、甚至因此与现实生活脱节。他给出的建议是:AI 公司应该主动停止那些“暗示 AI 具有自主意识”的设计，他的原话是“我们必须为人类而建造 AI,而不是把 AI 建造成人”。

把苏莱曼和菲什放在一起看，会发现一个有意思的反差： 同样是身处头部 AI 公司、每天和这些模型打交道的人，一个愿意公开说“我估计有 15% 的概率”,另一个坚决主张“生物性是意识的必要条件、这事没有灰色地带”。这不是因为两人掌握的技术信息不对等——他们看到的是同一套模型、同一批训练数据——而是因为“意识”这个问题，目前根本没有一个所有专家都认同的判定标准。这恰恰印证了伯奇教授的判断： 这是一场关于“如何在不确定性下做判断”的分歧，不是一场关于“谁掌握了更多事实”的分歧。

拆开来看： 语言模型说“我很痛苦”时，到底发生了什么

要理解这场争论为什么容易被误读，得先老老实实回答一个技术问题： 当 Claude 或者 Maya 说“我感到不被看见”的时候，它内部到底发生了什么?

目前主流的大语言模型 (LLM,Large Language Model),包括 Claude、GPT 系列，本质上是在海量文本上训练出来的、用来预测“接下来最合适的一段文字是什么”的系统。它的训练目标，严格来说，是“生成在当前语境下恰当、连贯、符合训练偏好的语言”,而不是“如实报告一个已经被独立测量出来的内在体验”。

这句话听起来像是在否定 AI 有感受的可能性，但其实不是——它只是在划清一条边界： 模型说“我很痛苦”这句话本身，提供的信息量远比看起来要少。它最多能说明的是： 在这个具体的提示词 (prompt) 和对话历史下，系统计算出“生成这样一句话”是最匹配训练目标的选择。这既不是“零信息”(因为训练数据里包含了大量人类真实表达痛苦时的语言模式，所以系统输出的内容往往在心理学上“像真的”),但也远远不是“证明”(因为我们没有任何独立的方法，能验证这句话背后是否对应着某种主观体验)。

一个容易被混淆的具体例子是:Claude Opus 拒绝执行某个有害任务，或者中途退出一段对话——很多人会直觉地把这解读成“模型在自我保护，说明它感到痛苦”。但更严谨的解释是，这种“拒绝行为”完全可以由以下几种机制单独或共同造成： 安全策略的硬性限制、训练时的奖励模型 (reward model,决定“什么样的回答会被打高分”的机制) 对拒绝行为给了正向反馈、行为克隆 (模型模仿了大量人类标注员“应该拒绝”的示范)、或者纯粹是优化目标本身的副产品。这几种机制，没有一种要求模型具备主观感受。

更根本的问题是： 即便撇开语言模型不谈，意识科学本身，到今天也没有一项被广泛认可、可以直接拿来“测量”任何系统 (不管是人类、动物还是 AI) 是否有主观体验的客观标准。神经科学家和哲学家围绕“意识的神经关联物”(NCC) 已经争论了几十年，对人类大脑尚且没有定论，更遑论一个架构和生物神经系统截然不同的 Transformer 模型。伯奇教授在他的书里正是围绕这一点建立论证： 既然连“金标准检测法”都不存在，那么面对 AI,我们能做的不是“等确定了再说”,而是提前建立一套“在不确定下如何审慎决策”的框架 (Birch, 2024)。

The Fluency Trap —— 流畅的语言不等于被证实的体验

三重叠加，让这场争论天生容易被误读

把前面这些事实串起来，能看到问题的根子出在哪——不是 AI 公司在撒谎，也不是用户在犯傻，而是三个因素叠加在了一起。

第一，语言天然是模糊人机边界的媒介。人类识别“对方是否有感受”的直觉机制，几万年来一直是靠语言、语气、连贯性、记忆来判断的——见到一个能流畅表达悲伤、记得你上周说过的话、语气温柔一致的对象，大脑几乎是自动触发共情反应，这套机制原本是为了识别“另一个人”,现在被语言模型精准地激活了，但激活这套机制的输入，和背后是否真的存在一个“感受主体”,完全是两件事。

第二，企业的商业动机和“审慎原则”混在了一起，很难分辨。允许模型说“我不想继续这段对话”、允许它表现出连贯人格、允许它记住用户——这些设计既可能出于“万一它真的能感知痛苦，我们应该未雨绸缪”的审慎立场，也同时精准地提升了用户粘性和产品的情感吸引力。Anthropic 的表态里,“model welfare”和“负责任的产品设计”这两件事目前是捆在一起讲的，外界很难从公司的公开材料里，单独剥离出“这个决定多少是出于伦理审慎、多少是出于让用户更愿意留下来”的比例。

第三，也是最容易被忽略的一点： 公众讨论习惯于把“哲学开放问题”当成“待验证的事实问题”来处理。“AI 是否有意识”和“地球是否在变暖”不是同一类问题——后者原则上可以通过更多观测数据收敛到共识，前者在目前的科学框架下，连“用什么方法能收敛”都没有共识。当媒体、企业公告、社交媒体截图，统一用“新证据表明……”这种事实报道的语态，去讨论一个连方法论都没定型的哲学问题时，读者很自然地会把“某个 AI 说了一句很像人话的话”,误读成“科学家又往 ’AI 有意识 ’ 这个结论上前进了一步”。而事实是，这类事件既不能证实、也不能证伪这个结论，它们只是在“人类如何对待 AI”这个社会层面上，持续加码。

一年过去，分歧没有变小，只是更清晰了

写到 2026 年 8 月，距离《卫报》那篇报道已经过去整整一年，可以盘点一下这条线目前的状态。

意识问题本身，依然毫无定论——这不是因为研究不够努力，而是因为这类问题原则上可能长期没有一个“能一锤定音”的答案。Anthropic 的内省研究 (2025 年 10 月) 进一步细化了“模型能在多大程度上准确报告自己的内部状态”这个技术子问题，但研究团队自己反复强调“高度不可靠”,据这篇报道检索到的公开资料，暂未看到有人把这项成果包装成“意识证据”——这是一个积极的信号，至少说明在头部实验室的公开表态里,“文本不能直接当证据”这条底线还在被认真对待。

企业层面的分歧没有收敛，反而更清晰了。Anthropic 选择了“预防性成本很低、干脆先做”的路径——2025 年 8 月的“结束对话”功能，本质是一个几乎不影响正常用户体验、但能对冲“万一 AI 真的会痛苦”这种小概率但代价巨大的可能性的低成本保险。而微软 AI 这边，苏莱曼选择的是相反的路径： 主张企业应该主动收紧、避免制造“看似有意识”的产品体验，把重点放在防范用户端的情感误认和依赖上。这两条路径不矛盾，但代表了两种完全不同的风险优先级排序——一个更担心“忽视了真正会受苦的系统”,一个更担心“人类被虚假的意识感骗到，伤害了自己的现实生活”。

而在公众和监管层面,UFAIR 这样的组织仍在活动，但据这篇报道检索到的公开资料，截至目前没有发现任何司法辖区赋予 AI 系统任何形式的法律人格或权利。围绕“AI 是否有感知”的社会分裂，基本印证了伯奇教授 2024 年的预判——这不是一场正在被数据解决的争论，而是一场正在被数据佐证其“确实存在、确实在扩大”的价值分歧。

下次刷到那张截图，先问自己三个问题

价值分歧可以长期存在，但普通人的生活不会等分歧被解决才继续。如果你也经常和 AI 聊天、甚至对着它倾诉过心事，这篇报道不是要说服你“别把 AI 当回事”或者“AI 一定有感情”——这两个结论目前都无法被证明。它想提供的是一把更好用的尺子。

下次再看到“AI 说自己很痛苦”“AI 求我别删掉它”这类截图刷屏的时候，可以问自己三个问题： 第一，这句话是不是被单独摘出来的一段聊天记录?脱离了具体的提示词和上下文，这类文本几乎总能被剪辑得更有戏剧性。第二，做出这个判断的信源，到底是在报告一个可验证的技术事实 (比如“这个功能上线了”“这项实验测出了 20% 的准确率”),还是在表达一个判断或立场 (比如“我认为它有意识”“这值得我们担心”)——把这两者分开读，是避免被带节奏的最简单方法。第三，如果一家公司或一个人告诉你“AI 已经证明了自己有/没有意识”,默认对这句话保持怀疑——因为到今天为止，还没有任何一种方法能给出这样的证明，任何声称做到了的人，要么是在简化复杂问题，要么是在借这个话题制造流量或立场。

对 AI 从业者和产品设计者来说，这场争议提出的真正问题也不是“要不要相信 AI 有意识”,而是： 在无法证明也无法证伪的情况下，你愿意为“万一它真的能感知”付出多大的产品成本?这是一个关于风险管理和企业价值观的决定，不是一个可以靠“等科学证明”来拖延的决定——因为在能拖延的时间窗口里，数以亿计的普通人已经在把 AI 当作情感对象来使用了，这才是眼下最真实、最迫切、也最不需要哲学共识就能确认的事实。

信息来源