深入浅出聊 AI - 大语言模型概览

2026 年这个时间点再聊 AI, 它已经深度融入到我们的日常生活工作中了，不管你是主动用它做学习研究，工作安排，日常对话问答，还是被动看社交媒体，购物，背后都有 AI 在驱动。它已经成为我们生活里的电和水，用的时候感觉不到，只是它对我们的影响，在于认知，情感，决定和最终需要你自己来承担的结果。因此每个人或多或少都应该了解 AI。

我们习惯了 AI 一开始带给我们的惊艳，它无所不知，应答流畅，机器终于通过了图灵测试；我们每个人也多少都见证了它正儿八经的胡说八道。 AI 为什么会如此人格分裂，它的聪明和它的错误，来自同一套工作机制。理解了背后的原理，我们在祛魅的同时，才能客观地使用 AI，发挥它的优势，也知道如何避免使用过程中潜在问题和风险。

这是我们这一系列的初衷，不是涉及具体某一个产品，而是探究技术背后的原理，然后找到最佳的人机共存之道, 让技术为我所用。

---

一、“大语言模型”是背后引擎

我们现在日常谈及的 AI, 在实际应用中，是 ChatGPT、Claude、豆包、千问这些聊天机器人产品。它们有界面，也有系统指令、对话上下文、安全策略和工具。真正背后负责生成文字的引擎，叫大语言模型，英文是 Large Language Model，简称 LLM。

如果只用一句话概括，LLM 是一个根据已经看到的上下文，计算接下来哪些 token 更可能出现，然后逐步生成回答的神经网络。

把它想成“读过大量公开文字的接话高手”比较容易入门。你说上半句，它接下半句，而且要接得像人话。这个比喻不完整，却抓住了关键：它首先是在生成语言，不是在某个可靠数据库里查出唯一答案。

我们接下来就一步一步的拆解，看看大语言模型这个了不起的引擎是怎么工作的。

二、一次回答究竟怎样生成出来？

第一步：切词元（分词，Tokenization）

你给模型说话时，它不会直接以“句子”来处理文字，而是先把你说的话切成一小块一小块，这里的单位是 Token, 词元。一个 token 可能是一个汉字、也可能是一个词的一部分、标点，或者英文单词的一部分。你可以想象成拼图玩具，一个不常见的词，可能会被拆成两三块拼图，而一个常见的词，一块就够了。不同语言和模型的切分方式并不一样。

为什么不是按字或者按词切呢，因为它要处理多种语言，还有代码和符号，统一按一种切法效率最高，所以用的是一套统计出来的切分规则，跟我们平时读句子的直觉不完全一样。

这样，模型看到的不是人类眼中的完整句子，而是一串 token ID。后面的计算，都从这些片段开始。

第二步：转坐标（向量化，Embedding）

每一块拼图（ token ID） 都会被映射成一串数字，也就是向量，英文常称 embedding。为什么要换成数字，因为计算机只会算数字，不会算文字，所以它需要一套办法，把意思相近的词放得近，把意思差得远的词放得远，这样才能用数学的方式处理语言。

向量可以理解成模型内部的坐标。经过训练以后，国王和王后这两个词的坐标，会比国王和石头的坐标靠得更近，这不是它查了词典，而是在海量文字里，反复看到这两个词出现在相似的句子结构里，是自己算出来的规律。所以这套坐标是一张统计出来的地图，不是一本词典，记录的是词和词共同出现的规律，不是词的官方定义。

第三步：找关联（注意力机制，Attention）

这是大语言模型处理上下文关系时，一个非常关键的环节。它要判断，当前这个位置，应该重点参考前面哪些词。为什么需要这一步，因为同一个词在不同句子里指的是不同东西。

比如苹果发布了新手机，它的销量很好，这句话里的它，指的是手机，不是苹果公司，人一读就懂，但模型需要专门算一遍，才能判断这个词跟哪个词关联更紧。你可以想象一群编辑同时在读这句话，每个编辑负责盯住一种关系，有的盯主语和宾语，有的盯代词指向谁，算完以后把各自的判断汇总起来，决定接下来这个词该往哪个方向接。

这一步让它看起来像是理解了句子结构，但它算的是词和词之间统计上的相关性有多强，不能从这个机制直接推出“它具有人类式推理”。

第四步：打分数（概率分布，Softmax）

前面几步算完以后，它会给词表里所有候选的下一个词，打一个分数，分数换算成概率。为什么是打分而不是直接给出唯一答案，因为语言本身就不是唯一确定的，同一句话接下去，可以是因此，可以是但是，也可以是一个具体的名词，每一种接法在语言习惯里都合理，只是合理程度不同。

就像一个抽奖箱，每个候选词都贴着不同的概率标签，概率越高的词，权重越大，被抽中的机会也越大，系统可以选概率最高的那个，也可以在几个高概率的候选里随机抽一个。

这意味着，它给出的从来不是唯一正确答案，而是一个语言上更可能出现的答案，可能出现不等于事实正确。

第五步：接龙（自回归生成，Autoregressive Generation）

选出一个 token 后，模型会把它接回原来的上下文，再预测下一个 token。这个过程不断循环，直到生成停止标记或达到输出限制。

为什么要一个 token 一个 token 地生成，而不是一次性想好整段话再输出，因为它本身就没有一整段话，只有不断重复这个接话动作的能力，每一个新 token，都是站在前面已经生成的内容上继续接的。这也解释了一个常见现象，一段越写越长的回答，如果前面某个地方接错了一个方向，后面的内容会顺着这个错误方向，继续接得越来越完整，越来越像真的。

所以长回答不能说明答案可靠，也不能说明复杂需要多说。需要留意的是，回答越长，越可能在某个早期节点已经悄悄拐错了方向。

第六步：学说话（对齐训练，RLHF）

前五步是每次你问它问题时都会重新运行的生成过程。第六步不一样，它发生在训练阶段。训练团队会进一步调整模型，让它更愿意遵循指令、解释问题，并拒绝部分有害请求。模型经过这类对齐训练后，才更适合被放进 ChatGPT、Claude 这类聊天机器人产品中。

训练团队找了大量的人类标注员，让模型对同一个问题生成多个回答，再由标注员评估哪一个回答更符合要求，告诉模型人类更喜欢哪一种说法，它据此调整回应方式，就变得更像能听懂指令，符合人类喜好。

这道工序改变的是“怎么说话”，不是它说的内容有多准确。态度得体、表达清楚、语气自信，不能说明内容准确。

三、它为什么看起来“无所不知”？

1. 它压缩了大量语言模式

在海量文本中，模型学到的不只是词语搭配，还包括语法、叙事结构、问答格式、不同文体、翻译对应关系和代码模式。训练的结果不是把网页逐条摆进一个数据库，而是把文本中的规律编码进参数。

当这些规律足够多，模型就能把一个领域里的表达迁移到另一个任务上，把材料改写成邮件，也能把复杂说明换成通俗语言。覆盖广和事实可靠，是两件事。它熟悉“历史人物传记应该怎样写”，却不一定知道某个冷门人物的真实生日。

2. 上下文会让它临时呈现出新能力

这里有两个新概念：

• Few-shot learning 可以直译成“少样本学习”。意思是：不需要专门重新训练模型，只要在提问时给它几个示例，它就可能按照示例的规律继续完成任务。

比如，要求模型把客户反馈分成“产品问题”和“服务问题”，可以先给它两个例子：
“App 总是闪退” → 产品问题
“客服三天没有回复” → 服务问题
然后再输入：
“退款页面一直加载失败” → ?
模型可能会根据前面的例子，把第三句话归为“产品问题”。

• In-context learning 通常译成“上下文学习”。它描述的是更大的现象：模型会利用当前对话中的上下文，包括任务目标、背景资料、示例、语气和格式要求，临时调整自己的回答方式。

比如，同一个模型面对同一份会议记录，可以完成几种不同的工作：
- 要求“提炼三条结论”，它会输出摘要；
- 给出一个会议纪要范例，它会模仿这个格式；
- 先给几个任务和负责人对应的例子，它可能继续整理行动项；
- 要求“用非技术人员能看懂的语言”，它会减少术语，增加解释。

这里所说的“新能力”，不是模型突然学会了一门新学科，也不是它在这一刻把自己的参数重新训练了一遍。更准确地说，它原本已经掌握了大量语言模式，但不知道当前任务应该采用哪一种。示例和上下文给了它一个临时的任务框架。

但这种能力有边界。示例越清楚，任务越接近模型见过的语言模式，结果通常越容易稳定；示例含糊、数量太少，或者新任务与示例差异太大，模型就可能误解规则。它是在当前上下文中识别和延续模式，不是在建立一个经过验证的新知识系统。

3. 它为什么能千人千面

同一个底层模型面对不同的人，会得到不同的上下文、任务目标、语气要求、示例和系统设置。最后的概率选择也就会不同了。

“千人千面”不能解释成许多独立人格。更准确的理解是：同一个生成系统，会根据输入条件调整表达方式和回答路径。它可以对工程师使用术语，对大学生换成比喻，对管理者强调决策影响，但这不等于它认识每一个人的内心。

四、幻觉：同一套机制的另一面

流畅与真实不是同一个目标

模型在生成回答时，主要处理的是：什么样的 token 更可能接在当前上下文后面。它并不会天然为每句话附上一条“已验证”的标签。因此，模型可能在不确定时仍然继续回答，生成一段语气完整、细节丰富，却并不真实的内容。

NIST 在生成式 AI 风险框架中使用了 confabulation 这个词，指模型自信地生成错误或虚假的内容，并可能同时给出看似合理的解释、逻辑或引用。大家更常见的说法是 hallucination，中文通常译成“幻觉”。

幻觉不是偶发的系统抽风，而是语言生成目标与事实验证目标之间的错位。语言上流畅的表达，不一定是现实中正确的答案。

为什么具体细节反而危险

常见语法和高频表达在训练文本中出现得多，模式比较稳定。一个普通人的生日、一件小众事件的细节、刚发生的新闻，则可能缺少足够稳定的语言模式。

于是会出现一个反直觉场景：文章整体写得很顺，某个具体人名、日期、数字或论文引用却是错的。人会把完整度误认为可靠性，模型正好擅长制造完整度。

为什么同一个问题可能得到不同答案

同一个问题得到不同答案，不必然代表模型有情绪，而是生成条件不同。因为选词带有概率性质。上下文、系统设置、采样条件和产品层设计发生变化都会产生影响，候选 token 的概率分布也会变化。

对创意写作来说，这种变化可能是优点；对法律、医疗、财务和事实核查，则是风险。

联网不等于模型自己记住了新知识

需要把模型参数里的训练信息、用户提供的材料、实时检索来源和工具返回结果分开。联网搜索可以为当前回答增加外部资料，但不能简单理解成这些内容已经被写进模型参数，或者自动变成了模型未来都能调用的长期记忆。

五、安全问题不止是“答错了”

NIST 的生成式 AI 风险框架把 confabulation、数据隐私、有害偏见、信息完整性、信息安全、知识产权以及人机配置（人机关系）等列为风险类别。

信息风险

错误事实、虚假引用和过时信息会影响学习、工作判断和对外沟通。表达越像正式材料，使用者越容易跳过核查。

隐私风险

聊天机器人可能接触用户输入、企业内部文件、对话历史和工具返回内容。具体产品怎样留存数据、是否用于训练、哪些团队成员可以访问，需要查对应产品的最新政策。

权限风险

模型只输出文字时，错误通常停留在屏幕上；接入搜索、文件、数据库、邮件、浏览器、业务 API 或代码执行环境后，错误就可能变成现实操作。这也是从 Chatbot 走向 Agent 后风险改变的原因：要问的不只是“它会不会答错”，还包括“答错后能不能继续动手”。权限、人工确认、日志和结果复核必须提前配置。

有害偏见

模型从大量人类文本中学习语言模式。而人类文本本身并不干净，其中可能包含性别偏见、地域偏见、种族偏见、职业刻板印象，或者对某些群体的长期忽视。模型学到的不只是“事实”，也包括这些内容在语言中是怎样被表达、怎样被关联起来的。

对用户来说，影响可能出现在几个地方：

• 招聘与评价：模型可能把某些职业、能力或领导特质更自然地与某一性别、年龄或背景联系起来；
• 教育与内容推荐：模型可能更充分地解释主流案例，对少数群体、非主流地区或小语种内容提供较少信息；
• 客服与决策支持：模型可能对不同表达方式的用户给出不一致的理解和建议；
• 图像与文本生成：模型可能反复使用固定的外貌、职业和家庭角色想象。

因此，偏见风险不只是“模型说了一句冒犯人的话”。更隐蔽的问题是：它可能在大量普通回答中，持续把某些人描述得更可信、更专业、更值得被帮助，把另一些人描述得更可疑、更不重要，或者干脆看不见。

你不能只问：“这句话有没有明显错误？”还要问：

它对不同的人，是否使用了同样的标准？

在招聘、信贷、医疗、教育、保险和公共服务等场景，模型输出不能直接成为决定某个人机会的唯一依据。

人机配置

这里的“配置”不是软件设置，而是人与 AI 之间形成的工作关系：谁负责判断，谁负责执行，人在什么时候检查，机器可以影响人的哪一个决定。

风险往往不是模型单独造成的，而是人和系统共同形成的。

一个模型第一次给出错误答案，使用者可能会发现问题。真正危险的情况是，模型长期表现得足够流畅，使用者开始减少检查，把“模型说了什么”逐渐当成“事情大概就是这样”。这叫自动化偏误，也可以理解为对机器产生了不恰当的信任。

它可能带来几种后果：

• 责任边界变模糊：出了问题，使用者说“这是 AI 给的答案”，组织却没有明确谁应该审核；
• 人工判断被削弱：员工不再独立思考，而是先看模型建议，再围绕模型答案找理由；
• 错误被批量放大：一个错误模板被复制到几百封邮件、几千条记录或大量客户服务中；
• 人把礼貌当成可靠：模型语气稳定、解释完整，使用者误以为它已经完成了事实判断；
• 关键能力逐渐退化：如果人长期不自己查证、计算和写作，遇到模型无法处理的情况时，可能已经失去独立完成任务的能力。

因此，人机协作的关键不是简单地问“要不要让 AI 参与”，而是提前设计四件事：

1. 哪些工作可以由模型直接起草；
2. 哪些判断必须由人做最终决定；
3. 哪些操作需要人工确认后才能执行；
4. 出错之后能否追溯模型看到了什么、做了什么、谁批准了结果。

这也是为什么“让模型更聪明”不是所有问题的答案。系统还需要设计清楚：什么时候相信它，什么时候限制它，什么时候必须由人接管。

这也是我们后面几篇文章将谈及的方面。

六、以后应该怎样使用它？

第一，先分清任务性质

你是要它帮你写点什么，头脑风暴，换个说法表达一下，这种偏语言的任务，它接得顺就基本能用。还是要它帮你确认一个事实，算一笔账，或者查一个数据，这种偏事实判断的任务，哪怕它回答得再流畅，再自信，也不能直接采信，你仍然需要查一遍原始来源，或者用计算器、搜索工具再核实一次。

第二，把“说得像真的”和“有证据证明”分开

语气、篇幅、专业术语和漂亮的结构都不是证据。一个具体的人名、日期、数字和引用越完整，越值得单独核对。

第三，重要事情不要只问一遍

换一个问法、换一组材料，或者要求模型先列出假设与不确定性。回答不一致，不一定说明哪一次必然错误，但它至少告诉你：这件事不能只靠语言流畅度决定。

任务离金钱、医疗、法律、隐私和外部系统越近，就越需要来源、权限、日志和人工确认。

大语言模型的能力来自它对语言模式的巨大压缩与灵活生成。它的局限也来自同一个地方：它可以把“不知道”包装成非常像“知道”。

理解这一点，不是为了贬低 AI，而是为了停止把生成能力误认为判断责任。

下一篇要回答的问题也由此出现：既然模型依赖上下文，那怎样才能和它进行一次更有效的对话？