你可能看过这样的新闻："某某公司花了上亿美元训练一个 AI 模型。"然后你打开 ChatGPT 聊个天，一分钱都不花（或者只花几块钱）。同样是 AI，为什么"造它"贵得离谱，"用它"却这么便宜？
答案就在于两个你一定会反复听到的词——训练和推理。今天这篇，我把这两个概念掰开了讲。搞懂了它们，你对 AI 的理解会上一个台阶。
一个类比：备考 vs 考试
想象一个学生准备高考。
训练，就是备考的过程。 这个学生要花三年时间，刷无数道题、背大量知识点、反复做模拟卷。每天从早学到晚，非常辛苦，消耗大量的时间和精力。三年下来，他花掉的钱——学费、教辅、补习班——加起来是一笔巨款。
推理，就是上考场答题。 考试那天，学生走进考场，看到题目，调用脑子里已经记住的知识和方法，把答案写出来。一场考试两三个小时，消耗的精力远远比不上三年备考。
AI 模型的"训练"和"推理"，跟这个一模一样。
训练：AI 的"三年备考"
训练一个大模型，本质上就是让 AI 把海量的文字资料读一遍，然后反复练习"猜下一个字"（还记得我们第一篇讲的吧？），直到它猜得足够准。
具体是怎么做的呢？
第一步，喂数据。 工程师会把互联网上能找到的文本资料——维基百科、新闻、论文、书籍、论坛帖子、开源代码——全部收集起来，整理成一个巨大的数据集。这个数据集有多大呢？以 GPT-4 为例，它的训练数据量大约有 13 万亿个 Token（关于 Token 我们第二篇讲过，可以理解为"字"的单位）。你一天读一本书，读完这些数据大概需要几百万年。
第二步，算。 把这些数据喂给模型，让它一个字一个字地猜、一次一次地调整内部参数。猜错了就调整，调整完再猜，再调整……这个过程要重复无数遍，直到模型在各种文字上都能猜得足够好。这一步需要大量的计算——需要几千张甚至上万张高端显卡同时跑，连续跑几个月。一张英伟达 H100 显卡的售价大约 25 万元人民币，训练一个大模型可能需要上万张。光是电费和硬件折旧，就是一笔天文数字。
第三步，反复调整。 训练不是一次就完事的。工程师需要不断尝试不同的数据配比、不同的模型结构、不同的训练策略，一轮一轮地调，每一轮都是上一步的重演。最终产出一个"成品模型"——就是你在网上用到的那个 AI 的"大脑"。
所以你看到"训练花了上亿美元"的新闻，一点都不夸张。OpenAI 训练 GPT-4 的成本估计在 1 亿美元以上，GPT-6 的训练成本据推测更是高达数亿美元。这些钱，主要就花在算力上——那么多显卡跑那么久，光电费就够一个小型城市用的了。
推理：AI 的"上考场"
现在，训练好的模型部署到了服务器上，你打开 ChatGPT 输入一个问题："帮我写一封请假邮件。"
这个过程叫推理——模型接收到你的输入，调用它训练时学到的"知识"和"能力"，一个字一个字地生成回答。
推理相比训练，有几个本质区别：
计算量小得多。 训练时，模型要把几万亿个 Token 全部"过"一遍，而且要反复过。推理时，它只需要处理你给的那几句话，然后逐字生成回答。这就好比——三年备考读了上万本书，但考试只需要做一张卷子。
速度快得多。 你打了几个字，几秒钟之内回答就出来了。这不是因为 AI "思考"得有多快，而是因为推理的计算量本身就很小。你发一句话给 ChatGPT，它后台需要的算力大概只相当于你手机运行一个普通游戏几秒钟。
成本低得多。 这是最关键的区别。API 的推理定价，处理你正常聊一句话可能只要几分钱。跟训练的上亿美元比起来，几乎可以忽略不计。
一句话概括：训练是"一次性"的巨大投入，推理是"每次"的微量消耗。 就像盖一栋楼要花几个亿，但住一晚上可能只要几百块。
还有一个词你也会经常听到：微调
除了训练和推理，还有一个概念叫微调（Fine-tuning）。
还是用学习的比喻：一个学生已经从学校毕业了，有了扎实的基础知识。但如果他想进入法律或医学这样的专业领域，光靠学校教的基础不够用。他需要再去参加专门的进修——在已有知识的基础上，针对性地学习专业内容。
微调就是这个"进修"的过程。
一个大模型经过通用训练之后，什么都会一点，但在某个具体领域可能不够深。微调就是拿少量特定领域的数据——比如法律文书、医疗记录、金融报告——在已有模型的基础上再"学"一轮，让它在这个领域变得更专业。
微调的花费介于训练和推理之间。训练一个大模型可能花上亿美元，但微调只需要用少量数据跑几天甚至几小时，成本可能从几百块到几万块不等。这就是为什么很多公司选择微调而不是从头训练——用 DeepSeek 或者 Llama 这样的开源模型作为基础，再用自己领域的数据微调一下，就能得到一个"懂行"的专属 AI。
这对你有什么用？
了解训练和推理的区别，不只是为了涨知识——它能帮你理解很多实际现象：
为什么 AI 产品有免费版也有付费版？ 因为推理是有成本的，只是很低。免费版让你随便聊，是因为平台愿意补贴这点钱来获取用户。但如果你是重度用户，每天跟 AI 对话几百轮，平台的推理成本就会累积起来——所以会有付费版来覆盖这个成本。拿国内主流 AI 产品来说，免费版每天的对话次数有限，高峰期可能还得排队；而付费会员不仅对话额度更高、高峰期能优先使用，还能解锁一些高级功能。你多聊的每一句话，背后都是服务器上显卡在跑推理——平台不可能无限免费供着，但也不想把门槛设太高把用户吓跑。免费 + 付费的组合，就是在这个平衡里找到的最优解。
为什么 AI 的更新不是实时的？ 因为训练需要时间。一个模型训练一次可能要几个月，训练完了就"定型"了。你在 2026 年 5 月用的 ChatGPT，它的知识可能截止到 2026 年初。虽然很多产品加了联网搜索来弥补，但模型本身的"底子"还是上次训练时的。
为什么小公司也能做 AI 产品？ 因为他们不需要从头训练。用开源模型（比如 DeepSeek、Llama），部署好就能直接提供推理服务。训练成本被模型的开发者承担了，小公司只需要承担推理成本——而推理成本很低。这也是上一篇讲的"开源模型让好用的 AI 不再只属于一家公司"的底层逻辑。
为什么大家都在抢高端显卡？ 因为训练和推理都需要算力，而算力的核心就是显卡。训练一个大模型需要上万张显卡跑几个月，推理服务则需要足够的显卡来同时应对成千上万用户的请求。英伟达的显卡之所以供不应求、价格飙升，根本原因就在这里。
一句话总结
训练是 AI 的"学习"——花几个月、几亿美元，把知识装进模型里；推理是 AI 的"考试"——花几秒钟、几毛钱，把知识用出来。你每一次跟 AI 的对话，都是一次推理。
搞懂了训练和推理，你就能理解 AI 世界的很多"为什么"——为什么模型不是实时更新的，为什么免费版能存在，为什么显卡这么贵。
下一篇我们聊一个更实际的问题——AI 到底能做什么，不能做什么。很多人对 AI 的期待要么太高（觉得它什么都会），要么太低（觉得它就是个玩具）。搞清楚它的能力边界，你才能真正把它用好。