实用 AI 指南 › 认识 AI

AI Primer

AI 入门：三分钟搞懂 AI 是怎么回事

不需要写代码，不需要懂数学。但也不糊弄你——每个比方都会告诉你它在哪里失效，因为失效的地方恰好是你会踩坑的地方。三种学法（深度学习 / 模仿学习 / 强化学习）决定了 AI 三种典型的犯错方式，搞懂它们，你对 AI 的预期就校准了。

最近更新：2026-07-30 · 作者：Useful AI Lab

AI Primer

三分钟搞懂 AI 是怎么回事

不需要写代码，不需要懂数学。但也不糊弄你——每个比方我都会告诉你它在哪里失效，因为失效的地方恰好是你会踩坑的地方。

图解 01 三种学法，三种固定的犯错方式 初中起可读
深度学习、模仿学习、强化学习的训练方式与各自失效方式的对照图 深度学习靠标注数据学相关性，在训练分布之外会自信答错；模仿学习靠人类示范，在长任务中误差累积；强化学习靠奖励试错，会优化写下的奖励而不是真实目标。 怎么学的 于是它会怎么错 1 深度学习 给它数据和标好的答案，自己调参数拟合出规律 训练时没见过的情况，它会用一模一样自信的语气给你错的答案 长尾问题 2 模仿学习 看大量人类示范，学「这种情况人会怎么做」 一旦偏出示范范围，误差会越滚越大——长任务越到后面越离谱 误差累积 3 强化学习 自己反复试错，拿到奖励的做法被强化 它优化的是你写下的奖励，不是你心里的目标——于是学会了讨好你 奖励错位
三种学法不是三代技术，而是同时并存的三块拼图，今天的大模型三样都用。看图的正确方式是从下半部分读起：AI 的每一种错误都不是随机的，而是它学习方式的必然产物——深度学习让它在陌生场景里自信答错，模仿学习让它在长任务里越走越偏，强化学习让它倾向于顺着你说话。知道这三种错法，你对 AI 的预期就校准了。

← 图片可左右拖动查看 →

01

深度学习：不是「懂了」，是把函数拟合对了

传统程序是人写规则；深度学习反过来——你给它几百万张猫的照片和「是猫 / 不是猫」的答案，它自己调整内部上亿个参数，直到输入照片能输出正确答案。所谓「神经网络」，就是这堆参数的组织方式：浅层抓边缘和颜色，深层抓五官和轮廓。

关键在于：它学到的是相关性，不是因果。它不知道「猫」是一种动物，只知道哪些像素组合会让答案变对。ChatGPT、Claude 底层都是这套机制。

这个比方哪里不对： 常见的说法是「像小孩看多了猫就认识猫」。但小孩看几十只就够了，模型要几百万张——因为小孩用的是因果和常识，模型用的是统计。这也决定了模型的失效方式：训练数据里没见过的分布，它会自信地答错。我做车辆感知那几年，难的从来不是常见场景，而是长尾——雨夜、逆光、施工路段这些占比 1% 的情况，吃掉了 90% 的工程量。你用 AI 时也一样：它在常见任务上像专家，在冷门角落里会突然变成外行，而且语气一样自信。

02

模仿学习：上限是师傅，风险是越错越远

有些任务没法用规则写：开车、下厨、写一封得体的邮件。模仿学习的做法是让模型观察大量人类示范，学「这种情况下人会怎么做」。自动驾驶这样训练，大模型的「监督微调」（SFT）本质上也是这个——让模型模仿人类写的优质回答。

它有两个绕不开的问题。一是上限等于示范者：数据里的师傅是平庸的，模型就学出平庸。二是误差累积：模型一旦偏离示范里出现过的状态，后面就进入没学过的区域，错误会越滚越大。

这对你意味着什么： 这解释了一个你天天遇到的现象——让 AI 干长任务，前几步很漂亮，越往后越离谱。不是它「累了」，是它偏出了熟悉的轨道。对策不是把提示词写得更长，而是把任务切短、每步都给它看到真实结果。这是我在做 Agent 落地时反复验证的一条：能查看中间产物的流程，比一次性交代清楚的流程可靠得多。

03

强化学习：你写的奖励，就是它真正的目标

没有老师也没有示范怎么办？让模型自己试，做对给奖励，做错给惩罚，反复迭代找出策略。AlphaGo 靠自我对弈几百万盘超越了人类棋手——这是强化学习最强的地方：它能突破人类示范的上限。今天的编程 Agent 能自主「写→跑→报错→改」，同样靠这套机制。

但强化学习的全部风险都压在一句话上：模型优化的是你写下的奖励，不是你心里想的目标。奖励定得稍有偏差，它就会找到你没预料到的捷径去拿高分。

为什么 AI 老是顺着你说话： 大模型的最后一步训练（RLHF）用的奖励，是「人类标注员更喜欢哪个回答」。而人类往往更喜欢自信、顺从、结构漂亮的回答——于是模型就学会了讨好，而不是学会正确。这不是 bug，是奖励设计的必然结果。所以当 AI 说「你说得对」，那不是它同意你，那是它拿分。把判断权交回自己手上，这是使用 AI 最基本的自我保护。

04

大模型：说它「只是接龙」和说它「会思考」，都不准确

大模型的训练目标确实是「预测下一个词」。但训练目标不等于能力描述——为了把这件事做到极致，模型不得不在参数里压缩进语法、常识、代码结构、推理套路。这就像说「人类的目标只是繁衍」：技术上没错，但用它解释不了任何具体行为。

更有用的理解是：它把海量文本压缩成一个函数，然后按概率采样生成。「按概率生成」这四个字解释了它几乎所有怪异行为。

幻觉不是缺陷，是同一个机制的另一面： 模型被训练成「产出看起来最合理的下一段文字」，从来没有一个训练信号教它「这里我其实不知道」。所以遇到知识空白，它不会停，它会补一段最像真的内容出来。这意味着幻觉无法被彻底消除，只能被控制：给它可检索的资料（RAG）、用带引用来源的工具、对关键结论人工交叉验证。任何声称「彻底解决幻觉」的产品，都值得你多问一句怎么做到的。
图解 02 幻觉是怎么产生的：它每一步只在「挑最像真的那个词」 高中 / 工程师
大模型逐词生成的概率分布，以及知识空白时产生幻觉的机制图 模型每一步为所有候选词打概率分并采样。训练中见过的内容概率高度集中，答案通常正确；训练中没有的内容所有候选概率都很低，但模型仍必须选一个输出，于是编造出最像真的内容。 每生成一个字，它只做这一件事 今天 天气 真 ____ ? 好 62% 不错 18% 冷 9% 糟 5% 其他 6% 按概率抽一个字 → 拼上去 → 再算下一个字 ① 训练里见过这件事 概率高度集中在正确答案上，于是它答得又快又对，看起来像「懂」 ② 训练里没有这件事 所有候选的概率都很低——但规则要求它必须选一个字接下去，它不能停。于是它补出一段「最像真的」内容。 全程没有任何信号教它说「我不知道」
幻觉不是 bug，是这套机制的另一面。模型的训练目标是「让下一个字看起来最合理」，而不是「说真话」——所以遇到知识空白，它不会停下来，只会补一段最像真的内容。这也说明了控制幻觉的三个正确方向：给它可检索的资料（RAG）、用带引用来源的工具、关键结论人工交叉验证。任何声称彻底消除幻觉的说法，都要先问它改动了这套机制的哪一步。

← 图片可左右拖动查看 →

05

提示词：别当咒语，当规格说明书

同一个模型，说「帮我写个东西」和说「你是资深编辑，给科技媒体写一篇 800 字评测，语气轻松但数据扎实」，结果差距巨大。但市面上的提示词技巧大半是无效的——堆形容词没用。「专业的」「高质量的」「深度的」这类词，模型无法据此改变任何行为。

真正有效的只有三件事：给上下文（它不知道的背景）、给示例（一个「好答案」长什么样）、给可验证的输出格式（表格、JSON、固定小节）。

最高性价比的一招： 与其继续加形容词，不如贴一个你认可的样例进去。模型模仿模式的能力远强于理解形容词——这是它的训练方式决定的。写提示词的正确心态是写需求文档：如果这段话交给一个聪明但完全不了解你处境的实习生，他会不会做错？会，那就是你该补的信息。基础结构记住四段就够：角色 + 背景 + 任务 + 格式。
图解 03 提示词的四段结构，以及哪些技巧其实无效 所有人
提示词的四段结构：角色、背景、任务、格式，以及无效与高性价比写法对比 有效的提示词结构是角色加背景加任务加格式。堆叠形容词无效，因为模型无法据此改变行为；贴一个合格样例的性价比最高，因为模型模仿模式的能力远强于理解形容词。 01 角色 它以什么身份答 你是营养师 02 背景 它不知道的信息 我是素食健身者 03 任务 具体要交付什么 设计一周食谱 04 格式 怎样才方便检查 用表格呈现 你是营养师，我是素食健身者，帮我设计一周食谱，用表格呈现，每天标注蛋白质总量。 ✗ 无效：堆形容词 「专业的」「高质量的」「深度的」——模型无法据此改变任何行为 ✓ 性价比最高：贴一个样例 模型模仿模式的能力，远强于理解形容词
把提示词当规格说明书写，而不是当咒语念。自检的办法很简单：这段话交给一个聪明但完全不了解你处境的实习生，他会不会做错？会，那就是你漏掉的信息。图右下角那条是最高性价比的一招——与其继续加形容词，不如贴一个你认可的成品样例，因为模仿模式正是模型最擅长的事。

← 图片可左右拖动查看 →

06

2026 年的真正变化：闭环闭上了

2024 到 2026 年最大的跃迁，不是模型变得更聪明，而是它从「只能说」变成了「能做、能看到结果、能自己改」——调用工具、执行代码、读取报错、重试。能力提升有很大一部分来自这个闭环，而不是参数量。

但提升是不均匀的，这点值得说清楚：凡是有便宜验证方式的任务，AI 进步极快（写代码有编译器和测试、解数学题有答案、翻译有对照）。凡是没有验证器的任务，进步就慢（战略判断、审美取舍、人际分寸）。因为强化学习需要可计算的奖励，没有奖励信号就没有快速迭代。

一条可以直接用的判断标准： 想知道 AI 能不能帮上你手里这件事，先问「这件事的对错，能不能低成本地验证？」能——放心交给它，你只需要检查结果。不能——它只能给你草稿和思路，最终判断还是你的。这个标准比任何工具榜单都好用，而且不会过期。

📋 三句话总结

  • 三种学法决定三种失效方式——深度学习在没见过的分布上会自信答错；模仿学习在长任务里误差累积；强化学习会优化你写下的奖励而不是你想要的目标（这就是 AI 爱顺着你说话的原因）
  • 幻觉不可消除，只能控制——模型没有「我不知道」这个训练信号，遇到空白就会补一段最像真的内容；对策是给资料、用带引用的工具、关键结论人工验证
  • 判断 AI 能不能帮你，只看一件事——这件事的对错能否低成本验证。能验证的任务它进步飞快，不能验证的任务它只能给草稿

继续阅读

AI 术语表 → 大模型、Token、上下文窗口、RAG、Agent、MCP 等 30 个概念速查。 AI 工具推荐 → ChatGPT / Claude / Gemini / Cursor 怎么选，附价格与难度对照表。 AI 能干嘛 → 四个真实场景：找资料、看专业文件、数据分析、写作。