← 路人甲官网
团队能力训练 · 第一阶段

「深入」能力训练
三层深度地图

做深入浅出的 AI 内容,前提是团队真的深入。这份地图分四块:核心必懂(大模型 / Agent / Harness 的地基)、进阶该懂(拉开深度的底层机制)、应用层(MCP / Skill 等接入与生态)、前沿热概念(推理与自主循环)。

总原则

深到能预测和解释,浅到不必会造。你们是做内容、不是做研发,所需深度由产出倒推——永远比读者深一层,能从机制推出行为、能解释任何反常现象,但不需要亲手实现这个机制。判断线不是「你会不会造」,而是「你能不能从原理推出行为」。

三层深度地图

每一层都给出「必须懂到哪 / 不必碰哪 / 怎么验收」,拿来当团队学习的边界。
01

大模型(LLM)

必须懂到 「机制 → 行为」能打通 的程度。
✓ 必须真懂

本质是逐 token 的概率预测,不是检索、不是查数据库;采样带随机性(同一 prompt 结果会变);上下文窗口是有限预算,窗口外它根本不知道;一次调用之间没有记忆;tokenization(所以数不清字母、中文更耗 token);预训练与后训练(指令微调 / RLHF)是两回事;知识截止、幻觉是结构性必然而非 bug。注意力懂到「看全部 token、按相关性加权」这个概念层即可。

验收:能从机制解释「为什么它会一本正经编造引用」(逐 token 概率,在生成最像的下一个词,不在查真伪)、「为什么两次答案不一样」(采样)、「为什么数不对字母」(tokenization)。答不出来,就是没到。
02

Agent

必须懂到 「它就是一个循环」 的程度。
✓ 必须真懂

Agent 不是更聪明的模型,而是「模型 + 工具 + 把工具结果喂回上下文的控制循环」。核心是 think→act→observe 这个环:模型决定调什么工具,工具去碰真实世界,结果再塞回上下文。所谓「智能」还是那个模型在选下一个 token,工具只是手脚。更关键是懂它为什么失败:错误跨步累积、上下文被污染、一旦「迷路」很难自己爬出来——这些失败模式才是深度内容最值钱的地方。

验收:能解释「Agent 多步任务为什么越走越歪」——从错误累积、上下文污染、无法自我纠偏这几个机制说清楚。
03

Harness(脚手架层)

最容易被漏掉,却是 区分「深」与「浅」内容的分水岭
分水岭

Harness 就是模型外面那层脚手架:系统提示、工具定义、上下文管理、结果截断与格式化、token 预算、护栏。必须真懂的核心只有一句:用户体验到的「那个 AI」,是模型和 harness 不可分割的合体,你观察到的大量「模型行为」其实是 harness 塑造出来的。同一个模型放在 claude.ai、Cursor、裸 API 下,行为可以天差地别,差的就是 harness。

✓ 必须真懂

系统提示塑造一切;上下文窗口是被 harness 管理的预算;工具结果被 harness 格式化和截断;同一模型在不同 harness 下行为迥异。绝大多数「模型不行」的抱怨,追下去其实是「harness 没让它行」。

验收:浅的内容说「某模型做不了 X」;深的内容说「在这个 harness、这种上下文管理下,它在 X 上会失效,因为……」。能说出后者,就到位了。

进阶该懂

地基之上,让内容真正有洞察的那批机制。每条都点明「它能帮你解释哪个现象」——这才是对内容有用的判断标准。
A

大模型

· 8 条

上下文不是均匀的

注意力虽看全部 token,但有明显位置效应——开头和结尾权重高、中间容易被忽略(业内叫 lost in the middle),长上下文还会「稀释」指令。

能解释:「我明明说了它却没照做」,多半是位置/稀释问题,不是模型变笨。

「性格」大多来自后训练

语气、爱道歉、爱列点、谄媚附和(sycophancy)、过度自信,这些是 RLHF 塑造出来的,不是模型「本性」,也不是预训练里的知识。

能解释:「为什么它总是顺着我说 / 总在道歉 / 总爱列点」。

校准:它不知道自己不知道

模型对正确答案和错误答案可以一样自信。它输出的「确定语气」和「实际正确率」是两回事,二者的偏差就是校准问题。

能解释:「为什么它一本正经地胡说」「为什么它错得那么理直气壮」。

Prompt 为什么有效(上下文学习)

给几个例子它就照做、换个措辞结果大变——这是 in-context learning,本质是模式匹配而非真正「理解」。这是所有提示技巧的底层原理。

能解释:为什么 few-shot 有用、为什么措辞如此敏感;写 Prompt 教程才讲得清所以然。

能力是「涌现」的(Scaling Laws)

更大、更多数据就更强,但某个能力何时出现没人能精确预测——能力是涌现出来的,不是设计出来的。这解释了整个行业为什么在「炼丹」。

能解释:为什么厂商也说不准下一代能干什么;对「路线图」保持清醒。

评测的陷阱

「测得好」不等于「真的好」。benchmark 污染、过拟合刷分很普遍,跑分高的模型实际未必强。

能解释:为什么不能照搬夸大的跑分;内容里对榜单要留一手。

采样是可调的旋钮

temperature、top-p 控制着「确定 vs 发散」。同一个模型调低就更稳、调高就更有创造性也更容易跑偏——随机性不是玄学,是参数。

能解释:为什么有的场景要「冷」有的要「热」;创造性和可靠性的取舍从哪来。

模型是「冻结」的,所以需要 RAG

训练完模型知识就定格了。要接实时或私有知识,只能靠检索(RAG)把资料喂进上下文——模型本身并没有「学到」新东西。

能解释:为什么要做知识库、为什么「喂了资料才准」;顺带接上 Agent 那层。

Transformer 架构(地基)

现在几乎所有大模型的骨架。核心是自注意力:每个词都同时「看」上下文里所有词、按相关性加权组合。前面讲的「上下文」「注意力」「位置效应」都落在这个结构上。

能解释:为什么模型能并行吃下长文本、为什么「注意力」是一切的核心。

对齐(Alignment)

让模型行为符合人类意图与价值观的一整套方法:RLHF、宪法式 AI(Constitutional AI)、RLAIF、DPO 等。后训练里「让它有用又无害」的部分就属于对齐。

能解释:「乐于助人 / 拒绝有害请求」从哪来;也是 AI 安全争议的核心。
B

Agent

· 7 条

工具调用的真相

模型并不真的「执行」函数,它只是输出一段结构化文本(function call),由 harness 解析、执行、再把结果喂回上下文。它始终只是在生成文本。

能解释:消除一大半对 Agent 的误解——动作是外面那层替它做的。

上下文工程才是真正瓶颈

给 Agent 喂什么、怎么组织、何时清理上下文,往往比换个更强的模型更决定成败。这是当下 Agent 的核心手艺。

能解释:为什么「模型够强了 Agent 还是不行」;把视角从「模型」抬高到「上下文」。

记忆是工程拼出来的幻觉

Agent 的「记忆」不是模型天生的,而是外部存储 + 检索造出来的:短期记忆在上下文里,长期记忆在外面。

能解释:「为什么它一会儿记得住一会儿又忘」。

确定性 vs 概率性的根本矛盾

传统软件每次结果相同,Agent 每次都可能不一样。于是「测试」「可靠性」「上线」对 Agent 是全新问题——这是落地最大的障碍。

能解释:为什么 Agent 难以「保证」;这是内容里最值钱、最少人讲清的角度。

成本与延迟

每走一步都要一次模型推理,还按 token 计费——所以 Agent 天然又慢又贵。这决定了几乎所有 Agent 产品的形态约束。

能解释:为什么 Agent 产品要限制步数、要做缓存、要「够用就停」。

规划与反思为何脆弱

Agent 会拆解任务、自我检查(planning / reflection),但这些能力建立在概率生成之上,一旦前提判断错,后面会顺着错下去。

能解释:为什么它「计划做得漂亮却执行翻车」;反思也可能自我强化错误。

权限边界与人在环中

Agent 有自主性,但危险操作(发钱、删数据、对外发送)必须卡人工审批。自主性的边界是设计出来的,不是模型自带的。

能解释:为什么负责任的 Agent 都要 human-in-the-loop;自主 ≠ 放任。

应用层:接入、生态与工程化

底层之上,真正被产品用起来的一层。这些概念最容易被混为一谈——先用一张表把最常混的五个钉清楚。
概念一句话本质它给模型的是
Tool / 函数调用让模型触发一个动作(查天气、发邮件、跑代码)一双手
MCP统一标准,让 Agent 用同一种方式接入各种工具与数据源统一的接线口
Skill打包好的知识 / 工作流,按需加载,教它「这类任务怎么做」一本说明书
RAG / 知识库把外部资料检索出来喂进上下文,补它没背过的事实一个记忆外挂
Plugin / 插件把上面这些打包、分发、安装的容器,常聚合成市场一个盒子
A

接入与扩展

MCP(模型上下文协议)

一个开放标准,把「每个工具各写一套对接」变成「一次对接、到处可用」。Server 暴露工具 / 数据 / 提示,Client(harness)统一去调。相当于 AI 工具生态的 USB-C。

能解释:为什么它能快速接入一堆外部能力,而不用为每个服务重写代码。

Skill(技能)

本质是结构化的知识 + 工作流(可带脚本),按需加载进上下文。它不给模型新「感官」,而是教它「这类事该按什么步骤、什么标准做」。

能解释:为什么同一个模型加载了 Skill 后,在某类任务上突然「专业」了。

Connector(连接器)

连接外部 SaaS / 数据源的对接件(Slack、数据库、网盘等)。MCP 可以理解为「连接器的统一标准」,让连接器不再各说各话。

能解释:为什么「接入你的公司数据」是一类独立能力,和模型强不强无关。

Plugin / Marketplace(插件与市场)

把 MCP、Skill、工具打包成可安装单元,再聚合成市场分发。是生态从「自己搭」走向「装一下就能用」的关键。

能解释:为什么 AI 产品开始有「应用商店」形态,生态怎么长起来。

A2A / ACP(智能体通信协议)

让不同来源的 Agent 能互相对话、协作的开放标准(Agent2Agent、ACP)。如果说 MCP 解决「Agent 连工具」,A2A 解决「Agent 连 Agent」,2026 年落地很快。

能解释:多智能体生态怎么互通;A2A 与 MCP 是互补,不是替代。
B

知识与定制

RAG(检索增强生成)

先检索相关资料、再喂给模型生成答案。解决知识冻结和私有数据两个问题——模型没「学到」新东西,只是当场「查着答」。

能解释:为什么要建知识库、为什么「喂了资料才准」、为什么检索质量决定答案质量。

Embedding / 向量数据库

把文字变成向量,用「语义距离」找相似内容,是 RAG 的检索地基。语义相近的东西向量也相近。

能解释:为什么它能按「意思」而非「关键词」检索;RAG 找不准往往错在这一层。

Fine-tuning(微调)

用特定数据继续训练,改变模型的默认行为 / 风格 / 格式。改的是「模型本身的倾向」,不是喂给它的临时资料。

能解释:它和 RAG 的根本区别——微调改「性格」,RAG 补「事实」。

三条定制路径的辨析

让模型「更贴合你」有三条路:提示工程(最轻,改说法)、RAG(补事实,接私有知识)、微调(最重,改行为倾向)。先用轻的,不够再上重的。

能解释:大多数需求用提示 + RAG 就够,动辄微调是常见的过度工程。

量化与蒸馏(模型压缩)

两种让大模型变小变便宜的手段:量化降精度省显存,蒸馏用大模型「教」出能力接近的小模型。是模型能跑在本地 / 手机 / 低成本环境的关键。

能解释:为什么「小模型」能力越来越逼近大模型;本地部署怎么成为可能。

合成数据(Synthetic Data)

用 AI 生成的数据来训练 AI,已从「数据不够时的权宜」变成训练流程的核心一环。但也带来「模型崩溃」——在自产数据上反复训练会退化。

能解释:训练数据从哪来的新答案;以及为什么「AI 喂 AI」有隐忧。
C

工程化

结构化输出(JSON mode)

强制模型输出可被程序解析的固定格式。是把「会聊天的模型」接进真实系统的关键一环。

能解释:为什么产品能把模型输出直接喂给下游代码,而不是让人读一段话。

流式输出(Streaming)

边生成边逐 token 吐出,所以你看到「打字机效果」。不是特效,是逐 token 生成的自然呈现。

能解释:为什么 AI 回复是一个字一个字出来的;也解释了首字延迟从哪来。

提示缓存(Prompt Caching)

把重复用的长上下文(系统提示、文档)缓存起来,省去每次重算,大幅降本降延迟。

能解释:为什么长 system prompt 不一定贵、为什么产品要精心设计「哪部分固定」。

多模态(Multimodal)

模型能接收 / 产出文字之外的图像、音频、视频。它把不同模态都转成同一套 token 来处理。

能解释:为什么它能「看图」「听音」;也解释了这些模态各自的准确率短板。

沙箱 / 代码执行

Agent 跑代码、装包、读写文件时,运行在隔离环境里,防止它误伤真实系统。自主性越高,沙箱越关键。

能解释:为什么「能跑代码的 Agent」必须被关在盒子里;能力与风险的取舍。
D

安全与质量

护栏(Guardrails)

在模型输入 / 输出两端加的安全层:过滤有害内容、拦截越界请求、校验格式。是产品「兜底」的一环,独立于模型本身。

能解释:为什么同一个模型在不同产品里「能说 / 不能说」的边界不一样。

提示注入(Prompt Injection)

攻击者把恶意指令藏在网页、文档、邮件里,Agent 读进上下文后被「劫持」。是 Agent 时代最独特的安全风险。

能解释:为什么「能自主读外部内容的 Agent」天生有安全隐患,为什么要限制权限。

评测(Eval)

系统化衡量模型 / Agent 在真实任务上的质量。因为输出是概率性的,「跑一次觉得不错」远远不够,得成规模地测。

能解释:为什么严肃团队都在建 eval;「demo 惊艳、上线拉胯」通常就是没做这个。

LLM-as-Judge(用模型当裁判)

用一个模型去评判另一个模型的输出好坏,替代昂贵的人工评测,是当下 eval 规模化的主流手段之一。

能解释:概率性系统怎么规模化「打分」;也要当心裁判本身带偏差。
E

生态格局

开源 vs 闭源模型

闭源(API 调用,能力常更强)与开源(可本地部署、可改、可控)是两条路线,各有权衡:性能、成本、隐私、可控性。

能解释:为什么有的企业坚持本地开源模型,哪怕性能略逊。

API vs 本地部署

调云端 API(省心、随用随付、数据出门)还是自建部署(可控、数据不出门、要养基建)——形态选择直接影响成本与合规。

能解释:为什么敏感行业不能简单「接个 API」;部署形态是产品决策不是技术细节。

模型路由 / 选型

不同任务用不同模型:简单的用小而快的、难的用强而贵的,动态分配。是控成本、控延迟的常用手段。

能解释:为什么产品里「不是所有请求都用最强模型」;性价比是怎么调出来的。

前沿热概念

近一两年最火、也最容易被误用的一批。核心是一个范式转变:从「把模型练更大」转向「让模型在回答时多花计算去想、去循环」。

推理 / 思维模型(Reasoning)

模型在给答案前先生成一段内部「思考」(推理链),用更多计算换更高准确率——会「想一会儿」再回答。

能解释:为什么新一代模型解难题更强,但更慢、更贵。

思维链(Chain-of-Thought)

让模型「一步步想」再下结论,显著提升推理类任务。它是推理模型的雏形,也是「让它一步步来」这句提示有用的原因。

能解释:为什么拆解步骤能提质;推理模型只是把这一步「内化」了。

测试时计算(Test-time Compute)

不靠把模型练更大,而靠在回答时多花计算(想更久、试多条路再择优)来提升表现。是近一年最重要的范式转变。

能解释:为什么「想得久 = 答得好」,为什么开始按「思考量」计费。

Agentic Loop / 长时程自主循环

Agent 在一个目标下持续自主循环——规划、执行、观察、再规划——跑很多步、很长时间完成复杂任务。这就是当下最火的「自主智能体」形态。

能解释:为什么它能「自己干很久」;也为什么步数一多就容易跑偏(接回 Agent 层的失败模式)。

反思循环(Reflection)

Agent 产出后自我批评、再修正的循环。让它「自查一遍」通常能提质。

能解释:为什么自查有用,也为什么有时会把错误越查越「确信」。

Computer Use(电脑操作智能体)

Agent 直接看屏幕、点鼠标、敲键盘,操作真实软件,而不是只调 API。

能解释:为什么它能「用你的电脑干活」,也为什么慢、脆、必须有安全边界。

Deep Research(深度研究智能体)

Agent 自主多轮检索、交叉验证、汇总成报告——把一次问答升级成一场调研。

能解释:为什么它比单次回答全面,代价是时间和成本。

MoE(混合专家)

模型内部由多个「专家」子网络组成,每次只激活一部分,用更低算力跑更大的模型。偏底层但常被提及。

能解释:为什么有的模型「参数很大,但推理不算贵」。

RLVR(可验证奖励强化学习)

当下推理模型的训练关键。对数学、代码这类答案能自动验证的任务,模型自己生成多条解法、用程序判对错、朝对的方向强化。DeepSeek-R1、o 系列就是这么练强的。相关算法 GRPO、DPO 是圈内高频词。

能解释:为什么推理能力能「自我练出来」,不全靠人工标注。

机制可解释性(Interpretability)

试图打开模型这个黑箱,找出内部的「特征」和「回路」,看它到底怎么想。2026 年的热门方向(被 MIT 评为年度突破),也是安全审计的基础。

能解释:「模型不可解释」正在被攻克;它关系到能不能真正信任模型。

多智能体编排(Multi-Agent)

用一个「编排者」协调多个各司其职的子智能体,完成单个 Agent 搞不定的复杂任务。2026 年企业级落地的主流形态。

能解释:为什么复杂任务要「拆给一队 Agent」;也带来新的协调与失控风险。

世界模型(World Models)

让 AI 学到「环境如何演变」的内部模型,而不只是预测下一个词。被很多人视为通向更强通用智能、机器人、具身智能的路径。

能解释:为什么有人说「光靠语言模型不够」;下一代架构的争论焦点。

Mamba / 状态空间模型(SSM)

Transformer 之外的另一条架构路线,在长序列上更省算力,实践中常和注意力做「混合架构」。是圈内讨论最多的「后 Transformer」候选。

能解释:为什么「Transformer 不是唯一解」;长上下文效率的另一种思路。

Vibe Coding → 目标验证

用自然语言「凭感觉」让 AI 生成可用代码,2025 年爆火;2026 年正演进为「你定目标并验收、一队 Agent 自主实现」的模式。

能解释:AI 编程范式怎么变;为什么「会验收」开始比「会写」更重要。

扩散语言模型(Diffusion LLM)

借鉴图像扩散思路、并行「去噪」生成文本的新路线,潜在更快。仍在早期,但圈内关注度在上升。

能解释:为什么文本生成未必只能一个字一个字地来。

学习资源

每一大块配了可以直接去学的课程。中文优先;英文资源都标注了中文版 / 中字情况,标 收藏 的是团队自己收藏的链接。
建议学法:先用「李宏毅 + 3Blue1Brown」把大模型底层的直觉建起来,再看 Anthropic 官方文档补 Agent / Harness 的工程视角,MCP / Skill 用官方入门课上手,前沿理论按需查阅。配合前面的「玩具版练习」边学边搓,效果最好。

① 大模型底层原理

李宏毅《生成式人工智能导论 2024》中文

台大公开课,中文授课,圈内公认最好的大模型入门到进阶课程之一。从「生成式 AI 是什么」讲到训练三阶段、可解释性、安全,风趣易懂。

3Blue1Brown 深度学习 / Transformer / 注意力官方中文

用可视化把神经网络、Transformer、注意力机制讲得极其直观。有 B 站官方中文频道,配音 + 字幕齐全,最适合建立「机制直觉」。

Karpathy《Deep Dive into LLMs》《Zero to Hero》英文 · B站有中字搬运

前特斯拉 AI 总监、OpenAI 创始成员。前者 3.5 小时讲透 LLM 全训练栈,后者带你从零手搓一个 GPT。深度第一,B 站搜「Karpathy 中字」有搬运版。

模型底层原理(团队收藏)收藏

团队自己收藏的底层原理讲解。

② Harness 与 Agent

Harness 与 Agent(团队收藏)收藏

团队自己收藏的 Harness 与 Agent 讲解。

Anthropic《Building Effective Agents》英文 · 可配翻译

Claude 官方出品的「如何构建高效智能体」权威指南,讲清工作流 vs 智能体、何时该用 Agent、常见设计模式。做 Agent 内容的必读。

Anthropic《Effective Context Engineering》英文 · 可配翻译

官方讲「上下文工程」——前面强调过它是 Agent 的真正瓶颈,这篇是权威原文。

Datawhale 开源 Agent 学习路线中文

国内知名开源学习社区,把 Agent 学习整理成可照做的路线,从基础概念到多智能体,分阶段推进,中文友好。

Hugging Face Agents 课程有中文版

系统讲 AI Agent 开发,免费,官方提供多语言(含中文)翻译,适合动手实践。

③ Skill(技能)

Skill(团队收藏)收藏

团队自己收藏的 Skill 讲解。

Anthropic Agent Skills 官方(Build with Claude)英文 · 可配翻译

官方学习中心,涵盖 Agent Skills(SKILL.md 打包)等概念的一手说明与实践。

④ MCP(模型上下文协议)

MCP(团队收藏)收藏

团队自己收藏的 MCP 讲解。

MCP 官方文档与规范英文 · 可配翻译

modelcontextprotocol.io,一手规范与教程。想真正搞懂「Agent 怎么连工具」看这里。

Anthropic 官方 MCP 入门课英文 · 免费

官方免费入门课程,从零讲清 MCP 是什么、怎么用。

DeepLearning.AI《MCP: Build Rich-Context AI Apps》英文 · 带字幕

吴恩达平台 × Anthropic 合作短课,1 小时 48 分带你动手搭 MCP server 与客户端。

⑤ 进阶 · 前沿理论

Hugging Face LLM 课程有中文版

系统入门大模型与 NLP,从 Transformer 原理到微调、tokenization,免费,含中文翻译。

mlabonne / llm-course英文 · GitHub

GitHub 高星大模型学习路线图,配 Colab 笔记本,从基础到部署一条龙,适合系统进阶。

Datawhale 大模型系列开源教程中文

中文开源教程合集(self-llm 部署微调、so-large-lm 大模型基础等),适合系统补底层与实操。

自测与练习

检验「深入」是否到位的自测题,和逼出深度的动手练习,都放在单独一页,方便反复自测。
打开「自测与练习」页 →
50+ 道自测题(点击展开答案)· 动手练习清单,覆盖四大块全部概念。全部能从机制答出、不靠背诵,就算「深入」阶段验收通过。