做深入浅出的 AI 内容,前提是团队真的深入。这份地图分四块:核心必懂(大模型 / Agent / Harness 的地基)、进阶该懂(拉开深度的底层机制)、应用层(MCP / Skill 等接入与生态)、前沿热概念(推理与自主循环)。
深到能预测和解释,浅到不必会造。你们是做内容、不是做研发,所需深度由产出倒推——永远比读者深一层,能从机制推出行为、能解释任何反常现象,但不需要亲手实现这个机制。判断线不是「你会不会造」,而是「你能不能从原理推出行为」。
本质是逐 token 的概率预测,不是检索、不是查数据库;采样带随机性(同一 prompt 结果会变);上下文窗口是有限预算,窗口外它根本不知道;一次调用之间没有记忆;tokenization(所以数不清字母、中文更耗 token);预训练与后训练(指令微调 / RLHF)是两回事;知识截止、幻觉是结构性必然而非 bug。注意力懂到「看全部 token、按相关性加权」这个概念层即可。
反向传播的数学、矩阵运算细节、自己推导注意力公式、CUDA、真的去训练一个模型。这些是研发的活,对内容没有边际收益。
Agent 不是更聪明的模型,而是「模型 + 工具 + 把工具结果喂回上下文的控制循环」。核心是 think→act→observe 这个环:模型决定调什么工具,工具去碰真实世界,结果再塞回上下文。所谓「智能」还是那个模型在选下一个 token,工具只是手脚。更关键是懂它为什么失败:错误跨步累积、上下文被污染、一旦「迷路」很难自己爬出来——这些失败模式才是深度内容最值钱的地方。
从零手撸一个生产级框架、多智能体调度的工程细节。理解循环本身,不必掌握工程化实现。
Harness 就是模型外面那层脚手架:系统提示、工具定义、上下文管理、结果截断与格式化、token 预算、护栏。必须真懂的核心只有一句:用户体验到的「那个 AI」,是模型和 harness 不可分割的合体,你观察到的大量「模型行为」其实是 harness 塑造出来的。同一个模型放在 claude.ai、Cursor、裸 API 下,行为可以天差地别,差的就是 harness。
系统提示塑造一切;上下文窗口是被 harness 管理的预算;工具结果被 harness 格式化和截断;同一模型在不同 harness 下行为迥异。绝大多数「模型不行」的抱怨,追下去其实是「harness 没让它行」。
具体某个产品 harness 的私有实现细节。理解「harness 在塑造行为」这个因果,比背某一套实现更重要。
注意力虽看全部 token,但有明显位置效应——开头和结尾权重高、中间容易被忽略(业内叫 lost in the middle),长上下文还会「稀释」指令。
能解释:「我明明说了它却没照做」,多半是位置/稀释问题,不是模型变笨。语气、爱道歉、爱列点、谄媚附和(sycophancy)、过度自信,这些是 RLHF 塑造出来的,不是模型「本性」,也不是预训练里的知识。
能解释:「为什么它总是顺着我说 / 总在道歉 / 总爱列点」。模型对正确答案和错误答案可以一样自信。它输出的「确定语气」和「实际正确率」是两回事,二者的偏差就是校准问题。
能解释:「为什么它一本正经地胡说」「为什么它错得那么理直气壮」。给几个例子它就照做、换个措辞结果大变——这是 in-context learning,本质是模式匹配而非真正「理解」。这是所有提示技巧的底层原理。
能解释:为什么 few-shot 有用、为什么措辞如此敏感;写 Prompt 教程才讲得清所以然。更大、更多数据就更强,但某个能力何时出现没人能精确预测——能力是涌现出来的,不是设计出来的。这解释了整个行业为什么在「炼丹」。
能解释:为什么厂商也说不准下一代能干什么;对「路线图」保持清醒。「测得好」不等于「真的好」。benchmark 污染、过拟合刷分很普遍,跑分高的模型实际未必强。
能解释:为什么不能照搬夸大的跑分;内容里对榜单要留一手。temperature、top-p 控制着「确定 vs 发散」。同一个模型调低就更稳、调高就更有创造性也更容易跑偏——随机性不是玄学,是参数。
能解释:为什么有的场景要「冷」有的要「热」;创造性和可靠性的取舍从哪来。训练完模型知识就定格了。要接实时或私有知识,只能靠检索(RAG)把资料喂进上下文——模型本身并没有「学到」新东西。
能解释:为什么要做知识库、为什么「喂了资料才准」;顺带接上 Agent 那层。现在几乎所有大模型的骨架。核心是自注意力:每个词都同时「看」上下文里所有词、按相关性加权组合。前面讲的「上下文」「注意力」「位置效应」都落在这个结构上。
能解释:为什么模型能并行吃下长文本、为什么「注意力」是一切的核心。让模型行为符合人类意图与价值观的一整套方法:RLHF、宪法式 AI(Constitutional AI)、RLAIF、DPO 等。后训练里「让它有用又无害」的部分就属于对齐。
能解释:「乐于助人 / 拒绝有害请求」从哪来;也是 AI 安全争议的核心。模型并不真的「执行」函数,它只是输出一段结构化文本(function call),由 harness 解析、执行、再把结果喂回上下文。它始终只是在生成文本。
能解释:消除一大半对 Agent 的误解——动作是外面那层替它做的。给 Agent 喂什么、怎么组织、何时清理上下文,往往比换个更强的模型更决定成败。这是当下 Agent 的核心手艺。
能解释:为什么「模型够强了 Agent 还是不行」;把视角从「模型」抬高到「上下文」。Agent 的「记忆」不是模型天生的,而是外部存储 + 检索造出来的:短期记忆在上下文里,长期记忆在外面。
能解释:「为什么它一会儿记得住一会儿又忘」。传统软件每次结果相同,Agent 每次都可能不一样。于是「测试」「可靠性」「上线」对 Agent 是全新问题——这是落地最大的障碍。
能解释:为什么 Agent 难以「保证」;这是内容里最值钱、最少人讲清的角度。每走一步都要一次模型推理,还按 token 计费——所以 Agent 天然又慢又贵。这决定了几乎所有 Agent 产品的形态约束。
能解释:为什么 Agent 产品要限制步数、要做缓存、要「够用就停」。Agent 会拆解任务、自我检查(planning / reflection),但这些能力建立在概率生成之上,一旦前提判断错,后面会顺着错下去。
能解释:为什么它「计划做得漂亮却执行翻车」;反思也可能自我强化错误。Agent 有自主性,但危险操作(发钱、删数据、对外发送)必须卡人工审批。自主性的边界是设计出来的,不是模型自带的。
能解释:为什么负责任的 Agent 都要 human-in-the-loop;自主 ≠ 放任。| 概念 | 一句话本质 | 它给模型的是 |
|---|---|---|
| Tool / 函数调用 | 让模型触发一个动作(查天气、发邮件、跑代码) | 一双手 |
| MCP | 统一标准,让 Agent 用同一种方式接入各种工具与数据源 | 统一的接线口 |
| Skill | 打包好的知识 / 工作流,按需加载,教它「这类任务怎么做」 | 一本说明书 |
| RAG / 知识库 | 把外部资料检索出来喂进上下文,补它没背过的事实 | 一个记忆外挂 |
| Plugin / 插件 | 把上面这些打包、分发、安装的容器,常聚合成市场 | 一个盒子 |
一个开放标准,把「每个工具各写一套对接」变成「一次对接、到处可用」。Server 暴露工具 / 数据 / 提示,Client(harness)统一去调。相当于 AI 工具生态的 USB-C。
能解释:为什么它能快速接入一堆外部能力,而不用为每个服务重写代码。本质是结构化的知识 + 工作流(可带脚本),按需加载进上下文。它不给模型新「感官」,而是教它「这类事该按什么步骤、什么标准做」。
能解释:为什么同一个模型加载了 Skill 后,在某类任务上突然「专业」了。连接外部 SaaS / 数据源的对接件(Slack、数据库、网盘等)。MCP 可以理解为「连接器的统一标准」,让连接器不再各说各话。
能解释:为什么「接入你的公司数据」是一类独立能力,和模型强不强无关。把 MCP、Skill、工具打包成可安装单元,再聚合成市场分发。是生态从「自己搭」走向「装一下就能用」的关键。
能解释:为什么 AI 产品开始有「应用商店」形态,生态怎么长起来。让不同来源的 Agent 能互相对话、协作的开放标准(Agent2Agent、ACP)。如果说 MCP 解决「Agent 连工具」,A2A 解决「Agent 连 Agent」,2026 年落地很快。
能解释:多智能体生态怎么互通;A2A 与 MCP 是互补,不是替代。先检索相关资料、再喂给模型生成答案。解决知识冻结和私有数据两个问题——模型没「学到」新东西,只是当场「查着答」。
能解释:为什么要建知识库、为什么「喂了资料才准」、为什么检索质量决定答案质量。把文字变成向量,用「语义距离」找相似内容,是 RAG 的检索地基。语义相近的东西向量也相近。
能解释:为什么它能按「意思」而非「关键词」检索;RAG 找不准往往错在这一层。用特定数据继续训练,改变模型的默认行为 / 风格 / 格式。改的是「模型本身的倾向」,不是喂给它的临时资料。
能解释:它和 RAG 的根本区别——微调改「性格」,RAG 补「事实」。让模型「更贴合你」有三条路:提示工程(最轻,改说法)、RAG(补事实,接私有知识)、微调(最重,改行为倾向)。先用轻的,不够再上重的。
能解释:大多数需求用提示 + RAG 就够,动辄微调是常见的过度工程。两种让大模型变小变便宜的手段:量化降精度省显存,蒸馏用大模型「教」出能力接近的小模型。是模型能跑在本地 / 手机 / 低成本环境的关键。
能解释:为什么「小模型」能力越来越逼近大模型;本地部署怎么成为可能。用 AI 生成的数据来训练 AI,已从「数据不够时的权宜」变成训练流程的核心一环。但也带来「模型崩溃」——在自产数据上反复训练会退化。
能解释:训练数据从哪来的新答案;以及为什么「AI 喂 AI」有隐忧。强制模型输出可被程序解析的固定格式。是把「会聊天的模型」接进真实系统的关键一环。
能解释:为什么产品能把模型输出直接喂给下游代码,而不是让人读一段话。边生成边逐 token 吐出,所以你看到「打字机效果」。不是特效,是逐 token 生成的自然呈现。
能解释:为什么 AI 回复是一个字一个字出来的;也解释了首字延迟从哪来。把重复用的长上下文(系统提示、文档)缓存起来,省去每次重算,大幅降本降延迟。
能解释:为什么长 system prompt 不一定贵、为什么产品要精心设计「哪部分固定」。模型能接收 / 产出文字之外的图像、音频、视频。它把不同模态都转成同一套 token 来处理。
能解释:为什么它能「看图」「听音」;也解释了这些模态各自的准确率短板。Agent 跑代码、装包、读写文件时,运行在隔离环境里,防止它误伤真实系统。自主性越高,沙箱越关键。
能解释:为什么「能跑代码的 Agent」必须被关在盒子里;能力与风险的取舍。在模型输入 / 输出两端加的安全层:过滤有害内容、拦截越界请求、校验格式。是产品「兜底」的一环,独立于模型本身。
能解释:为什么同一个模型在不同产品里「能说 / 不能说」的边界不一样。攻击者把恶意指令藏在网页、文档、邮件里,Agent 读进上下文后被「劫持」。是 Agent 时代最独特的安全风险。
能解释:为什么「能自主读外部内容的 Agent」天生有安全隐患,为什么要限制权限。系统化衡量模型 / Agent 在真实任务上的质量。因为输出是概率性的,「跑一次觉得不错」远远不够,得成规模地测。
能解释:为什么严肃团队都在建 eval;「demo 惊艳、上线拉胯」通常就是没做这个。用一个模型去评判另一个模型的输出好坏,替代昂贵的人工评测,是当下 eval 规模化的主流手段之一。
能解释:概率性系统怎么规模化「打分」;也要当心裁判本身带偏差。闭源(API 调用,能力常更强)与开源(可本地部署、可改、可控)是两条路线,各有权衡:性能、成本、隐私、可控性。
能解释:为什么有的企业坚持本地开源模型,哪怕性能略逊。调云端 API(省心、随用随付、数据出门)还是自建部署(可控、数据不出门、要养基建)——形态选择直接影响成本与合规。
能解释:为什么敏感行业不能简单「接个 API」;部署形态是产品决策不是技术细节。不同任务用不同模型:简单的用小而快的、难的用强而贵的,动态分配。是控成本、控延迟的常用手段。
能解释:为什么产品里「不是所有请求都用最强模型」;性价比是怎么调出来的。模型在给答案前先生成一段内部「思考」(推理链),用更多计算换更高准确率——会「想一会儿」再回答。
能解释:为什么新一代模型解难题更强,但更慢、更贵。让模型「一步步想」再下结论,显著提升推理类任务。它是推理模型的雏形,也是「让它一步步来」这句提示有用的原因。
能解释:为什么拆解步骤能提质;推理模型只是把这一步「内化」了。不靠把模型练更大,而靠在回答时多花计算(想更久、试多条路再择优)来提升表现。是近一年最重要的范式转变。
能解释:为什么「想得久 = 答得好」,为什么开始按「思考量」计费。Agent 在一个目标下持续自主循环——规划、执行、观察、再规划——跑很多步、很长时间完成复杂任务。这就是当下最火的「自主智能体」形态。
能解释:为什么它能「自己干很久」;也为什么步数一多就容易跑偏(接回 Agent 层的失败模式)。Agent 产出后自我批评、再修正的循环。让它「自查一遍」通常能提质。
能解释:为什么自查有用,也为什么有时会把错误越查越「确信」。Agent 直接看屏幕、点鼠标、敲键盘,操作真实软件,而不是只调 API。
能解释:为什么它能「用你的电脑干活」,也为什么慢、脆、必须有安全边界。Agent 自主多轮检索、交叉验证、汇总成报告——把一次问答升级成一场调研。
能解释:为什么它比单次回答全面,代价是时间和成本。模型内部由多个「专家」子网络组成,每次只激活一部分,用更低算力跑更大的模型。偏底层但常被提及。
能解释:为什么有的模型「参数很大,但推理不算贵」。当下推理模型的训练关键。对数学、代码这类答案能自动验证的任务,模型自己生成多条解法、用程序判对错、朝对的方向强化。DeepSeek-R1、o 系列就是这么练强的。相关算法 GRPO、DPO 是圈内高频词。
能解释:为什么推理能力能「自我练出来」,不全靠人工标注。试图打开模型这个黑箱,找出内部的「特征」和「回路」,看它到底怎么想。2026 年的热门方向(被 MIT 评为年度突破),也是安全审计的基础。
能解释:「模型不可解释」正在被攻克;它关系到能不能真正信任模型。用一个「编排者」协调多个各司其职的子智能体,完成单个 Agent 搞不定的复杂任务。2026 年企业级落地的主流形态。
能解释:为什么复杂任务要「拆给一队 Agent」;也带来新的协调与失控风险。让 AI 学到「环境如何演变」的内部模型,而不只是预测下一个词。被很多人视为通向更强通用智能、机器人、具身智能的路径。
能解释:为什么有人说「光靠语言模型不够」;下一代架构的争论焦点。Transformer 之外的另一条架构路线,在长序列上更省算力,实践中常和注意力做「混合架构」。是圈内讨论最多的「后 Transformer」候选。
能解释:为什么「Transformer 不是唯一解」;长上下文效率的另一种思路。用自然语言「凭感觉」让 AI 生成可用代码,2025 年爆火;2026 年正演进为「你定目标并验收、一队 Agent 自主实现」的模式。
能解释:AI 编程范式怎么变;为什么「会验收」开始比「会写」更重要。借鉴图像扩散思路、并行「去噪」生成文本的新路线,潜在更快。仍在早期,但圈内关注度在上升。
能解释:为什么文本生成未必只能一个字一个字地来。用可视化把神经网络、Transformer、注意力机制讲得极其直观。有 B 站官方中文频道,配音 + 字幕齐全,最适合建立「机制直觉」。
前特斯拉 AI 总监、OpenAI 创始成员。前者 3.5 小时讲透 LLM 全训练栈,后者带你从零手搓一个 GPT。深度第一,B 站搜「Karpathy 中字」有搬运版。
Claude 官方出品的「如何构建高效智能体」权威指南,讲清工作流 vs 智能体、何时该用 Agent、常见设计模式。做 Agent 内容的必读。
国内知名开源学习社区,把 Agent 学习整理成可照做的路线,从基础概念到多智能体,分阶段推进,中文友好。
官方学习中心,涵盖 Agent Skills(SKILL.md 打包)等概念的一手说明与实践。
从下载安装、主界面和权限设置,到模型选择、技能、连接器与实战演练,完整走一遍 Agent 工具的实际使用流程。建议边看边完成一个真实任务。