用 AI 构筑
未来物理世界的实战基地

本讲讲清一件让长会话从「贵得离谱」变成「可以接受」的机制：前缀缓存。会话是只追加的，每一次请求都在前一次的基础上多了几条消息，因此开头那一大段完全相同。提供方把这段共享前缀处理一次，存下来，后续命中就按缓存 token 计费——往往只有输入价的一成或更低。代价是它极其脆弱：精确前缀匹配，一旦中途有任何内容变化（改动了更早的消息、时间戳刷新、文件表示变化），缓存从那一刻起全部失效。缓存还会静默过期，闲置几分钟后恢复会话要先按全价重付一次。学完你会知道：账单突然跳涨时，先去对比 usage 报告里的缓存 token 与输入 token。

本讲讲一个字典里最特殊的词：Agent。它不像其他条目那样指某个机械部件——模型是参数文件，harness 是你能指认的软件，而 agent 是两者的组合，是你实际在对话的那个对象。人们不断把 AI 拟人化，agent 就是那个被拟人化的单位：你交代任务的对象、读你消息并回答的对象、你还说「它又把构建弄坏了」里的那个「它」。这个概念的年纪比这一波 AI 更老——把目标委托给程序、让它替你行动，和 AI 本身一样久远。本讲还区分它与相邻词：模型是零件，harness 是壳，agent 是整体；以及为什么「the AI」「the bot」都是该避免的模糊称呼。

本讲区分模型「知道」的两种来源——这个区分决定了大多数错误的修法。参数知识是训练后冻结在参数里的东西，稠密话题上流畅可靠，冷门话题上就开始编造，而且它停在知识截止那一天之后不再更新。上下文知识是此刻窗口里读得到的材料：你的任务、它读进来的文件、工具结果、AGENTS.md。两者最实用的一条规律是：冲突时上下文通常赢——粘贴当前 API 文档，它会照着读，而不是回忆旧版本。但有两面性：只有上下文知识归你控制（参数改不了，唯一杠杆是把事实放进窗口），而当它明明有文档却退回旧写法，那是参数知识在长会话深处重新渗漏出来。