5 个课次
谁在跑这个模型
谁在跑这个模型
课程目录
- 第 1 课 Model provider —— 服务模型的那一方
- 第 2 课 远程 provider（Anthropic / OpenAI / Google）
- 第 3 课 本地 provider（Ollama / LM Studio / llama.cpp）
- 第 4 课 Provider 才是速率限制与宕机的来源
- 第 5 课 中间商：Bedrock / Vertex / OpenRouter
本讲回答：模型到底跑在谁的机器上。你会看到模型提供方是实际执行推理的一方——通常是远端服务（Anthropic、OpenAI、Google），也可以是本地跑的 Ollama、LM Studio、llama.cpp。关键区分是：提供方拥有参数所在的硬件，因此速率限制、容量降级、服务中断这一整类问题都出在这里，而不是模型或 harness。还有一层容易被忽略——提供方可能与模型厂商并非同一家公司（Bedrock、Vertex、OpenRouter 都在转售别人的模型）。学完你会知道：卡住时先看谁的状态页，以及离线场景该换哪个端点。
跟谁学习
作者介绍
创作者：苏震巍
具备工程一线的实践经验，也擅长把抽象概念讲得清楚——不堆砌术语，而是从现象出发，先说清「这是什么」，再解释「为什么会这样」，最后落到「实际该怎么用」。他的内容兼顾严谨与可读，适合零基础读者建立完整的知识框架，也适合从业者梳理已有认知。
最终成果
结课作品
暂无