🤖 AI 工程落地教程
把大模型当作一种新的后端组件，用工程视角落地 RAG / Agent / 可观测 / 推理部署 / 成本控制。
适合：后端工程师、想落地 AI 应用的技术负责人 · 前置：熟悉后端开发，对 LLM 有基本了解 · 共 5 章
- 1RAG 系统从 POC 到生产：完整落地要点已发布
检索链路、召回缺陷、幻觉来源、降级与成本，以及为什么 80% 的知识库不可用。
- 2Agent 应用开发：编排、提示工程、边界与降级已发布
Agent 不是越智能越好，边界约束与失败降级才是生产关键。
- 3大模型应用可观测性：监控幻觉、token 成本与调用失败已发布
把 LLM 纳入统一观测体系，而不是黑盒调用。
- 4私有化推理部署：vLLM 选型、算力评估与扩缩容已发布
什么时候必须私有化、什么时候调 API 更划算，成本账怎么算。
- 5AI 项目成本控制：缓存、限流、降级策略已发布
token 账单不可控的根源，与工程侧的成本治理。