# 模型部署与推理优化路线

> 路线定位：面向模型部署、推理优化、大模型服务、边云端部署和性能调优岗位。重点是把模型能力放进真实系统，而不是只停留在训练阶段。

[返回热门AI学习核心课程与教程总览](README.md) | [返回项目主页](../README.md)

## 先抓主线

部署岗位看的是工程约束：延迟、吞吐、显存、并发、稳定性、成本、可观测性。面试里必须能说明一个模型为什么能上线、怎么上线、上线后怎么优化。

## 推荐顺序

1. 先看模型部署基础概念，建立服务化视角。
2. 再看大模型部署、推理框架和模型压缩。
3. 最后补自定义算子、边云端和真实压测指标。

## 核心跳转

- [模型部署基础总入口](<../模型部署基础/readme.md>)
- [模型部署基础概念](<../模型部署基础/模型部署基础概念.md>)
- [大模型部署](<../模型部署基础/大模型部署.md>)
- [推理框架知识点](<../模型部署基础/推理框架知识点.md>)
- [模型压缩知识点](<../模型部署基础/模型压缩知识点.md>)
- [自定义算子实现](<../模型部署基础/自定义算子实现.md>)
- [边云端部署知识点](<../模型部署基础/边云端部署知识点.md>)
- [数据处理知识点](<../模型部署基础/数据处理知识点.md>)
- [模型评估：多维评估大语言模型](<../大模型基础（精华版）/06_模型评估：多维评估大语言模型.md>)
- [AI 算法岗面试经验汇总](<../AI行业面试求职经验指南/AI算法岗面试经验汇总.md>)

## 本页产出

- 一份模型服务压测报告，包含 TTFT、TPS、吞吐、并发、显存和 P95/P99 延迟。
- 一张推理优化决策表，说明量化、Batch、KV Cache、框架选型分别解决什么。
- 一个可复盘的优化前后对比。

## 验收清单

- [ ] 我能解释为什么训练框架不能直接等同于线上推理系统。
- [ ] 我能讲清大模型推理和传统模型推理的差异。
- [ ] 我能从指标出发定位瓶颈，而不是只说“换更大的 GPU”。

[返回热门AI学习核心课程与教程总览](README.md) | [返回项目主页](../README.md)