AI 工程师路线
从数据处理到 LLMOps,建立完整的生产级工程能力
路线目标
学完后能够独立完成从数据准备、模型训练/调用、效果评测到部署监控的完整工程闭环,把机器学习或大模型应用可靠地推进到生产环境。
适合人群:已掌握 Python 与机器学习基础、目标是成为 AI / LLM 工程师的学习者
-
第 1 步:工程化 Python 基础
从「会写脚本」进阶到「会写工程」:掌握虚拟环境、测试与代码组织,通过项目教程练手。
💡 能跑起来的代码和能维护的代码是两回事,尽早建立工程习惯。
-
第 2 步:数学与机器学习
建立概率与统计的直觉,系统学习经典机器学习方法与评估指标。
💡 评估指标比模型本身更重要,务必理解每个指标在优化什么。
-
第 3 步:深度学习与自然语言处理
掌握深度学习基础与 NLP 核心概念,读懂 Transformer 原始论文,理解预训练与微调范式。
💡 Jay Alammar 的图解 Transformer 是读论文前的最佳预热。
-
第 4 步:大模型应用开发
熟练调用主流大模型 API,理解上下文学习、提示工程与多提供商管理,能用 API 网关统一调度。
💡 生产环境要考虑多模型备份与成本控制,LiteLLM 这类网关很实用。
-
第 5 步:RAG 系统工程
掌握检索、切分、重排与混合检索的工程细节,用评测框架量化检索与生成质量。
💡 RAG 的质量大头在检索与上下文设计,不在换更大的模型。
-
第 6 步:Agent 与 MCP
理解 Agent 的工具调用与编排,掌握 MCP 协议,能把内部系统封装成标准工具供模型使用。
💡 MCP 是企业内部系统接入 AI 的标准化路径,值得重点投入。
-
第 7 步:微调与模型定制
了解 LoRA 等参数高效微调方法,用 LLaMA-Factory 在自己的数据上微调开源模型。
💡 先用提示工程与 RAG 解决问题,确有效果瓶颈再考虑微调。
-
第 8 步:部署与 LLMOps
使用 vLLM、TGI 部署推理服务,用 MLflow 与 W&B 管理实验与模型版本,建立监控与告警。
- vLLM 官方文档
- Hugging Face Text Generation Inference
- MLflow 官方文档
- Made With ML 课程
- Weights & Biases 文档
- Full Stack Deep Learning
💡 Made With ML 与 Full Stack Deep Learning 是这一阶段最好的两门课。
-
第 9 步:评测、安全与综合实战
建立系统化的评测与红队意识,参照 AI 工程师路线仓库的项目清单完成一个综合项目。
💡 用一个完整的作品收尾:它既是能力证明,也是求职时最好的名片。