AI 工程师路线

从数据处理到 LLMOps,建立完整的生产级工程能力

需要 Python 与机器学习基础 约 4–6 个月(每天 1–2 小时) 9 个步骤

路线目标

学完后能够独立完成从数据准备、模型训练/调用、效果评测到部署监控的完整工程闭环,把机器学习或大模型应用可靠地推进到生产环境。

适合人群:已掌握 Python 与机器学习基础、目标是成为 AI / LLM 工程师的学习者

  1. 第 1 步:工程化 Python 基础

    从「会写脚本」进阶到「会写工程」:掌握虚拟环境、测试与代码组织,通过项目教程练手。

    💡 能跑起来的代码和能维护的代码是两回事,尽早建立工程习惯。

  2. 第 2 步:数学与机器学习

    建立概率与统计的直觉,系统学习经典机器学习方法与评估指标。

    💡 评估指标比模型本身更重要,务必理解每个指标在优化什么。

  3. 第 3 步:深度学习与自然语言处理

    掌握深度学习基础与 NLP 核心概念,读懂 Transformer 原始论文,理解预训练与微调范式。

    💡 Jay Alammar 的图解 Transformer 是读论文前的最佳预热。

  4. 第 4 步:大模型应用开发

    熟练调用主流大模型 API,理解上下文学习、提示工程与多提供商管理,能用 API 网关统一调度。

    💡 生产环境要考虑多模型备份与成本控制,LiteLLM 这类网关很实用。

  5. 第 5 步:RAG 系统工程

    掌握检索、切分、重排与混合检索的工程细节,用评测框架量化检索与生成质量。

    💡 RAG 的质量大头在检索与上下文设计,不在换更大的模型。

  6. 第 6 步:Agent 与 MCP

    理解 Agent 的工具调用与编排,掌握 MCP 协议,能把内部系统封装成标准工具供模型使用。

    💡 MCP 是企业内部系统接入 AI 的标准化路径,值得重点投入。

  7. 第 7 步:微调与模型定制

    了解 LoRA 等参数高效微调方法,用 LLaMA-Factory 在自己的数据上微调开源模型。

    💡 先用提示工程与 RAG 解决问题,确有效果瓶颈再考虑微调。

  8. 第 8 步:部署与 LLMOps

    使用 vLLM、TGI 部署推理服务,用 MLflow 与 W&B 管理实验与模型版本,建立监控与告警。

    💡 Made With ML 与 Full Stack Deep Learning 是这一阶段最好的两门课。

  9. 第 9 步:评测、安全与综合实战

    建立系统化的评测与红队意识,参照 AI 工程师路线仓库的项目清单完成一个综合项目。

    💡 用一个完整的作品收尾:它既是能力证明,也是求职时最好的名片。