开源项目高级

Hugging Face Text Generation Inference

Hugging Face

学习难度高级

适合人群需要部署生产级推理服务的团队

语言英文

费用免费

资源类型开源项目

所属分类模型部署与服务

链接核验2026-10-18

资源简介

Hugging Face 官方推理服务框架，支持连续批处理与张量并行，适合 API 化部署。

推理服务生产

访问资源 ↗

https://github.com/huggingface/text-generation-inference