# 异步连续批处理：打破 LLM 推理中的 CPU-GPU 同步瓶颈

Hugging Face 团队提出异步批处理技术，通过分离 CPU 批次准备与 GPU 计算，消除推理循环中的空闲间隙，可将 GPU 利用率提升至接近 100%，吞吐量提升可达 20% 以上。