vLLM / 推理优化

把 token 成本打下来

PagedAttention + 连续批处理，大幅提升推理吞吐。配套量化、投机解码、张量并行。