这是什么？
vLLM 是一个用于快速大语言模型推理和服务的库，核心是 PagedAttention，它能高效管理注意力计算中的键和值所占用的内存。
vLLM 是一个用于快速大语言模型推理和服务的库，核心是 PagedAttention，它能高效管理注意力计算中的键和值所占用的内存。这是我要导入的库，还是独立的服务器？两者都是：它既是一个可以直接用于推理的 Python 库，也自带兼容 OpenAI 的 API 服务器，并支持 Anthropic Messages API 和 gRPC，用于部署模型服务。
两者都是：它既是一个可以直接用于推理的 Python 库，也自带兼容 OpenAI 的 API 服务器，并支持 Anthropic Messages API 和 gRPC，用于部署模型服务。我该如何安装并让它运行起来？可以用 uv 或 pip 安装 vLLM，也可以从源码编译用于开发；文档中有完整的快速入门指南。
可以用 uv 或 pip 安装 vLLM，也可以从源码编译用于开发；文档中有完整的快速入门指南。运行它需要什么硬件？需要受支持的加速器：NVIDIA、AMD 或 Intel 的 GPU，x86/ARM/PowerPC 架构的 CPU，或者 Google TPU、Intel Gaudi、华为昇腾、Apple Silicon 等专用硬件插件。
需要受支持的加速器：NVIDIA、AMD 或 Intel 的 GPU，x86/ARM/PowerPC 架构的 CPU，或者 Google TPU、Intel Gaudi、华为昇腾、Apple Silicon 等专用硬件插件。它能运行我随便找的任何模型吗？它支持 Hugging Face 上的 200 多种模型架构，但不在此列表中的模型（或非常新的架构）在支持添加之前可能无法运行。
它支持 Hugging Face 上的 200 多种模型架构，但不在此列表中的模型（或非常新的架构）在支持添加之前可能无法运行。除了纯文本大语言模型，vLLM 还能运行哪些类型的模型？它支持混合专家（MoE）模型，如 DeepSeek-V3、Mixtral、GPT-OSS；混合注意力/状态空间模型，如 Mamba、Qwen3.5；多模态模型，如 LLaVA、Qwen-VL、Pixtral；以及嵌入/检索模型和奖励/分类模型。
它支持混合专家（MoE）模型，如 DeepSeek-V3、Mixtral、GPT-OSS；混合注意力/状态空间模型，如 Mamba、Qwen3.5；多模态模型，如 LLaVA、Qwen-VL、Pixtral；以及嵌入/检索模型和奖励/分类模型。它支持哪些量化格式？FP8、MXFP8/MXFP4、NVFP4、INT8、INT4、GPTQ/AWQ、GGUF、compressed-tensors、ModelOpt 和 TorchAO 等。
FP8、MXFP8/MXFP4、NVFP4、INT8、INT4、GPTQ/AWQ、GGUF、compressed-tensors、ModelOpt 和 TorchAO 等。vLLM 是如何实现如此高的吞吐量的？它结合了多种技术：用于高效管理 KV 缓存内存的 PagedAttention、连续批处理、分块预填充、前缀缓存、CUDA/HIP 图、优化的注意力和 GEMM/MoE 内核、投机解码，以及基于 torch.compile 的内核生成。
它结合了多种技术：用于高效管理 KV 缓存内存的 PagedAttention、连续批处理、分块预填充、前缀缓存、CUDA/HIP 图、优化的注意力和 GEMM/MoE 内核、投机解码，以及基于 torch.compile 的内核生成。我能同时运行多个 LoRA 适配器吗？可以，vLLM 对稠密模型层和 MoE 模型层都提供了高效的多 LoRA 支持。
可以，vLLM 对稠密模型层和 MoE 模型层都提供了高效的多 LoRA 支持。What are similar projects?sglang, text-generation-inference, Qwen3.8-Flash-Next, ktransformers, TensorRT-LLM, jeeves, project-maya, verl
sglang, text-generation-inference, Qwen3.8-Flash-Next, ktransformers, TensorRT-LLM, jeeves, project-maya, verlWhich topics is it in?blackwell, tpu, gpt-oss, qwen3, llm-serving, model, rocm, kimi, speculative-decoding, mixture-of-experts, model-serving, amd
blackwell, tpu, gpt-oss, qwen3, llm-serving, model, rocm, kimi, speculative-decoding, mixture-of-experts, model-serving, amd