这是什么？
MLC LLM 是一个机器学习编译器和高性能部署引擎，让你几乎可以在任何平台上原生运行大语言模型，从服务器、手机到浏览器都行。
MLC LLM 是一个机器学习编译器和高性能部署引擎，让你几乎可以在任何平台上原生运行大语言模型，从服务器、手机到浏览器都行。这是编译器、运行时，还是两者都是？两者都是：它用机器学习编译技术编译模型，然后通过 MLCEngine 运行，MLCEngine 是一个统一的推理引擎，在所有支持的平台上通用。
两者都是：它用机器学习编译技术编译模型，然后通过 MLCEngine 运行，MLCEngine 是一个统一的推理引擎，在所有支持的平台上通用。我该怎么让它跑起来？README 本身没有一条现成的快速命令；你需要按照项目文档中的 Installation 和 Quick start 指南，为你的目标平台完成 MLC LLM 的安装配置。
README 本身没有一条现成的快速命令；你需要按照项目文档中的 Installation 和 Quick start 指南，为你的目标平台完成 MLC LLM 的安装配置。我的硬件需要什么 GPU 后端？这取决于你的设备：AMD GPU 用 Vulkan 或 ROCm，NVIDIA GPU 用 Vulkan 或 CUDA，Apple GPU 用 Metal，Intel GPU 用 Vulkan；浏览器中用 WebGPU/WASM，移动端 GPU 用 OpenCL。
这取决于你的设备：AMD GPU 用 Vulkan 或 ROCm，NVIDIA GPU 用 Vulkan 或 CUDA，Apple GPU 用 Metal，Intel GPU 用 Vulkan；浏览器中用 WebGPU/WASM，移动端 GPU 用 OpenCL。每个 GPU 厂商在每个平台上都能用吗？不能，支持情况是按矩阵划分的，并不统一：例如 NVIDIA GPU 不支持 macOS，AMD GPU 在 web、iOS 和 Android 后端中不可用。
不能，支持情况是按矩阵划分的，并不统一：例如 NVIDIA GPU 不支持 macOS，AMD GPU 在 web、iOS 和 Android 后端中不可用。什么是 MLCEngine？MLCEngine 是统一的高性能推理引擎，MLC LLM 会把模型编译成它来运行；同一个引擎可以在服务器、iOS、Android 和网页浏览器上运行。
MLCEngine 是统一的高性能推理引擎，MLC LLM 会把模型编译成它来运行；同一个引擎可以在服务器、iOS、Android 和网页浏览器上运行。它提供兼容 OpenAI 的 API 吗？提供。MLCEngine 通过 REST 服务器提供兼容 OpenAI 的 API，同时还提供 Python、JavaScript、iOS 和 Android 的绑定，这些都由同一个引擎支撑。
提供。MLCEngine 通过 REST 服务器提供兼容 OpenAI 的 API，同时还提供 Python、JavaScript、iOS 和 Android 的绑定，这些都由同一个引擎支撑。为什么要编译模型，而不是直接用 PyTorch 运行？机器学习编译可以让 MLC LLM 生成针对硬件优化的代码（Vulkan、CUDA、Metal、ROCm、OpenCL、WebGPU），使同一个模型能在差异很大的平台上高效运行；通用框架的运行时开箱即用时做不到这一点。
机器学习编译可以让 MLC LLM 生成针对硬件优化的代码（Vulkan、CUDA、Metal、ROCm、OpenCL、WebGPU），使同一个模型能在差异很大的平台上高效运行；通用框架的运行时开箱即用时做不到这一点。MLC LLM 底层用的是什么技术？它构建在 TVM 机器学习编译栈之上，项目用它为每个目标平台生成并优化推理代码。
它构建在 TVM 机器学习编译栈之上，项目用它为每个目标平台生成并优化推理代码。What are similar projects?tvm, qxotic, rizzo-flow, decider, llama.cpp, web-llm, qwen38-mtp, tilelang
tvm, qxotic, rizzo-flow, decider, llama.cpp, web-llm, qwen38-mtp, tilelang