22.1K ·GitHub
这是做什么用的？
ONNX Runtime 是一个跨平台的高性能机器学习加速器，可用于推理和训练。它能运行 PyTorch、TensorFlow/Keras 的模型，也支持 scikit-learn、LightGBM、XGBoost 等传统机器学习库的模型。
ONNX Runtime 是一个跨平台的高性能机器学习加速器，可用于推理和训练。它能运行 PyTorch、TensorFlow/Keras 的模型，也支持 scikit-learn、LightGBM、XGBoost 等传统机器学习库的模型。它是集成到我应用里的库，还是独立运行的工具？它是一个运行时，需要集成到你自己的应用或训练脚本里，而不是带界面的独立工具。你把训练好的模型交给它，ONNX Runtime 会针对你的硬件做优化后执行。
它是一个运行时，需要集成到你自己的应用或训练脚本里，而不是带界面的独立工具。你把训练好的模型交给它，ONNX Runtime 会针对你的硬件做优化后执行。我该怎么入门？文档和教程在 onnxruntime.ai/docs，YouTube 上也有视频教程。配套仓库 microsoft/onnxruntime-inference-examples 和 microsoft/onnxruntime-training-examples 里有可以直接运行的示例。
文档和教程在 onnxruntime.ai/docs，YouTube 上也有视频教程。配套仓库 microsoft/onnxruntime-inference-examples 和 microsoft/onnxruntime-training-examples 里有可以直接运行的示例。它能运行哪些框架的模型？支持 PyTorch 和 TensorFlow/Keras 的深度学习模型，也支持 scikit-learn、LightGBM、XGBoost 等类似库的传统机器学习模型。
支持 PyTorch 和 TensorFlow/Keras 的深度学习模型，也支持 scikit-learn、LightGBM、XGBoost 等类似库的传统机器学习模型。它会向 Microsoft 发送遥测数据吗？它可能会收集使用数据并发送给 Microsoft，用于帮助改进产品和服务；具体细节见 Microsoft 的隐私声明。
它可能会收集使用数据并发送给 Microsoft，用于帮助改进产品和服务；具体细节见 Microsoft 的隐私声明。它采用什么许可证——我能用在自己的产品里吗？它采用 MIT 许可证，可以免费使用，包括用在商业产品里。
它采用 MIT 许可证，可以免费使用，包括用在商业产品里。是不是得有一块很强的 GPU 才值得用它？不需要特定硬件——它可以在不同的硬件、驱动和操作系统上运行，有硬件加速器时会加以利用，同时还会进行图优化和变换。
不需要特定硬件——它可以在不同的硬件、驱动和操作系统上运行，有硬件加速器时会加以利用，同时还会进行图优化和变换。它能降低我的推理成本吗？这是它明确宣称的目标：README 中提到推理可以带来更快的客户体验和更低的成本，具体通过图优化以及利用可用的硬件加速器来实现。
这是它明确宣称的目标：README 中提到推理可以带来更快的客户体验和更低的成本，具体通过图优化以及利用可用的硬件加速器来实现。有支持 Qualcomm 的 QNN 加速器的插件吗？有。QNN Plugin EP 维护在一个单独的配套仓库 onnxruntime/onnxruntime-qnn 里，与推理和训练示例仓库并列。
有。QNN Plugin EP 维护在一个单独的配套仓库 onnxruntime/onnxruntime-qnn 里，与推理和训练示例仓库并列。What are similar projects?deeplearning4j, CNTK, TensorRT-LLM, openvino, FlashMLA, spaCy, jeeves, DeepGEMM
deeplearning4j, CNTK, TensorRT-LLM, openvino, FlashMLA, spaCy, jeeves, DeepGEMMWhich topics is it in?ai-framework, keras, scikit-learn, inference-engine, neural-networks, onnx, tensorflow, training, high-performance, transformer, inference, nvidia
ai-framework, keras, scikit-learn, inference-engine, neural-networks, onnx, tensorflow, training, high-performance, transformer, inference, nvidia