NVIDIA NIM 支持 Hugging Face 上超 10 万个 LLM 的一键部署

NVIDIA NIM 推出单一 Docker 容器，可在 Hugging Face 上快速部署超过 100,000 个 LLM。容器会自动识别模型格式、架构与量化方式（如 FP16、FP8、GGUF、AWQ），并从 NVIDIA TensorRT-LLM、vLLM 和 SGLang 中选择推理后端，无需手动配置。