镜像概览
- 完整引用
docker.io/nalanzeyu/vllm-gfx906- Registry
- docker.io
- 命名空间
- nalanzeyu
- 仓库
- vllm-gfx906
- 已缓存 Tag 数
- 16
- 最近同步
- 07/05/2026, 12:47 PM
- 相关主题
简介
vLLM AMD ROCm gfx906 GPU 推理镜像，MI50/Vega 等显卡大模型 serving，AMD GPU 私有化 LLM API 运行时。
详细介绍
nalanzeyu/vllm-gfx906 提供针对 AMD gfx906 架构（如 Radeon MI50）优化的 vLLM 推理构建，支持 OpenAI 兼容 API 高吞吐 LLM serving。定位为 AMD GPU LLM 推理服务，需 ROCm 驱动与 gfx906 硬件；AMD 服务器私有化大模型 API、信创 GPU 环境 LLM 部署或替代 NVIDIA vLLM 方案。
快速启动
docker run -d --name vllm-amd \
--device=/dev/kfd --device=/dev/dri \
-p 8000:8000 \
docker.io/nalanzeyu/vllm-gfx906:latest \
--model meta-llama/Llama-2-7b-chat-hf
推荐实践
docker run -d --name vllm-amd \
--device=/dev/kfd --device=/dev/dri \
--restart unless-stopped \
-p 8000:8000 \
-v /data/models:/models \
docker.io/nalanzeyu/vllm-gfx906:0.6.0 \
--model /models/llama-7b
核心参数说明
/dev/kfd /dev/dri— ROCm GPU 设备-p 8000— OpenAI 兼容 API- 架构 — 仅 gfx906 兼容卡
-v .../models:...— 模型权重目录
最新 Tag（20 条）
查看全部 16 个 Tag →| Tag | 架构 | 推送时间 | 大小 | Digest | 同步 | 期望 | 操作 |
|---|---|---|---|---|---|---|---|
docker.io/nalanzeyu/vllm-gfx906 :latest | linux/amd64 | 2026/02/20 17:56 | 4.4 GB | sha256:3947c605b62a… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.12.0-rocm6.3 | linux/amd64 | 2026/02/20 17:55 | 4.4 GB | sha256:3947c605b62a… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.11.2-rocm6.3 | linux/amd64 | 2025/12/15 09:34 | 4.4 GB | sha256:3893af6aff34… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.11.0.update1-rocm6.3 | linux/amd64 | 2025/12/09 03:26 | 4.4 GB | sha256:0bd989a3e88f… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.11.0-rocm6.3 | linux/amd64 | 2025/12/09 03:15 | 4.4 GB | sha256:82832db78a0a… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.10.2-rocm6.3 | linux/amd64 | 2025/12/09 03:08 | 4.4 GB | sha256:d18d74b84ab3… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.10.1.update2-rocm6.3 | linux/amd64 | 2025/10/06 20:35 | 5.8 GB | sha256:0a9ee8839d73… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.10.1.update1-rocm6.3 | linux/amd64 | 2025/09/14 18:27 | 5.8 GB | sha256:986ba98a16d8… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.10.1-rocm6.3 | linux/amd64 | 2025/09/13 00:57 | 5.8 GB | sha256:a6cf26ad24b4… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.9.2.update4-rocm6.3 | linux/amd64 | 2025/09/10 02:13 | 5.7 GB | sha256:8ccdc6adf7f1… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.9.2.update3-rocm6.3 | linux/amd64 | 2025/09/01 03:39 | 5.7 GB | sha256:74a3430f3b16… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.9.2.update2-rocm6.3 | linux/amd64 | 2025/08/24 03:39 | 5.7 GB | sha256:0b9ffc72dd90… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.9.2.update1-rocm6.3 | linux/amd64 | 2025/08/16 14:50 | 5.7 GB | sha256:b60abd2a3607… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.9.2-rocm6.3 | linux/amd64 | 2025/07/08 13:22 | 5.7 GB | sha256:8d455b57f25a… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.9.1-rocm6.3 | linux/amd64 | 2025/06/10 22:01 | 5.7 GB | sha256:02c30649e1e3… | |||
docker.io/nalanzeyu/vllm-gfx906 :v0.9.0-rocm6.3 | linux/amd64 | 2025/05/28 02:16 | 5.7 GB | sha256:d195b4e46edc… |