Overview

Full name
docker.io/qwenllm/qwen
Registry
docker.io
Namespace
qwenllm
Repository
qwen
Cached tags
6
Last synced
07/05/2026, 05:53 PM

Introduction

通义千问 Qwen 大模型推理镜像,阿里开源 LLM 本地部署与 OpenAI 兼容 API,中文对话与代码生成私有化推理服务。

Details

qwenllm/qwen 封装通义千问系列大模型推理环境,加载 Qwen 权重提供对话、代码与多轮推理能力。定位为 GPU 大模型推理服务,需 NVIDIA GPU 与足够显存;企业内网中文 LLM 网关、知识问答或代码助手私有化部署。

快速启动

docker run -d --name qwen \
  --gpus all \
  -p 8000:8000 \
  docker.io/qwenllm/qwen:latest

推荐实践

docker run -d --name qwen \
  --gpus all \
  --restart unless-stopped \
  -p 8000:8000 \
  -v /data/qwen-models:/models \
  -e MODEL_PATH=/models/Qwen2.5-7B-Instruct \
  docker.io/qwenllm/qwen:2.5-7b

核心参数说明

  • --gpus all — NVIDIA GPU 必需
  • MODEL_PATH — 模型权重目录
  • -p 8000:8000 — 推理 API 端口
  • 显存 — 7B 模型约需 16G+ VRAM

Latest tags (20)

View all 6 tags →
TagArchPushed AtSizeDigestSyncWishAction
docker.io/qwenllm/qwen
:latest
linux/amd64
2024/06/17 15:3411.2 GBsha256:a07be307f124
docker.io/qwenllm/qwen
:2-cu121
linux/amd64
2024/06/17 15:3311.2 GBsha256:a07be307f124
docker.io/qwenllm/qwen
:1.5-cu121
linux/amd64
2024/03/18 16:359.5 GBsha256:e73218ca1bf7
docker.io/qwenllm/qwen
:cu121
linux/amd64
2024/01/15 12:4712.2 GBsha256:d8c04413ea09
docker.io/qwenllm/qwen
:cu117
linux/amd64
2024/01/15 12:479.0 GBsha256:402320d5e687
docker.io/qwenllm/qwen
:cu114
linux/amd64
2024/01/15 12:469.9 GBsha256:6e897fdc3805