qwenllm/qwenvl 运行通义千问 Qwen-VL 视觉语言模型推理服务，支持图像理解与图文对话。定位为 GPU 多模态 LLM 服务，需 NVIDIA GPU 与大显存；视觉问答、文档 OCR 理解或多模态 Agent 后端，不适合 CPU 或无 GPU 环境。

快速启动

docker run -d --name qwenvl \
  --gpus all \
  -p 8000:8000 \
  docker.io/qwenllm/qwenvl:latest

推荐实践

docker run -d --name qwenvl \
  --restart unless-stopped \
  --gpus all \
  -p 8000:8000 \
  -v /data/qwenvl:/models \
  docker.io/qwenllm/qwenvl:2.0

核心参数说明

• --gpus all — 必需 NVIDIA GPU
• -p 8000:8000 — OpenAI 兼容 API
• -v .../models:... — 模型权重目录
• 资源 — 7B+ 模型需 16GB+ 显存