Overview

Full name
docker.io/qwenllm/qwen3-omni
Registry
docker.io
Namespace
qwenllm
Repository
qwen3-omni
Cached tags
2
Last synced
07/06/2026, 07:47 AM

Introduction

通义千问 Qwen3-Omni 多模态大模型推理镜像,支持文本/语音/图像联合理解,需 GPU 节点运行 vLLM 或官方推理栈。

Details

qwenllm/qwen3-omni 打包 Qwen3-Omni 权重与推理入口,面向多模态对话与实时语音交互。定位为 GPU 推理服务,需 --gpus all、大显存与 HuggingFace 模型缓存 volume;裸机 docker 或带 GPU 节点池的 K8s 部署, CPU 常驻 Web。

快速启动

docker run -d --name qwen3-omni \
  -p 8000:8000 \
  --gpus all \
  -e MODEL=qwen3-omni \
  docker.io/qwenllm/qwen3-omni:latest

推荐实践

docker run -d --name qwen3-omni \
  --restart unless-stopped \
  -p 8000:8000 \
  --gpus all \
  -v /data/hf-cache:/root/.cache/huggingface \
  -e CUDA_VISIBLE_DEVICES=0 \
  docker.io/qwenllm/qwen3-omni:0.1.0

核心参数说明

  • --gpus all — 多模态推理必需 GPU
  • -p 8000:8000 — OpenAI 兼容 API 端口
  • -v .../hf-cache:... — 模型权重缓存
  • -e CUDA_VISIBLE_DEVICES — 绑定 GPU 卡号

Latest tags (20)

View all 2 tags →
TagArchPushed AtSizeDigestSyncWishAction
docker.io/qwenllm/qwen3-omni
:latest
linux/amd64
2025/10/13 15:3410.2 GBsha256:a29e81771248
docker.io/qwenllm/qwen3-omni
:3-cu124
linux/amd64
2025/09/22 11:2610.2 GBsha256:71896cf6533a