Overview
- Full name
docker.io/leopony/ollama-cann-300i-duo- Registry
- docker.io
- Namespace
- leopony
- Repository
- ollama-cann-300i-duo
- Cached tags
- 1
- Last synced
- 07/05/2026, 02:27 PM
- Topics
Introduction
Ollama 华为昇腾 CANN 300I Duo NPU 推理镜像，国产 AI 加速卡本地大模型运行，信创环境 LLM 私有化推理运行时。
Details
leopony/ollama-cann-300i-duo 基于 Ollama 适配华为昇腾 300I Duo NPU（CANN），在国产 AI 加速卡上运行本地 LLM。定位为 NPU 大模型推理服务，需华为昇腾硬件与 CANN 驱动；信创/国产化环境 AI 助手、内网 LLM API 与 RAG 推理层，替代 NVIDIA GPU 方案。
快速启动
docker run -d --name ollama-cann \
--device /dev/davinci0 \
-p 11434:11434 \
-v /data/ollama:/root/.ollama \
docker.io/leopony/ollama-cann-300i-duo:latest
推荐实践
docker run -d --name ollama-cann \
--restart unless-stopped \
--device /dev/davinci0 \
-p 11434:11434 \
-v /data/ollama:/root/.ollama \
docker.io/leopony/ollama-cann-300i-duo:1.0.0
核心参数说明
/dev/davinci0— 昇腾 NPU 设备-p 11434:11434— Ollama API 端口- 硬件 — 华为 300I Duo NPU
- 生态 — CANN 驱动必需
Latest tags (20)
View all 1 tags →| Tag | Arch | Pushed At | Size | Digest | Sync | Wish | Action |
|---|---|---|---|---|---|---|---|
docker.io/leopony/ollama-cann-300i-duo :latest | linux/arm64 | 2025/05/27 19:41 | 4.2 GB | sha256:ddec3b8a2681… |