xTag

镜像概览

完整引用
docker.io/leopony/ollama-cann-300i-duo
Registry
docker.io
命名空间
leopony
仓库
ollama-cann-300i-duo
已缓存 Tag 数
1
最近同步
07/05/2026, 02:27 PM
相关主题
AI 与大模型

简介

Ollama 华为昇腾 CANN 300I Duo NPU 推理镜像，国产 AI 加速卡本地大模型运行，信创环境 LLM 私有化推理运行时。

详细介绍

leopony/ollama-cann-300i-duo 基于 Ollama 适配华为昇腾 300I Duo NPU（CANN），在国产 AI 加速卡上运行本地 LLM。定位为 NPU 大模型推理服务，需华为昇腾硬件与 CANN 驱动；信创/国产化环境 AI 助手、内网 LLM API 与 RAG 推理层，替代 NVIDIA GPU 方案。

快速启动

docker run -d --name ollama-cann \
  --device /dev/davinci0 \
  -p 11434:11434 \
  -v /data/ollama:/root/.ollama \
  docker.io/leopony/ollama-cann-300i-duo:latest

推荐实践

docker run -d --name ollama-cann \
  --restart unless-stopped \
  --device /dev/davinci0 \
  -p 11434:11434 \
  -v /data/ollama:/root/.ollama \
  docker.io/leopony/ollama-cann-300i-duo:1.0.0

核心参数说明

  • /dev/davinci0 — 昇腾 NPU 设备
  • -p 11434:11434 — Ollama API 端口
  • 硬件 — 华为 300I Duo NPU
  • 生态 — CANN 驱动必需

最新 Tag（20 条）

查看全部 1 个 Tag →
Tag架构推送时间大小Digest同步期望操作
docker.io/leopony/ollama-cann-300i-duo
:latest
linux/arm64
2025/05/27 19:414.2 GBsha256:ddec3b8a2681…