概要

フル名
docker.io/leopony/ollama-cann-300i-duo
Registry
docker.io
名前空間
leopony
リポジトリ
ollama-cann-300i-duo
キャッシュ Tag 数
1
最終同期
07/05/2026, 02:27 PM
関連トピック

概要

Ollama 华为昇腾 CANN 300I Duo NPU 推理镜像,国产 AI 加速卡本地大模型运行,信创环境 LLM 私有化推理运行时。

詳細

leopony/ollama-cann-300i-duo 基于 Ollama 适配华为昇腾 300I Duo NPU(CANN),在国产 AI 加速卡上运行本地 LLM。定位为 NPU 大模型推理服务,需华为昇腾硬件与 CANN 驱动;信创/国产化环境 AI 助手、内网 LLM API 与 RAG 推理层,替代 NVIDIA GPU 方案。

快速启动

docker run -d --name ollama-cann \
  --device /dev/davinci0 \
  -p 11434:11434 \
  -v /data/ollama:/root/.ollama \
  docker.io/leopony/ollama-cann-300i-duo:latest

推荐实践

docker run -d --name ollama-cann \
  --restart unless-stopped \
  --device /dev/davinci0 \
  -p 11434:11434 \
  -v /data/ollama:/root/.ollama \
  docker.io/leopony/ollama-cann-300i-duo:1.0.0

核心参数说明

  • /dev/davinci0 — 昇腾 NPU 设备
  • -p 11434:11434 — Ollama API 端口
  • 硬件 — 华为 300I Duo NPU
  • 生态 — CANN 驱动必需
Tagアーキテクチャプッシュ日時サイズDigest同期期望操作
docker.io/leopony/ollama-cann-300i-duo
:latest
linux/arm64
2025/05/27 19:414.2 GBsha256:ddec3b8a2681