xTag

镜像概览

完整引用
docker.io/leopony/ollama-cann-atlas-a2
Registry
docker.io
命名空间
leopony
仓库
ollama-cann-atlas-a2
已缓存 Tag 数
1
最近同步
07/06/2026, 01:13 AM
相关主题
AI 与大模型

简介

Ollama 华为 Atlas A2 NPU 推理镜像，CANN 环境本地 LLM 加载与 API，昇腾 Atlas 800I A2 专用构建。

详细介绍

leopony/ollama-cann-atlas-a2 基于 Ollama 针对华为 Atlas 800I A2（CANN）NPU 预编译，提供本地大语言模型 pull/run 与 OpenAI 兼容 API。定位为昇腾 NPU 专用 LLM 推理服务，需 CANN 驱动与 NPU 设备；docker 昇腾节点部署，K8s 需 Ascend device plugin。

快速启动

docker run -d --name ollama-atlas \
  --device=/dev/davinci0 \
  -p 11434:11434 \
  -v /data/ollama:/root/.ollama \
  docker.io/leopony/ollama-cann-atlas-a2:latest

推荐实践

docker run -d --name ollama-atlas \
  --device=/dev/davinci0 --restart unless-stopped \
  -p 11434:11434 \
  -v /data/ollama:/root/.ollama \
  docker.io/leopony/ollama-cann-atlas-a2:0.3.0

核心参数说明

  • --device=/dev/davinci0 — 昇腾 NPU 设备
  • -p 11434:11434 — Ollama API 端口
  • -v .../ollama:... — 模型权重缓存
  • 硬件 — Atlas A2 + CANN，非 NVIDIA

最新 Tag（20 条）

查看全部 1 个 Tag →
Tag架构推送时间大小Digest同步期望操作
docker.io/leopony/ollama-cann-atlas-a2
:latest
linux/arm64
2025/05/27 17:384.1 GBsha256:e0195466dc16…