Overview

Full name
docker.io/anujkosambi/python-onnxruntime-gpu-cuda
Registry
docker.io
Namespace
anujkosambi
Repository
python-onnxruntime-gpu-cuda
Cached tags
3
Last synced
07/06/2026, 09:18 AM

Introduction

Python ONNX Runtime GPU CUDA 基础镜像,预装 onnxruntime-gpu,作为 ML 推理服务 Dockerfile 基础层。

Details

anujkosambi/python-onnxruntime-gpu-cuda 打包 Python、CUDA 与 onnxruntime-gpu,典型 FROM 构建 CV/NLP 推理 API。定位为 GPU 推理基础镜像,需 NVIDIA Container Toolkit;K8s 上层 Deployment 申请 GPU。

快速启动

docker run --rm --gpus all \
  docker.io/anujkosambi/python-onnxruntime-gpu-cuda:latest \
  python -c "import onnxruntime; print(onnxruntime.get_device())"

推荐实践

docker run --rm --gpus all \
  docker.io/anujkosambi/python-onnxruntime-gpu-cuda:1.17.0-cuda12 \
  nvidia-smi

核心参数说明

  • --gpus all — 启用 GPU(必需
  • 定位 — Dockerfile FROM 推理层
  • 固定 tag — CUDA/ORT/Python pin
  • 宿主机 — 驱动与 CUDA 版本匹配

Latest tags (20)

View all 3 tags →
TagArchPushed AtSizeDigestSyncWishAction
docker.io/anujkosambi/python-onnxruntime-gpu-cuda
:3.8-slim
linux/amd64
2023/04/25 08:002.5 GBsha256:2d33b1541fcf
docker.io/anujkosambi/python-onnxruntime-gpu-cuda
:2.0.0
linux/amd64
2023/04/25 03:253.2 GBsha256:fd94e7ae4e5e
docker.io/anujkosambi/python-onnxruntime-gpu-cuda
:3.8-bullseye
linux/amd64
2023/04/21 08:072.5 GBsha256:16943382d8d8