xTag

概要

フル名
docker.io/michaelf34/infinity
Registry
docker.io
名前空間
michaelf34
リポジトリ
infinity
キャッシュ Tag 数
138
最終同期
07/13/2026, 02:43 PM

概要

Infinity Embedding 推理镜像，高性能文本嵌入向量 API 服务，RAG/Semantic Search 嵌入模型 GPU 加速部署。

詳細

michaelf34/infinity 运行 Infinity 高性能 Embedding 推理服务器，通过 OpenAI 兼容 API 提供文本向量嵌入。定位为 Embedding 推理 API 服务，建议 GPU 加速；RAG 流水线嵌入层、Semantic Search 后端或替代 sentence-transformers 的高吞吐推理服务。

快速启动

docker run -d --name infinity \
  --gpus all \
  -p 7997:7997 \
  -e MODEL_NAME=BAAI/bge-small-en-v1.5 \
  docker.io/michaelf34/infinity:latest

推荐实践

docker run -d --name infinity \
  --restart unless-stopped \
  --gpus all \
  -p 7997:7997 \
  -e MODEL_NAME=BAAI/bge-m3 \
  -v /data/models:/models \
  docker.io/michaelf34/infinity:0.0.68

核心参数说明

  • --gpus all — GPU 加速嵌入推理
  • -p 7997:7997 — OpenAI 兼容 API
  • MODEL_NAME — HuggingFace 嵌入模型
  • 资源 — 大 batch 需 GPU 显存

最新 Tag（20 件）

すべての 138 件の Tag を見る →
Tagアーキテクチャプッシュ日時サイズDigest同期期望操作
docker.io/michaelf34/infinity
:0.0.77-trt-onnx
linux/amd64
2025/08/23 08:1712.3 GBsha256:11c9bb3f84fe…
docker.io/michaelf34/infinity
:0.0.77-amd
linux/amd64
2025/08/23 08:1721.2 GBsha256:9fb7d3da4202…
docker.io/michaelf34/infinity
:latest
linux/amd64
2025/08/23 07:564.4 GBsha256:11e8b3921b9f…
docker.io/michaelf34/infinity
:0.0.77
linux/amd64
2025/08/23 07:564.4 GBsha256:11e8b3921b9f…
docker.io/michaelf34/infinity
:0.0.77-cpu
linux/amd64
2025/08/23 07:54714.0 MBsha256:94db836145f6…
docker.io/michaelf34/infinity
:latest-cpu
linux/amd64
2025/08/23 07:32714.0 MBsha256:95a7487f5b37…
docker.io/michaelf34/infinity
:0.0.76.colpali
linux/amd64
2025/04/18 01:363.5 GBsha256:0ab74cf631e1…
docker.io/michaelf34/infinity
:latest-trt-onnx
linux/amd64
2025/03/18 02:3610.0 GBsha256:d59872854de0…
docker.io/michaelf34/infinity
:latest-amd
linux/amd64
2025/03/18 02:3621.2 GBsha256:b16a2f621252…
docker.io/michaelf34/infinity
:0.0.76-trt-onnx
linux/amd64
2025/03/18 02:3610.0 GBsha256:d59872854de0…
docker.io/michaelf34/infinity
:0.0.76-amd
linux/amd64
2025/03/18 02:3621.2 GBsha256:b16a2f621252…
docker.io/michaelf34/infinity
:0.0.76-cpu
linux/amd64
2025/03/18 02:36705.8 MBsha256:2a464dcc06e6…
docker.io/michaelf34/infinity
:0.0.76
linux/amd64
2025/03/18 02:363.5 GBsha256:90bd83ecfb99…
docker.io/michaelf34/infinity
:0.0.76rc1-cpu
linux/amd64
2025/01/31 06:48744.2 MBsha256:7787c28eed0d…
docker.io/michaelf34/infinity
:0.0.75-trt-onnx
linux/amd64
2025/01/25 00:599.6 GBsha256:456a52458ef2…
docker.io/michaelf34/infinity
:0.0.75-amd
linux/amd64
2025/01/25 00:5921.2 GBsha256:93d11f7f62ab…
docker.io/michaelf34/infinity
:0.0.75
linux/amd64linux/arm64
2025/01/23 07:203.2 GBsha256:b614daba4e37…
docker.io/michaelf34/infinity
:0.0.75-cpu
linux/amd64
2025/01/23 06:57738.8 MBsha256:e409b9e3bbda…
docker.io/michaelf34/infinity
:0.0.74-amd
linux/amd64
2025/01/03 22:5921.2 GBsha256:d51ad12363fb…
docker.io/michaelf34/infinity
:0.0.74-trt-onnx
linux/amd64
2025/01/03 22:389.6 GBsha256:d4f07b7b8dc5…