镜像概览
- 完整引用
docker.io/michaelf34/infinity- Registry
- docker.io
- 命名空间
- michaelf34
- 仓库
- infinity
- 已缓存 Tag 数
- 138
- 最近同步
- 07/13/2026, 02:43 PM
简介
Infinity Embedding 推理镜像，高性能文本嵌入向量 API 服务，RAG/Semantic Search 嵌入模型 GPU 加速部署。
详细介绍
michaelf34/infinity 运行 Infinity 高性能 Embedding 推理服务器，通过 OpenAI 兼容 API 提供文本向量嵌入。定位为 Embedding 推理 API 服务，建议 GPU 加速；RAG 流水线嵌入层、Semantic Search 后端或替代 sentence-transformers 的高吞吐推理服务。
快速启动
docker run -d --name infinity \
--gpus all \
-p 7997:7997 \
-e MODEL_NAME=BAAI/bge-small-en-v1.5 \
docker.io/michaelf34/infinity:latest
推荐实践
docker run -d --name infinity \
--restart unless-stopped \
--gpus all \
-p 7997:7997 \
-e MODEL_NAME=BAAI/bge-m3 \
-v /data/models:/models \
docker.io/michaelf34/infinity:0.0.68
核心参数说明
--gpus all— GPU 加速嵌入推理-p 7997:7997— OpenAI 兼容 APIMODEL_NAME— HuggingFace 嵌入模型- 资源 — 大 batch 需 GPU 显存
最新 Tag（20 条）
查看全部 138 个 Tag →| Tag | 架构 | 推送时间 | 大小 | Digest | 同步 | 期望 | 操作 |
|---|---|---|---|---|---|---|---|
docker.io/michaelf34/infinity :0.0.77-trt-onnx | linux/amd64 | 2025/08/23 08:17 | 12.3 GB | sha256:11c9bb3f84fe… | |||
docker.io/michaelf34/infinity :0.0.77-amd | linux/amd64 | 2025/08/23 08:17 | 21.2 GB | sha256:9fb7d3da4202… | |||
docker.io/michaelf34/infinity :latest | linux/amd64 | 2025/08/23 07:56 | 4.4 GB | sha256:11e8b3921b9f… | |||
docker.io/michaelf34/infinity :0.0.77 | linux/amd64 | 2025/08/23 07:56 | 4.4 GB | sha256:11e8b3921b9f… | |||
docker.io/michaelf34/infinity :0.0.77-cpu | linux/amd64 | 2025/08/23 07:54 | 714.0 MB | sha256:94db836145f6… | |||
docker.io/michaelf34/infinity :latest-cpu | linux/amd64 | 2025/08/23 07:32 | 714.0 MB | sha256:95a7487f5b37… | |||
docker.io/michaelf34/infinity :0.0.76.colpali | linux/amd64 | 2025/04/18 01:36 | 3.5 GB | sha256:0ab74cf631e1… | |||
docker.io/michaelf34/infinity :latest-trt-onnx | linux/amd64 | 2025/03/18 02:36 | 10.0 GB | sha256:d59872854de0… | |||
docker.io/michaelf34/infinity :latest-amd | linux/amd64 | 2025/03/18 02:36 | 21.2 GB | sha256:b16a2f621252… | |||
docker.io/michaelf34/infinity :0.0.76-trt-onnx | linux/amd64 | 2025/03/18 02:36 | 10.0 GB | sha256:d59872854de0… | |||
docker.io/michaelf34/infinity :0.0.76-amd | linux/amd64 | 2025/03/18 02:36 | 21.2 GB | sha256:b16a2f621252… | |||
docker.io/michaelf34/infinity :0.0.76-cpu | linux/amd64 | 2025/03/18 02:36 | 705.8 MB | sha256:2a464dcc06e6… | |||
docker.io/michaelf34/infinity :0.0.76 | linux/amd64 | 2025/03/18 02:36 | 3.5 GB | sha256:90bd83ecfb99… | |||
docker.io/michaelf34/infinity :0.0.76rc1-cpu | linux/amd64 | 2025/01/31 06:48 | 744.2 MB | sha256:7787c28eed0d… | |||
docker.io/michaelf34/infinity :0.0.75-trt-onnx | linux/amd64 | 2025/01/25 00:59 | 9.6 GB | sha256:456a52458ef2… | |||
docker.io/michaelf34/infinity :0.0.75-amd | linux/amd64 | 2025/01/25 00:59 | 21.2 GB | sha256:93d11f7f62ab… | |||
docker.io/michaelf34/infinity :0.0.75 | linux/amd64linux/arm64 | 2025/01/23 07:20 | 3.2 GB | sha256:b614daba4e37… | |||
docker.io/michaelf34/infinity :0.0.75-cpu | linux/amd64 | 2025/01/23 06:57 | 738.8 MB | sha256:e409b9e3bbda… | |||
docker.io/michaelf34/infinity :0.0.74-amd | linux/amd64 | 2025/01/03 22:59 | 21.2 GB | sha256:d51ad12363fb… | |||
docker.io/michaelf34/infinity :0.0.74-trt-onnx | linux/amd64 | 2025/01/03 22:38 | 9.6 GB | sha256:d4f07b7b8dc5… |