docker.io/infiniflow/text-embeddings-inference container image tags & versions (2)

Overview

Full name: docker.io/infiniflow/text-embeddings-inference
Registry: docker.io
Namespace: infiniflow
Repository: text-embeddings-inference
Cached tags: 2
Last synced: 07/13/2026, 02:31 PM

Introduction

Text Embeddings Inference 镜像（RAGFlow），HuggingFace 嵌入模型 GPU 推理服务，RAG 向量生成高性能 API。

Details

infiniflow/text-embeddings-inference 运行 HuggingFace Text Embeddings Inference (TEI) 服务，提供高性能文本嵌入向量 API。定位为 GPU Embedding 推理服务，建议 NVIDIA GPU；RAGFlow 嵌入层、Semantic Search 向量生成或替代 sentence-transformers 的高吞吐 TEI 部署。

快速启动

docker run -d --name tei \
  --gpus all \
  -p 8080:80 \
  -e MODEL_ID=BAAI/bge-small-en-v1.5 \
  docker.io/infiniflow/text-embeddings-inference:latest

推荐实践

docker run -d --name tei \
  --restart unless-stopped \
  --gpus all \
  -p 8080:80 \
  -e MODEL_ID=BAAI/bge-m3 \
  -v /data/models:/data \
  docker.io/infiniflow/text-embeddings-inference:1.5.0

核心参数说明

--gpus all — GPU 加速嵌入推理
-p 8080:80 — TEI HTTP API
MODEL_ID — HuggingFace 嵌入模型
资源 — 大 batch 需 GPU 显存

Latest tags (20)

View all 2 tags →

Tag	Arch	Pushed At	Size	Digest	Sync	Wish	Action
docker.io/infiniflow/text-embeddings-inference :cpu-1.8	linux/amd64	2025/10/28 11:00	3.9 GB	sha256:ad4a00f5af75…
docker.io/infiniflow/text-embeddings-inference :1.8	linux/amd64	2025/10/28 11:00	4.2 GB	sha256:887194850af0…