xTag

镜像概览

完整引用
docker.io/infiniflow/text-embeddings-inference
Registry
docker.io
命名空间
infiniflow
仓库
text-embeddings-inference
已缓存 Tag 数
2
最近同步
07/13/2026, 02:31 PM

简介

Text Embeddings Inference 镜像（RAGFlow），HuggingFace 嵌入模型 GPU 推理服务，RAG 向量生成高性能 API。

详细介绍

infiniflow/text-embeddings-inference 运行 HuggingFace Text Embeddings Inference (TEI) 服务，提供高性能文本嵌入向量 API。定位为 GPU Embedding 推理服务，建议 NVIDIA GPU；RAGFlow 嵌入层、Semantic Search 向量生成或替代 sentence-transformers 的高吞吐 TEI 部署。

快速启动

docker run -d --name tei \
  --gpus all \
  -p 8080:80 \
  -e MODEL_ID=BAAI/bge-small-en-v1.5 \
  docker.io/infiniflow/text-embeddings-inference:latest

推荐实践

docker run -d --name tei \
  --restart unless-stopped \
  --gpus all \
  -p 8080:80 \
  -e MODEL_ID=BAAI/bge-m3 \
  -v /data/models:/data \
  docker.io/infiniflow/text-embeddings-inference:1.5.0

核心参数说明

  • --gpus all — GPU 加速嵌入推理
  • -p 8080:80 — TEI HTTP API
  • MODEL_ID — HuggingFace 嵌入模型
  • 资源 — 大 batch 需 GPU 显存

最新 Tag（20 条）

查看全部 2 个 Tag →
Tag架构推送时间大小Digest同步期望操作
docker.io/infiniflow/text-embeddings-inference
:cpu-1.8
linux/amd64
2025/10/28 11:003.9 GBsha256:ad4a00f5af75…
docker.io/infiniflow/text-embeddings-inference
:1.8
linux/amd64
2025/10/28 11:004.2 GBsha256:887194850af0…