概要

フル名
docker.io/infiniflow/text-embeddings-inference
Registry
docker.io
名前空間
infiniflow
リポジトリ
text-embeddings-inference
キャッシュ Tag 数
2
最終同期
07/13/2026, 02:31 PM

概要

Text Embeddings Inference 镜像(RAGFlow),HuggingFace 嵌入模型 GPU 推理服务,RAG 向量生成高性能 API。

詳細

infiniflow/text-embeddings-inference 运行 HuggingFace Text Embeddings Inference (TEI) 服务,提供高性能文本嵌入向量 API。定位为 GPU Embedding 推理服务,建议 NVIDIA GPU;RAGFlow 嵌入层、Semantic Search 向量生成或替代 sentence-transformers 的高吞吐 TEI 部署。

快速启动

docker run -d --name tei \
  --gpus all \
  -p 8080:80 \
  -e MODEL_ID=BAAI/bge-small-en-v1.5 \
  docker.io/infiniflow/text-embeddings-inference:latest

推荐实践

docker run -d --name tei \
  --restart unless-stopped \
  --gpus all \
  -p 8080:80 \
  -e MODEL_ID=BAAI/bge-m3 \
  -v /data/models:/data \
  docker.io/infiniflow/text-embeddings-inference:1.5.0

核心参数说明

  • --gpus all — GPU 加速嵌入推理
  • -p 8080:80 — TEI HTTP API
  • MODEL_ID — HuggingFace 嵌入模型
  • 资源 — 大 batch 需 GPU 显存
Tagアーキテクチャプッシュ日時サイズDigest同期期望操作
docker.io/infiniflow/text-embeddings-inference
:cpu-1.8
linux/amd64
2025/10/28 11:003.9 GBsha256:ad4a00f5af75
docker.io/infiniflow/text-embeddings-inference
:1.8
linux/amd64
2025/10/28 11:004.2 GBsha256:887194850af0