概要
- フル名
docker.io/stepfun2025/vllm- Registry
- docker.io
- 名前空間
- stepfun2025
- リポジトリ
- vllm
- キャッシュ Tag 数
- 2
- 最終同期
- 07/05/2026, 03:38 PM
- 関連トピック
概要
vLLM 大模型推理服务镜像，PagedAttention 高吞吐 LLM API，阶跃星辰定制版 GPU 私有化大模型推理运行时。
詳細
stepfun2025/vllm 基于 vLLM 框架提供高吞吐 LLM 推理服务，支持 OpenAI 兼容 API 与连续批处理。定位为 GPU 大模型推理服务，需 NVIDIA GPU 与模型权重 volume；企业私有化 LLM API、高 QPS 推理网关或 RAG 生成层，PagedAttention 优化显存利用。
快速启动
docker run -d --name vllm \
--gpus all \
-p 8000:8000 \
-v /data/models:/models \
docker.io/stepfun2025/vllm:latest \
--model /models/my-llm
推荐实践
docker run -d --name vllm \
--gpus all \
--restart unless-stopped \
-p 8000:8000 \
-v /data/models:/models \
docker.io/stepfun2025/vllm:0.6.0 \
--model /models/qwen2-7b --tensor-parallel-size 1
核心参数说明
--gpus all— NVIDIA GPU 必需-p 8000:8000— OpenAI 兼容 API--model— 模型路径--tensor-parallel-size— 多卡并行
最新 Tag（20 件）
すべての 2 件の Tag を見る →| Tag | アーキテクチャ | プッシュ日時 | サイズ | Digest | 同期 | 期望 | 操作 |
|---|---|---|---|---|---|---|---|
docker.io/stepfun2025/vllm :step-audio-2-v20250909 | linux/amd64 | 2025/09/09 15:06 | 11.9 GB | sha256:3d2068cfeec9… | |||
docker.io/stepfun2025/vllm :step-audio-2-v20250904 | linux/amd64 | 2025/09/04 18:10 | 11.9 GB | sha256:71b87e386e00… |