alphacep/kaldi-vosk-server-gpu 在 CUDA 上运行 Kaldi/Vosk 推理，客户端推送 16kHz PCM 音频流获取 partial/final 文本。与云端 STT API 相比数据不出域，但需自备 GPU 与语言模型文件。必须 --gpus all 或 K8s nvidia.com/gpu 资源，不适合无 GPU 的普通 Deployment。生产应固定模型版本、限制并发连接，并监控 GPU 显存；CPU 场景请选用非 gpu 标签镜像。

快速启动

docker run --rm --gpus all \
  -p 2700:2700 \
  -v $(pwd)/model:/opt/vosk-server/model \
  docker.io/alphacep/kaldi-vosk-server-gpu:latest

推荐实践

docker run -d --name vosk-gpu \
  --gpus all --restart unless-stopped \
  -p 2700:2700 \
  -v /data/vosk-model-cn:/opt/vosk-server/model \
  -e VOSK_SAMPLE_RATE=16000 \
  docker.io/alphacep/kaldi-vosk-server-gpu:0.3.45

核心参数说明

• --gpus all — 启用 CUDA 推理
• -p 2700:2700 — WebSocket 语音识别端口
• -v .../vosk-model-cn:... — 离线语言模型目录
• -e VOSK_SAMPLE_RATE — 输入音频采样率
• --restart unless-stopped — 语音服务持续在线
• 部署 — 需 GPU 节点，勿在无 GPU 的 K8s 池调度