dataelement/bisheng-ft 属于 Bisheng 开源 LLM 应用平台训练侧组件，在容器内执行 SFT/LoRA 等微调任务并读写 checkpoint。通常需要 NVIDIA GPU 与充足显存，CPU-only 训练极慢。与云端 AutoTrain 相比数据不出域，但镜像体积大、训练任务应批处理调度。Kubernetes 中应使用带 nvidia.com/gpu 的 Job 而非无 GPU Deployment；生产注意数据集与模型权重的 PVC 挂载及训练日志留存。

快速启动

docker run --rm --gpus all \
  -v $(pwd)/data:/data \
  docker.io/dataelement/bisheng-ft:latest \
  python --version

推荐实践

docker run --rm --gpus all \
  -v /data/datasets:/datasets \
  -v /data/models:/models \
  -v /data/output:/output \
  -e CUDA_VISIBLE_DEVICES=0,1 \
  docker.io/dataelement/bisheng-ft:1.0.0 \
  train --config /datasets/train.yaml

核心参数说明

• --gpus all — 启用 GPU 训练
• -v /data/datasets:/datasets — 训练语料目录
• -v /data/models:/models — 基座模型权重
• -v /data/output:/output — checkpoint 输出
• -e CUDA_VISIBLE_DEVICES — 指定 GPU 列表
• 定位 — 训练 Job，非在线推理 API