安装 FlashQLA#

FlashQLA 是 Qwen GDN kernel 的可选运行后端。安装 FlashQLA 后,仍需要在训练命令中显式加入:

--qwen-gdn-backend flashqla

如果不传该参数,Qwen GDN 仍使用默认的 FLA 后端。

环境要求#

使用 --qwen-gdn-backend flashqla 前,请确认训练节点满足:

  • PyTorch 2.8 或更新版本。

  • CUDA 12.8 或更新版本。

  • NVIDIA SM90 或更新架构 GPU。

  • 所有训练节点都安装了同一套 FlashQLA Python 包。

当前 CUDA 13 构建#

SGLang v0.5.21 要求 TileLang 0.1.12。旧 CUDA 12 镜像使用的 FlashQLA 版本依赖 TileLang 0.1.9,因此当前 Docker 和 conda 构建使用默认 FLA 后端。

需要旧 CUDA 12/FlashQLA 环境时,可使用带版本的 CUDA 12 镜像,或从保留 原有依赖的历史 checkout 构建:

git worktree add ../slime-cu12 2f4280e3
cd ../slime-cu12
docker build -f docker/Dockerfile . -t slime:flashqla-cu12

GB10 镜像#

docker/Dockerfile.gb10 默认不安装 FlashQLA。GB10 环境需要自行验证 FlashQLA 编译和运行行为;如需实验性安装,可显式传入:

docker build \
  --build-arg INSTALL_FLASHQLA=1 \
  -f docker/Dockerfile.gb10 \
  -t slime:gb10-flashqla .