做大模型训练的团队大概都踩过同一组坑：Megatron-LM 吞吐高，改一个模型却要动并行切分和一堆配置；Hugging Face 那套上手快，规模上去吞吐就掉；到了具身模型，VLA 与 WAM 又得换第三套工具链，数据格式、分布式策略、评测环境各写一遍。要在国产芯片上跑，多半还得长期维护一个跟不上的分支。
LoongForge 是百度智能云百舸团队开源的一套训练框架，把 LLM、VLM、Diffusion 与具身模型收进同一个仓库：语言与多模态走 Megatron 后端，具身模型走基于原生 PyTorch 的 torch-native 后端，共用配置与启动方式，硬件上同时支持 NVIDIA GPU 与昆仑芯 XPU。
下面讲清它解决什么、几项关键优化、怎么跑起来，以及门槛在哪。
LoongForge 是什么？
LoongForge 是百度智能云百舸团队开源的训练框架，前身是内部的 AIAK-Training-LLM，采用 Apache 2.0 协议，2026 年 4 月公开源码。它覆盖预训练、SFT 与 LoRA，内置 DeepSeek、Qwen、Kimi、GLM 与 Pi0.5、GR00T 等 40 多个模型的配置和启动脚本。与只管单一模态的框架不同，它把语言、多模态、扩散与机器人策略收进同一个工程，用两套后端分别适配。
核心功能
功能分两条线：后端负责跑得快，配套工具负责接得进。下面的性能数字来自官方基准，同机型、同超参下与开源基线对比。
- 双后端分工——LLM、VLM 与 Diffusion 走 Megatron 后端，VLA 与 WAM 走 torch-native 后端，DDP、FSDP、HSDP 都可选。
- 吞吐加速——具身模型达到开源基线 1.79 到 4.38 倍，Wan 2.2 提速 116%。
- MoE 负载均衡——TAOT 按拓扑动态复制热点专家，专家并行开销最多降 74%。
- 自适应 FP8——支持块级 FP8，也可按 GEMM 形状逐算子挑精度。
- VLM 组件组合——用配置把 ViT 与 LLM 拼成新模型，不必写模型代码。
- 具身数据管线——统一加载 LeRobot 格式，ego2robot 把第一人称视频转成双臂机器人训练数据。
- 统一评测——在 LIBERO、CALVIN、RoboTwin 等仿真环境里做闭环评测。
使用场景
用它的多是已经有集群、要在多个模态上反复训模型的团队，或准备把训练迁到昆仑芯的团队。只有一两张卡的场景用不上这些并行优化，反而会被环境复杂度拖住。
| 人群/角色 | 场景描述 | 推荐指数 |
|---|---|---|
| 大模型预训练团队 | 千卡规模跑 MoE 主干，用通信重叠与专家均衡压住显存 | ★★★★★ |
| 多模态团队 | 用配置把自家 ViT 接到开源 LLM 上，异构并行分开调 | ★★★★★ |
| 具身智能团队 | VLA 微调加仿真评测一条链路，不必自拼数据与评测脚本 | ★★★★★ |
| 国产芯片迁移 | 同一套代码在昆仑芯上跑，靠插件切换而非重写 | ★★★★☆ |
| 视频生成团队 | Wan 系列长视频训练用上下文并行切分到多卡 | ★★★★☆ |
| 算法研究个人 | 单卡复现小模型，主要图配置与示例齐全 | ★★★☆☆ |
操作指南
官方提供预构建镜像，LLM、VLM、具身与 Diffusion 共用同一个，跳过依赖编译最省事。装好 NVIDIA Container Toolkit 后按下面走。
- 执行 docker pull loongforge/loongforge:latest 拉镜像。
- 用 docker run –gpus all –ipc=host 起容器，把本地目录挂到容器内数据路径。
- 用 Hugging Face CLI 下载权重与数据集，Pi0.5 微调需要 pi05_base、paligemma-3b-pt-224 与 libero_10。
- 到 examples 目录找对应模型的启动脚本，昆仑芯脚本在 examples_xpu。
- 用环境变量指定权重、数据与输出路径，默认只跑 20 步，先验证流程。
- 跑通后改配置里的步数与并行参数，日志落在输出目录。
- 换硬件平台时看 LoongForge 文档的「昆仑芯 XPU 教程」，而不是改代码。
支持平台
训练侧支持 NVIDIA GPU 与昆仑芯 XPU 两条硬件线，靠插件切换而不是维护两个分支。系统为 Linux，仓库提供两套 Dockerfile 与统一预构建镜像。文档分中英双语，中文覆盖 LLM、VLM、具身、Diffusion 四条教程。没有图形界面，全部在命令行完成。
产品定价
免费开源。代码以 Apache License 2.0 发布，商用、修改与二次分发都不收授权费。成本在硬件：跑通 7B 微调要多卡环境，前沿规模训练要有对应集群。部分高性能 CUDA 融合算子只在百度百舸平台提供，社区版是 TileLang 实现。
常见问题
Q：单卡或消费级显卡能跑吗？
能跑，但用不上主要价值。优化集中在多卡并行与通信，单卡收益有限，这类需求用更轻的微调工具更合适。
Q：商用需要付费或额外授权吗？
不需要。Apache License 2.0 允许商用与修改，保留许可声明与署名即可。个别文件改编自第三方项目，许可写在文件头部。
Q：中文文档和社区支持怎么样？
中文是主线，安装与四条教程都有中文版，读起来不费劲。反馈走 Issue，社区另有微信群、Discord 与邮件渠道。
开发者小结
LoongForge 的位置很清楚：给已经有集群、要在多个模态上反复训模型的团队用。长处是覆盖面与工程完成度，一套配置横跨语言、多模态、扩散与机器人策略，性能数字标了对比基线，昆仑芯支持让迁移少改代码。
不适合的情况同样明确：只有一两张卡想快速微调的个人，装环境成本大于收益；习惯改几行就跑的研究者，Megatron 后端的并行配置仍有学习曲线。选之前先确认模型与硬件都在支持列表里。
相关文章
