智谱联合华为开源首个国产芯片训练的多模态SOTA模型

    本报讯 （记者梁傲男）1月14日，智谱联合华为开源新一代图像生成模型GLM-Image，模型基于昇腾Atlas 800T A2设备和昇思MindSpore AI框架完成从数据到训练的全流程，是首个全程在国产芯片上完成训练的SOTA多模态模型。

    智谱/供图

    据记者了解，GLM-Image采用自主创新的“自回归+扩散解码器”混合架构，实现了图像生成与语言模型的联合，是智谱面向以NanoBanana Pro为代表的新一代“认知型生成”技术范式的一次重要探索。

    智谱方面表示，“GLM-Image是我们对国产计算生态的一次深度探索与验证。依托昇腾NPU和昇思MindSpore AI框架，使用动态图多级流水下发、高性能融合算子、多流并行等特性，我们自研了模型训练套件，全面优化数据预处理、预训练、SFT和后训练的端到端流程。通过动态图的多级流水优化机制，将Host侧算子下发的关键阶段流水化并高度重叠，消除下发瓶颈；通过多流并行策略，通信和计算互掩，打破文本梯度同步、图像特征广播等操作的通信墙，极致优化性能；使用AdamW EMA、COC、RMS Norm等昇腾亲和的高性能融合算子，同步提升训练的稳定性和性能。”

（编辑 李家琪）