本报讯 (记者 梁傲男)11月2日,美团发布新一代大模型LongCat-2.5,这是一款面向长程智能体任务的原生多模态模型,总参数1.6万亿,训练全程由国产算力完成。
今年6月,美团发布LongCat-2.0,首次在国产算力上完成万亿参数模型的全流程训练与推理。在LongCat-2.0基础上,新模型进一步强化原生视觉理解与智能体编程能力,并优化国产算力上的长上下文训练与推理效率。
LongCat-2.5的发布,标志着“国芯国模”更进一步:不仅原生支持多模态,模型整体能力也比肩当前国际成熟闭源模型和头部开源模型。
强化原生多模态能力
LongCat-2.5在全程国产算力训练的基础上,进一步强化原生多模态能力,将视觉输入转化为模型可统一处理的词元,提升视觉理解能力,支持交互网页、3D展示页面等任务。智能体编程方面,模型采用大规模长程强化学习,提升端到端工程任务能力,更好地支持复杂软件开发任务。
LongCat-2.5在中训练阶段采用最长达1M词元的序列开展长上下文训练,累计训练量达数万亿词元。多张算力卡协同处理这样的长序列时,显存容量和卡间通信直接影响效率。为此,美团与国产算力厂商协同优化显存使用、卡间通信以及计算与传输效率。针对国产算力单卡显存小的挑战,美团围绕超节点优化任务分工,让参数与任务数据的主要通信在超节点内的高速互联网络中完成。
LongCat-2.5的技术博客显示,在所测长上下文监督微调任务中,优化后的单卡训练吞吐量较DDP(分布式数据并行,DistributedDataParallel)基线提升86%。按单卡吞吐量折算,相当于一张卡能在同样时间内完成原来约1.86张卡的工作量,处理效率接近翻倍。
推理方面,LongCat-2.5采用W4A4方案,将专家权重和激活同时量化至4比特,以更低的位宽表示计算所需的数据,并针对国产AI加速器的硬件特性优化计算与传输。在已评测的下游任务上,该方案保持与量化前模型相当的表现。
从原生多模态能力到训练与推理效率,LongCat-2.5延续了LongCat系列“国芯国模”的研发路线,并进一步拓展模型能够处理的任务边界。
拓展主业能力
在二季度财报电话会上,美团CEO王兴表示:AI能力的长期价值,是能否真正进入真实工作流、解决真实问题,并形成长期稳定的基础设施能力。“我们不会成为词元工厂,我们的模型和AI产品将用于支持我们的主业,提升用户、商户体验和公司经营效率。”
围绕“支持主业”这一目标,LongCat-2.5重点强化了商业分析、软件开发等能力,为本地生活商家配备AI帮手。
基于LongCat系列模型,美团推出了AI经营工作台“妙手”,帮助商家在高价值经营场景中,理解行业指标和品牌规则,并在商家授权范围内调用工具与系统、完成经营任务执行。“妙手”已经服务了古茗、徐升记、益禾堂等连锁品牌,融入了品牌经营分析、门店管理和增长获客等高价值经营场景,帮助商家从发现问题走到决策和执行。
(编辑 张昕)