智谱发布GLM-5技术报告,技术细节全公开

AI Summary1 min read

TL;DR

智谱发布GLM-5技术报告,公开了推动编程范式转向智能体工程的新一代模型。它采用稀疏注意力降低推理成本,通过异步强化学习提升训练效率,在基准测试和真实编程任务中实现SOTA性能。

智谱称,GLM-5是一款旨在推动编程范式从“VibeCoding”(氛围编程)转向“AgenticEngineering”(智能体工程)的下一代基础模型。GLM-5在前代模型GLM-4.5的智能体、推理与编程(Agentic,ReasoningandCoding,ARC)能力基础上,采用稀疏注意力(DeepSeekSparseAttention,DSA)以大幅降低推理成本,同时保持长上下文能力无损。

为了让模型更好地与各类任务对齐,智谱构建了一套新型异步强化学习(RL)基础设施,通过将生成过程与训练过程解耦,从而大幅提升了后训练的迭代效率。此外,还提出了全新的异步Agent强化学习算法,进一步提升强化学习的效果,使模型能够更有效地从复杂、长程交互中学习。

基于上述创新,GLM-5在主流的开放基准测试中实现了SOTA性能。最关键的是,GLM-5在真实世界编程任务中展现出前所未有的能力,在处理端到端软件工程挑战方面超越了此前所有开源基线。

Visit Website