掩码扩散语言模型：强可控文本世界模型

传统的自回归（AR）语言模型在构建世界模型时，由于采用自左向右的生成方式，无法有效结合全局相互依赖的锚点（如工具模式、状态字段和预期结果），导致生成的步骤虽然局部连贯，但全局缺乏一致性。为了解决这一痛点，研究提出了基于掩码扩散语言模型（MDLM）的文本世界模型。MDLM 采用任意顺序的去噪目标，能从相同的训练信号中学习所有条件方向。实验表明，微调后的 MDLM（如 SDAR-8B 和 WeDLM-8B）在 BLEU-1、ROUGE-L 和 MAUV 等指标上，超越了参数量高达其 4 倍的自回归基线模型。该研究为强化学习 Agent 提供了更强大、更具可控性的文本世界模型，有助于开发者构建全局一致性更高、规划能力更强的智能体系统。