ALoDLM 8B:基于循环扩散的推理加速方案
ALoDLM 8B 基于循环扩散机制构建,以 Qwen3-8B 为基础模型。通过引入循环架构,该模型在保持基准测试性能的同时,将推理速度提升了约 3 倍。测试表明,这种设计有效减少了生成过程中的计算冗余,为资源受限场景下的轻量化部署和高吞吐推理提供了一种切实可行的优化路径。
ALoDLM 8B 基于循环扩散机制构建,以 Qwen3-8B 为基础模型。通过引入循环架构,该模型在保持基准测试性能的同时,将推理速度提升了约 3 倍。测试表明,这种设计有效减少了生成过程中的计算冗余,为资源受限场景下的轻量化部署和高吞吐推理提供了一种切实可行的优化路径。
Looped Diffusion Transformer通过在扩散模型去噪阶段复用相同模块,实现了不增参数下的表达能力提升。其核心在于循环深度支持推理时动态调整,开发者可按需平衡算力与生成质量。这为边缘端部署与动态推理架构设计提供了一种轻量且高效的落地思路。
Moonworks 推出了激活参数量小于 100 亿的图像生成模型 Lunara,并引入了全新的 Diffusion Mixture Transformer 架构。在训练方面,该模型采用基于主动学习原理的 CAT 算法,通过定向采集样本、精炼图像并有选择地引入人类艺术作品,持续迭代训练分布。此外,Lunara 支持通过语义变体在保持核心内容不变的前提下调整构图,为视觉生成和艺术智能研究提供了新的技术路线。
开源社区新推出一款轻量化文生图模型 Supra2-IMG,参数量仅为 1 亿(100M)。该模型在极低计算开销下表现出优秀的图像生成质量,显著降低了本地部署与微调的门槛,为消费级显卡和边缘设备运行生成式 AI 应用提供了可行的落地方案。
扩散语言模型通过逐步去噪过程生成文本,提供了一种不同于传统自回归模型的生成路径。文章梳理了该技术的底层数学原理、模型架构设计及实际应用场景,重点解析非自回归文本生成的实现思路,帮助开发者快速掌握这一方向的核心技术细节。
双向扩散模型近期在 rollout 误差预测中展现出实用价值。该方法基于往返一致性原理,让模型自主识别并预测多步生成过程中的累积误差。在长时间序列和复杂动态任务中,这一机制能有效抑制误差漂移,帮助开发者更准确地评估输出质量,提升模型在多步预测中的稳定性。
传统的自回归(AR)语言模型在构建世界模型时,由于采用自左向右的生成方式,无法有效结合全局相互依赖的锚点(如工具模式、状态字段和预期结果),导致生成的步骤虽然局部连贯,但全局缺乏一致性。为了解决这一痛点,研究提出了基于掩码扩散语言模型(MDLM)的文本世界模型。MDLM 采用任意顺序的去噪目标,能从相同的训练信号中学习所有条件方向。实验表明,微调后的 MDLM(如 SDAR-8B 和 WeDLM-8B)在 BLEU-1、ROUGE-L 和 MAUV 等指标上,超越了参数量高达其 4 倍的自回归基线模型。该研究为强化学习 Agent 提供了更强大、更具可控性的文本世界模型,有助于开发者构建全局一致性更高、规划能力更强的智能体系统。