字节跳动发布扩散语言模型Diffusion Preview，每秒2146 tokens

7月31日，字节跳动Seed团队正式发布了其最新研发的实验性扩散语言模型——Seed Diffusion Preview。这款创新模型旨在探索离散扩散技术在代码生成领域的潜力，并验证其作为下一代语言模型基础架构的可行性。

据官方数据显示，在代码推理速度方面，Seed Diffusion Preview实现了显著突破，达到2146 tokens/秒，较同等规模自回归模型提升5.4倍。尤为值得关注的是，在代码编辑任务（如CanitEdit等场景）中，该模型展现出超越现有自回归模型的性能优势。

Seed团队指出，尽管在实现高效采样和代码生成任务上表现优异，但真正的突破在于其独特的扩散模型框架优势。这种架构使模型在需要全局视角规划的复杂任务中展现出色能力，为解决更复杂的结构化推理问题提供了新思路。

该模型的成功研发不仅验证了离散扩散模型在大型语言模型推理加速方面的潜力，更揭示了这一技术路径在底层架构优化上的深层价值。Seed团队表示，未来将重点挖掘该技术的规模化应用规律，并进一步拓展其在复杂推理任务中的应用场景。