加速突破 – 新加坡国立大学研发的线性注意力机制(CLEAR)，在生成8K图像过程中速度提升至原来的6.3倍。

CLEAR代表的是什么含义呢？

新加坡国立大学近期开发了一种名为CLEAR的新式线性注意力机制，该技术能够显著提高预训练扩散变换器（DiTs）在生成高分辨率图像时的工作效率。通过将每个查询的关注范围限定在一个局部窗口内， CLEAR 实现了对图像分辨率的线性处理复杂度，并大幅减少了计算需求。实验结果显示，在经过10,000次迭代微调之后，CLEAR能够在保持与原模型相近性能的同时，削减99.5%的关注计算量，并且在生成8K图像的过程中速度提升了6.3倍。此外，CLEAR具备跨不同模型和插件的零样本泛化能力以及多GPU并行推理功能，进一步增强了其应用灵活性及扩展潜力。

CLEAR的核心作用

• 直线型难度运用局部注意力机制，使预训练DiTs的复杂度由二次方级别降至线性级别，特别适合于生成高分辨率图像。
• 提高工作效率在创建高清晰度图片的过程中，大幅度降低运算需求与延时问题，从而加快图像的产生速度。
• 知识传递经过细微调整后，能够高效地把预训练模型中的知识迁移到学生模型上，并维持其生成的质量。
• 跨越分辨率的通用性CLEAR表现出了优秀的跨越不同分辨率的适应性，能够应对各种大小图像的生成工作。
• 在多个模型或插件间实现通用性通过 CLEAR 训练获得的注意力层能够实现对其他模型和插件的零样本迁移，且不需要进一步调整。
• 利用多个GPU实现平行推断：借助CLEAR的技术，能够实现多GPU同步工作以加速推理过程，从而提升大容量图像创作的速度与系统的可扩展能力。

CLEAR技术的运作机制

• 区域聚焦视窗对每一个查询，在限定的小范围窗口中操作，确保只与其内部的键值配对互动，从而达到线性时间复杂度的效果。
• 采用圆窗造型设计不同于传统使用的正方形滑动窗口方法， CLEAR运用了圆形窗口设计，并且基于每个查询点的欧几里得距离范围来纳入相应的键值数据。
• 知识转移在执行微调时，CLEAR通过运用知识蒸馏技术，并结合流动匹配损耗及预测/注意输出的一致性损耗来缩小线性化后的模型与初始模型间的差距。
• 利用多个GPU实现推理过程的高效并行处理优化CLEAR利用局部注意力机制来降低在多GPU并行处理中的数据交流成本，从而加快大型图像创作的速度。
• 维持原有性能虽然每次查询只获取部分数据，但是利用多层Transformer模块的组合，每一个标记能够逐渐整合全面的信息内容，这一过程与卷积神经网络的工作机制相似。
• 稀疏注意机制的实施作为一款稀疏注意力技术，它能够在GPU上实现高效的运行，并且借助了底层的优化手段。

访问CLEAR项目的页面位置

• Git存储库：在GitHub上可以找到Huage001用户维护的CLEAR项目，网址是https://github.com/Huage001/CLEAR。
• 关于arXiv上的科技学术文章访问该链接以阅读最新发布的学术论文：https://arxiv.org/pdf/2412.16112，这里提供了未经改动的资源定位信息。请注意，要求是仅输出改写后的结果，并未包含原始文本内容进行比较或转换。因此提供的回应直接指向了获取文档的方式而不涉及具体的文字段落修改。

CLEAR的使用情境

• 多媒体内容制作创作者与设计者能够高效地制作出高清的视觉艺术品及创意作品，从而显著提升其工作效率。
• 仿真虚拟(VR)与扩增实境(AR)在使用VR和AR技术时，为了即时创建出高清晰度的虚拟场景与物体，从而增强用户的体验感受。
• 开发电子游戏游戏制作人能够创建高水准的游戏元素与环境，从而缩短开发周期并节省资源开支。
• 影片与视像创作于影片及视觉创作领域内，用于创造高品质细节的特殊影像与动态效果，从而增强后期编辑工作的效能。
• 宣传与推广市场营销人员能够迅速创作出引人注目的广告图片与视觉素材，以捕获潜在顾客的注意力。