ICCV 2025 | FDAM:告别模糊视界,源自电路理论的即插即用方法让视觉Transformer重获高清细节

[复制链接]
周大 发表于 2025-10-15 16:12:48 | 显示全部楼层 |阅读模式
针对视觉Transformer在深层网络中因“低通滤波”效应导致高频细节丢失的问题,北京理工大学、RIKEN AIP与东京大学团队提出即插即用的FDAM模块。该模块受电路理论启发,通过注意力反转生成高频补偿,并结合动态频段缩放,在几乎不增加计算成本的前提下,显著提升模型性能。在ADE20K上SegFormer-B0提升+2.4 mIoU,DeiT3-Base达52.6% mIoU SOTA;COCO上Mask DINO检测AP提升+1.6,分割AP提升+1.4。实验验证其能有效保留高频信息、缓解表征坍塌,为ViT在密集预测任务中的应用提供了高效、通用的解决方案。
来源:https://mp.weixin.qq.com/s/eCN-0K5TQCX0nWA0CacWTQ

搜索|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-11-9 15:30 , Processed in 0.291243 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表