新增mambavision模型

[Dancho1009]

修改内容

1. [add] 新增 MambaVision PaddlePaddle 实现，支持卷积、Attention 与 Mamba Mixer 结构。
2. [add] 新增纯 Paddle sequential 和 parallel selective scan 实现，不依赖自定义 CUDA 算子。
3. [add] 新增全部 11 个 MambaVision 分类模型入口，覆盖 T、T2、S、B、L、L2 和 L3 系列。
4. [add] 新增 11 份 ImageNet-1K 训练、评估和推理配置，支持 224、256 和 512 输入尺寸。
5. [update] 在 PaddleClas backbone 中注册全部 MambaVision 模型入口。
6. [add] 新增 MambaVision 模型说明、精度结果和使用文档。
7. [add] 新增 MambaVision-T TIPC 配置，覆盖动态图、静态图训练、导出和推理流程。
8. [add] 新增 Paddle 2.6 legacy inference model 与 TIPC 输出目录兼容入口。

复现精度

本次复现目标为模型结构、预训练权重和前向输出对齐，不包含使用 PaddlePaddle 从头完整训练复现论文精度。

• 11 个规格均使用 NVIDIA 官方 PyTorch 权重转换得到的 PaddlePaddle 权重。
• PyTorch 与 PaddlePaddle 使用相同的 ImageNet-1K 50,000 张验证图像和预处理。
• 11 个规格的逐图 Top-1 预测一致率均为 100%。
• 50K 评估中的最大 logits 绝对误差均小于 1e-4，最差结果为 8.440e-05。
• 原生 PaddleClas 随机输入对齐 11/11 通过，最差 logits 绝对误差为 1.639e-06。

测试

Models	Paddle Top1	Paddle Top5	Reference Top1	Reference Top5	Params(M)
MambaVision_T	0.82176	0.96172	0.823	0.962	31.8
MambaVision_T2	0.82636	0.96272	0.827	0.963	35.1
MambaVision_S	0.83232	0.96502	0.833	0.965	50.1
MambaVision_B	0.84204	0.96848	0.842	0.969	97.7
MambaVision_B_21K	0.84876	0.97478	0.849	0.975	97.7
MambaVision_L	0.84954	0.97078	0.850	0.971	227.9
MambaVision_L_21K	0.86140	0.97968	0.861	0.979	227.9
MambaVision_L2	0.85282	0.97160	0.853	0.972	241.5
MambaVision_L2_512_21K	0.87114	0.98256	0.873	0.984	241.5
MambaVision_L3_256_21K	0.87294	0.98318	0.873	0.983	739.6
MambaVision_L3_512_21K	0.87822	0.98452	0.881	0.986	739.6

TIPC 使用 MambaVision_T 完成 lite_train_lite_infer 模式验证：

• norm train / export / inference：3/3 通过
• to_static train / export / inference：3/3 通过
• CPU 推理输出有限，无 NaN 或 Inf

训练

训练环境：Python 3.9、PaddlePaddle-GPU 2.6.2、PaddleClas release/2.6、单卡 NVIDIA GPU。

全部 11 个规格均通过 PaddleClas 官方 tools/train.py 完成真实 ImageNet-1K 固定批次 50-step 可训练性验证，Loss 均下降且未出现 NaN、Inf 或 AMP overflow。该测试用于验证训练链路，不代表完整 ImageNet 训练或精度复现。

Models	Input	Batch Size	First Loss	Last Loss
MambaVision_T	224	32	0.29934	0.01308
MambaVision_T2	224	24	0.38907	0.01320
MambaVision_S	224	20	0.48219	0.02104
MambaVision_B	224	12	0.75239	0.01885
MambaVision_B_21K	224	8	0.73282	0.02289
MambaVision_L	224	6	1.69471	0.05545
MambaVision_L_21K	224	3	1.22610	0.03584
MambaVision_L2	224	5	1.90336	0.05791
MambaVision_L2_512_21K	512	1	6.95820	6.75552
MambaVision_L3_256_21K	256	1	6.88040	6.61510
MambaVision_L3_512_21K	512	3	1.56504	0.04674

模型权重

PaddlePaddle 权重下载地址：AI Studio MambaVision 模型空间

下载对应 .pdparams 文件后，通过 Global.pretrained_model 或模型工厂的 pretrained 参数传入本地路径。

相关链接

• Paper: MambaVision: A Hybrid Mamba-Transformer Vision Backbone
• Official repository: NVlabs/MambaVision
• Source code license: NVIDIA Source Code License-NC
• Pretrained weight license: CC-BY-NC-SA-4.0

[paddle-bot]

Thanks for your contribution!

[CLAassistant]

All committers have signed the CLA.