SegResMamba-Lite
脑肿瘤分割轻量级 Mamba 模型 · MoA 框架演进
基于 Mamba 架构的脑肿瘤分割模型集合(V1–V12),MoA(Mixture of Attention)框架完整设计演进。最终模型 V10 以 1.42M 参数实现病灶级 LW Dice 0.8304(全系列最高),全局 HD95 优于全部基线。
{
"id": "segresmamba-lite",
"title": "SegResMamba-Lite",
"type": "AI/ML",
"year": "2026",
"status": "active",
"category": "AI/科研",
"tech": ["PyTorch", "BiMamba", "MoA (Mixture of Attention)", "BraTS", "CUDA", "Docker"],
"github": "https://github.com/Zviolin/SegResMamba-Lite"
} 项目概述
基于 Mamba 架构的脑肿瘤分割模型集合(V1–V12),MoA(Mixture of Attention)框架完整设计演进。最终模型 V10 以 1.42M 参数实现病灶级 LW Dice 0.8304(全系列最高),全局 HD95 优于全部基线。
核心特性
脑肿瘤分割 — 面向 BraTS 脑肿瘤分割任务,188 例测试集、官方 374mm 满罚口径评估,全系列 12 个版本可复现
MoA 框架三代演进 — Soft MoA(异构专家软路由)→ Sigmoid α 自动学习 → 论文级 token 级稀疏 MoA(共享 K/V)
极致轻量 — 全系列参数量 < 1.5M,最终模型 V10 仅 1.42M,约为官方 SegMamba 基线(66.90M)的 1/47
精度领先 — V10 病灶级 LW Dice 0.8304 全系列最高,全局 HD95 均值 7.90mm 优于全部基线
完整证据链 — V1–V12 实验记录总集、4 类基线(SegMamba/SegResNet/VMUNet/VSSUNet)对比、统计检验与效率基准
多分支工程化 — experiments 分支完整训练/评估流水线,webapp(前后端 Docker)与 Android App 分支持续规划
技术架构
性能指标
项目结构
SegResMamba-Lite(分支化管理)
├── main 分支 # 项目门面(README)
├── experiments 分支 # V1–V12 全部模型源码
│ ├── models/ # v1.py ~ v12.py
│ ├── pipeline/ # train.py + evaluate.py
│ ├── frame/ # trainer 训练框架
│ ├── 实验记录总集.md / 论文实验章节.md
│ └── scripts/ # 统计检验 / 效率基准 / 路由可视化
├── 基线对比 # SegMamba-Official / SegResNet / VMUNet / VSSUNet
├── webapp 分支 # 前后端 Docker 网页项目(规划中)
└── App 分支 # Kotlin Android App(规划中) 详细说明
项目概述
SegResMamba-Lite 是基于 Mamba 架构的脑肿瘤分割模型集合(V1–V12),围绕 MoA(Mixture of Attention)框架完成了从软路由混合专家到 token 级稀疏注意力的完整设计演进。所有模型参数量均控制在 1.5M 以内,最终模型 V10 以 1.42M 参数在 BraTS 脑肿瘤分割任务上取得病灶级 LW Dice 0.8304(全系列最高)、全局 HD95 7.90mm(优于全部基线)的成绩。
本项目为第 32 期大学生创新训练计划(SRTP)国家级自选型立项项目(立项推荐国家级)——《面向医疗的 SegResNet-Mamba 轻量化脑肿瘤分割方法研究与移动应用原型》的核心研究载体,本人担任项目负责人。
个人职责
作为项目负责人,独立承担从选题、设计到结题的全流程工作:
- 方案设计:提出 MoA(Mixture of Attention)框架,主导 V1 → V10 十二个版本的架构演进路线
- 工程实现:搭建完整训练 / 评估流水线(train.py / evaluate.py + shared 共享库),分支化管理 experiments / webapp / App
- 实验验证:复现 SegMamba / SegResNet / VMUNet / VSSUNet 四类基线,完成统计检验、效率基准与专家路由可视化
- 成果沉淀:撰写实验记录总集与论文实验章节,形成 V1–V12 全版本可复现的完整证据链
版本演进(V1 → V10)
| 版本 | 关键创新 | 参数量 | 全局 Dice | HD95 |
|---|---|---|---|---|
| V1 | 双向 Mamba + 跳跃连接 | 1.52M | 0.8886 | 9.96 |
| V2 | 多尺度 BiMamba(3 尺度) | 1.42M | 0.8885 | 8.56 |
| V6 | Soft MoA(4 异构专家 + 样本级软路由) | 1.46M | 0.8904 | 8.87 |
| V7 | MoA + DConv 专家 + Sigmoid α 自动学习 | 1.50M | 0.8912 | 9.12 |
| V9 | 真 MoE(Top-K=2 稀疏 + 负载均衡) | 1.42M | 0.8893 | 7.34 |
| V10 | 论文级 token 级稀疏 MoA(共享 K/V + Attention 专家) | 1.42M | 0.8878 | 7.90 |
评估口径:官方 374mm 满罚、188 例测试集;V10 为最终模型,病灶级核心主张 LW Dice 0.8304 全系列最高。
核心创新
- MoA(Mixture of Attention)框架:将 MoE 思想引入注意力,4 个异构专家(Attention / DConv)混合,经三代演进(软路由 → α 自动学习 → token 级稀疏共享 K/V)
- 极致轻量化:对比官方 SegMamba(66.90M)压缩约 47 倍参数量,同时保持并超越分割精度
- 完整实验证据链:V1–V12 全版本记录、4 类基线复现(含 SWA + 深监督增强版)、统计检验、效率基准与专家路由可视化
快速开始(experiments 分支)
# 训练最终模型 V10
python SegResMamba-Lite/pipeline/train.py --version v10 --init_filters 20 --epochs 100 --batch 6 --workers 8 --resolution 2.0 --device cuda --cache
# 评估(生成全局 + lesion-wise 逐例 CSV)
python SegResMamba-Lite/pipeline/evaluate.py --version v10 --init_filters 20 --resolution 2.0 --device cuda --cache --workers 8