ZVIOLIN
PROJ-02
PROJ-02 AI/ML 活跃中

SegResMamba-Lite

脑肿瘤分割轻量级 Mamba 模型 · MoA 框架演进

基于 Mamba 架构的脑肿瘤分割模型集合(V1–V12),MoA(Mixture of Attention)框架完整设计演进。最终模型 V10 以 1.42M 参数实现病灶级 LW Dice 0.8304(全系列最高),全局 HD95 优于全部基线。

PyTorchBiMambaMoA (Mixture of Attention)BraTSCUDADocker
★ 0 Stars
188 例测试集 用户
LW Dice 0.8304 性能
2026 年份
segresmamba-lite.json
{
  "id": "segresmamba-lite",
  "title": "SegResMamba-Lite",
  "type": "AI/ML",
  "year": "2026",
  "status": "active",
  "category": "AI/科研",
  "tech": ["PyTorch", "BiMamba", "MoA (Mixture of Attention)", "BraTS", "CUDA", "Docker"],
  "github": "https://github.com/Zviolin/SegResMamba-Lite"
}
01

项目概述

基于 Mamba 架构的脑肿瘤分割模型集合(V1–V12),MoA(Mixture of Attention)框架完整设计演进。最终模型 V10 以 1.42M 参数实现病灶级 LW Dice 0.8304(全系列最高),全局 HD95 优于全部基线。

02

核心特性

🧠

脑肿瘤分割 — 面向 BraTS 脑肿瘤分割任务,188 例测试集、官方 374mm 满罚口径评估,全系列 12 个版本可复现

🔬

MoA 框架三代演进 — Soft MoA(异构专家软路由)→ Sigmoid α 自动学习 → 论文级 token 级稀疏 MoA(共享 K/V)

🪶

极致轻量 — 全系列参数量 < 1.5M,最终模型 V10 仅 1.42M,约为官方 SegMamba 基线(66.90M)的 1/47

🏆

精度领先 — V10 病灶级 LW Dice 0.8304 全系列最高,全局 HD95 均值 7.90mm 优于全部基线

📊

完整证据链 — V1–V12 实验记录总集、4 类基线(SegMamba/SegResNet/VMUNet/VSSUNet)对比、统计检验与效率基准

🧩

多分支工程化 — experiments 分支完整训练/评估流水线,webapp(前后端 Docker)与 Android App 分支持续规划

03

技术架构

模型架构
双向 Mamba + 多尺度 BiMamba + MoA 异构专家(Attention / DConv)
训练框架
PyTorch + 自研 pipeline(train.py / evaluate.py)+ shared 共享库
数据与评估
BraTS 脑肿瘤数据集 · 全局 Dice/HD95 + lesion-wise 逐例 CSV + 统计检验
工程化
分支化管理(experiments / webapp / App)· Docker 网页端规划
04

性能指标

LW Dice 0.8304
全局 Dice 0.8878
HD95 7.90mm
参数量 1.42M
05

项目结构

project-structure
SegResMamba-Lite(分支化管理)
├── main 分支          # 项目门面(README)
├── experiments 分支   # V1–V12 全部模型源码
│   ├── models/        # v1.py ~ v12.py
│   ├── pipeline/      # train.py + evaluate.py
│   ├── frame/         # trainer 训练框架
│   ├── 实验记录总集.md / 论文实验章节.md
│   └── scripts/       # 统计检验 / 效率基准 / 路由可视化
├── 基线对比           # SegMamba-Official / SegResNet / VMUNet / VSSUNet
├── webapp 分支        # 前后端 Docker 网页项目(规划中)
└── App 分支           # Kotlin Android App(规划中)
06

详细说明

项目概述

SegResMamba-Lite 是基于 Mamba 架构的脑肿瘤分割模型集合(V1–V12),围绕 MoA(Mixture of Attention)框架完成了从软路由混合专家到 token 级稀疏注意力的完整设计演进。所有模型参数量均控制在 1.5M 以内,最终模型 V10 以 1.42M 参数在 BraTS 脑肿瘤分割任务上取得病灶级 LW Dice 0.8304(全系列最高)、全局 HD95 7.90mm(优于全部基线)的成绩。

本项目为第 32 期大学生创新训练计划(SRTP)国家级自选型立项项目(立项推荐国家级)——《面向医疗的 SegResNet-Mamba 轻量化脑肿瘤分割方法研究与移动应用原型》的核心研究载体,本人担任项目负责人。

个人职责

作为项目负责人,独立承担从选题、设计到结题的全流程工作:

  • 方案设计:提出 MoA(Mixture of Attention)框架,主导 V1 → V10 十二个版本的架构演进路线
  • 工程实现:搭建完整训练 / 评估流水线(train.py / evaluate.py + shared 共享库),分支化管理 experiments / webapp / App
  • 实验验证:复现 SegMamba / SegResNet / VMUNet / VSSUNet 四类基线,完成统计检验、效率基准与专家路由可视化
  • 成果沉淀:撰写实验记录总集与论文实验章节,形成 V1–V12 全版本可复现的完整证据链

版本演进(V1 → V10)

版本 关键创新 参数量 全局 Dice HD95
V1 双向 Mamba + 跳跃连接 1.52M 0.8886 9.96
V2 多尺度 BiMamba(3 尺度) 1.42M 0.8885 8.56
V6 Soft MoA(4 异构专家 + 样本级软路由) 1.46M 0.8904 8.87
V7 MoA + DConv 专家 + Sigmoid α 自动学习 1.50M 0.8912 9.12
V9 真 MoE(Top-K=2 稀疏 + 负载均衡) 1.42M 0.8893 7.34
V10 论文级 token 级稀疏 MoA(共享 K/V + Attention 专家) 1.42M 0.8878 7.90

评估口径:官方 374mm 满罚、188 例测试集;V10 为最终模型,病灶级核心主张 LW Dice 0.8304 全系列最高。

核心创新

  • MoA(Mixture of Attention)框架:将 MoE 思想引入注意力,4 个异构专家(Attention / DConv)混合,经三代演进(软路由 → α 自动学习 → token 级稀疏共享 K/V)
  • 极致轻量化:对比官方 SegMamba(66.90M)压缩约 47 倍参数量,同时保持并超越分割精度
  • 完整实验证据链:V1–V12 全版本记录、4 类基线复现(含 SWA + 深监督增强版)、统计检验、效率基准与专家路由可视化

快速开始(experiments 分支)

# 训练最终模型 V10
python SegResMamba-Lite/pipeline/train.py --version v10 --init_filters 20 --epochs 100 --batch 6 --workers 8 --resolution 2.0 --device cuda --cache

# 评估(生成全局 + lesion-wise 逐例 CSV)
python SegResMamba-Lite/pipeline/evaluate.py --version v10 --init_filters 20 --resolution 2.0 --device cuda --cache --workers 8