SegFormer là kiến trúc học sâu dành cho phân đoạn ngữ nghĩa (semantic segmentation) , kết hợp một Transformer encoder phân cấp với decoder MLP rất nhẹ. Thay vì sử dụng Transformer ở một độ phân giải duy nhất như Vision Transformer (ViT), SegFormer tạo đặc trưng ở nhiều tỉ lệ không gian, phù hợp hơn với bài toán cần dự đoán nhãn cho từng pixel. Điểm đáng chú ý của SegFormer không chỉ nằm ở việc đưa self-attention vào Computer Vision. Kiến trúc được thiết kế xoay quanh bốn ý tưởng: Mix Transformer (MiT), Overlapping Patch Embedding, Efficient Self-Attention, Mix-FFN và All-MLP Decoder . SegFormer cũng không sử dụng positional embedding cố định như ViT, nhờ đó tránh việc phải nội suy positional embedding khi độ phân giải ảnh thay đổi. Tóm tắt nội dung SegFormer gồm MiT encoder phân cấp và All-MLP decoder . Encoder tạo bốn feature map ở các độ phân giải 1/4, 1/8, 1/16 và 1/32 so với ảnh đầu vào. Efficient Self-Attention giảm số lượng token dùng cho Key và Value, giúp at...