年份	会议/期刊	标题	内容	领域	架构图
2017	NIPS	Attention is all you need(Transformer)	贡献:提出了一种新的简单的网络架构Transformer，它完全基于注意力机制，完全不需要递归和卷积。 做法：Encoder and Decoder Stacks，self-attention，Masked Multi-Head Attention,	nlp
2020	ECCV	End-to-End Object Detection with Transformers (DETR)	贡献:a set-based global loss that forces unique predictions via bipartite matching, and a transformer encoder-decoder architecture。 做法：Object detection set prediction loss（最优二分匹配匈牙利算法），CNN+transformer架构	目标检测
2021	ICLR	AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE(Vit)	贡献：直接将transformer应用于视觉，不做过多的修改 做法： 1. split an image into patches，每个patch是16x16，因此224x224的图片变成14x14的序列 2. 将每一个patch通过一个fc layer，获得一个linear embedding （将patch看成序列中的单词） 3. 有监督的训练方式	分类
2021	ICCV	Swin Transformer: Hierarchical Vision Transformer using Shifted Windows	贡献：提出了一种基于VIT的计算机视觉的通用主干框架 做法： 1.通过分层结构来处理图片 2.window self-attention 3.采取移动窗口的方式，允许跨窗口连接。	cv backbone
2021	MICCAI	CoTr: Efficiently Bridging CNN and Transformer for 3D Medical Image Segmentation	1.我们第一个来探索Transformer 的3D医学图像分割，特别是在计算和空间上的效率方法。【transformer优化技巧：可变形注意力】 2.我们引入了可变形自注意力机制来减少Transformer的复杂性，因此使得我们的CoTr可以使用多尺度特征来建模长程依赖。 3 我们的CoTr在3D多器官分割任务上优于基于CNN的、基于Transformer、以及混合模型。	3D医学图像分割
2022	WACV	UNETR: Transformers for 3D Medical Image Segmentation	利用纯Transformers作为编码器来学习输入量的序列表示并有效地捕获全局多尺度信息。同时也遵循了编码器和解码器的成功的“U型”网络设计,Transformers编码器通过不同分辨率的跳跃连接直接连接到解码器，以计算最终的语义分段输出。	3D医学图像分割