论文地址：End-to-End Object Detection with Transformers

一、 摘要

该方法提出了一个检测的新的pipeline，无需预定义锚框以及人为添加的后处理操作（NMS）。称为DEtection Transformer(DETR)，一个基于集合预测 的全局损失，通过二分匹配和一个transformer编码解码器生成预测。给予一组固定的可学习的目标query集合，DETR推理目标坐标和图片上下文直接输出最终的预测结果。

二、 介绍

本方法直接将目标检测任务视为一个预测集合的问题，结构如下图。DETR一次性预测所有的目标，使用端到端的集合损失，实现预测和真实框之间的二分图匹配。通过去除多个手工设计的组件（编码先验锚框或者NMS处理），DETR简化了检测的pipeline。不同于大多数已存在检测方法，DETR不需要任何自定义层，可以轻松复制到别的框架中。

过去的多数的直接集合预测方法方法普遍使用RNN进行自回归解码，而DETR结合了二分图匹配损失和transformer（非自回归）平行解码。匹配损失安排一个唯一预测去回归真实框，由于预测对象的顺序是不变的，所以可以并行计算。

三、 相关工作

1. 集合预测

集合预测任务没有规范，基础的定义为一个多标签的分类任务，但是不适用于元素之间存在底层结构的检测等问题。首先的问题是避免重复，大多数当前的检测是使用后处理来解决，例如NMS，但是直接集合预测是没有后处理步骤的。它们需要对所有预测元素之间的交互进行建模的全局推理模式，以避免冗余。对于常数大小的检测，可以使用RNN之类的自回归序列模型。在所有情况下，损失函数对于预测的排列应该是不变的，常用的解决办法是设计一个基于匈牙利算法的损失，完成预测和GT框的二分图匹配（1对1）。不同于过去工作，DETR也放弃了自回归方法，而是选用了并行解码的transformer。

2. Transformer 和并行解码

Transformer是一种自注意力的结构，类似于Non-Local，优点是全局计算和完全记忆，比RNN更加优秀的长程序列处理。

Transformer期初也是使用自回归方法，但是计算量过大，导致并行序列生成的发展。DETR组合了Transformer和并行解码，权衡了计算代价和集合预测所需的全局计算能力。

四、 DETR模型

检测中的直接集合预测需要两部分：

1. 一个1对1进行预测框和GT框进行匹配的集合预测损失；
2. 一个可以直接预测一系列目标并建模他们之间的关联的结构。

1. 目标检测的集合预测损失

DETR通过一个解码器一次性推导一个固定大小的$N$个预测，$N$可以设置的很大。主要训练困难是解决预测目标相应于GT框的得分（class，position，size）。

定义$y$为目标 真实集合，$\hat{y}=\{{\hat{y}}_i{\}}_{i=1}^N$是$N$个预测集合，设$N$大于图片目标数，将$y$看做是一个大小为$N$（补空集）的集合。寻找一个$N$个元素$\sigma \in {\mathfrak{S}}_N$的排序使得二分图匹配损失最小：
$$\hat{\sigma }=\underset{\sigma \in {\mathfrak{S}}_N}{\mathrm{argmin}}\sum _i^N{\mathcal{L}}_{\mathrm{match}}\left(y_i,{\hat{y}}_{\sigma (i)}\right)\text{\hspace{1em}(1)}$$
${\mathcal{L}}_{\mathrm{match}}\left(y_i,{\hat{y}}_{\sigma (i)}\right)$表示一对真实框$y_i$和预测$\sigma (i)$之间的匹配代价，使用匈牙利算法进行优化任务。

匹配损失考虑类别预测和边界框相似度。真实集合$y$中的每个元素i看为$y_i=(c_i,b_i)$, $c_i$是目标类别标签（可能为空），$b_i\in [0,1{]}^4$是一个向量，定义边界框相较于图片大小的中心点坐标和的高宽大小。对于预测集中的某个$\sigma (i)$下标，定义属于类别$c_i$的概率${\hat{p}}_{\sigma (i)}(c_i)$和边界框位置${\hat{b}}_{\sigma }(i)$，于是${\mathcal{L}}_{\mathrm{match}}\left(y_i,{\hat{y}}_{\sigma (i)}\right)=-1_{\left\{c_i\ne \varnothing \right\}}{\hat{p}}_{\sigma (i)}\left(c_i\right)+1_{\left\{c_i\ne \varnothing \right\}}{\mathcal{L}}_{\mathrm{b}\mathrm{o}\mathrm{x}}\left(b_i,{\hat{b}}_{\sigma (i)}\right)$。

以上定义匹配和传统不同的是，这里是一对一的，不需要进行NMS之类的后处理对重复进行处理。

第二步是利用匈牙利算法为之前步骤的成对匹配的信息计算损失。类似于平常的检测，由类预测的负对数似然和框损失的线性组合而成:
$${\mathcal{L}}_{\text{Hungarian }}(y,\hat{y})=\sum _{i=1}^N\left[-\log {\hat{p}}_{\hat{\sigma }(i)}\left(c_i\right)+1_{\left\{c_i\ne \varnothing \right\}}{\mathcal{L}}_{\text{box }}\left(b_i,{\hat{b}}_{\hat{\sigma }}(i)\right)\right]\text{\hspace{1em}(2)}$$

$\hat{\sigma }$是$(1)$中的优化任务计算的结果，实践中对于$c_i=\varnothing$的log损失降低10倍以平衡类不平衡。

Bbox损失:
匹配损失和匈牙利损失中的$L_{box}(\cdot )$表示边界框得分，在不需要先验知识的前提下直接预测边界框，虽然简化了实现，但是这带来了一个损失的规模相关问题，最常用的$L1$损失，但是对于不同大小边界框存在一定缩放，即使这些边界框相对误差很小。于是这里使用一个$L1$损失和尺度不变广义的$IOU$损失$L_{iou}(\cdot ,\cdot )$的线性组合来减轻这个影响，${\mathcal{L}}_{\text{box}}(b_i,{\hat{b}}_{\sigma (i)})={\lambda }_{\text{iou }}{\mathcal{L}}_{\text{iou }}\left(b_i,{\hat{b}}_{\sigma (i)}\right)+{\lambda }_{\mathrm{L}1}{\Vert b_i-{\hat{b}}_{\sigma (i)}\Vert }_1$是超参，这两个损失由batch中的目标数进行标准化，其中${\lambda }_{iou},{\lambda }_{L1}\in R$是超参，这两个损失由batch中的目标数进行标准化，其中
$${\mathcal{L}}_{\text{iou }}\left(b_{\sigma (i)},{\hat{b}}_i\right)=1-\left(\frac{\left|b_{\sigma (i)}\cap {\hat{b}}_i\right|}{\left|b_{\sigma (i)}\cup {\hat{b}}_i\right|}-\frac{\left|B\left(b_{\sigma (i)},{\hat{b}}_i\right)\backslash b_{\sigma (i)}\cup {\hat{b}}_i\right|}{\left|B\left(b_{\sigma (i)},{\hat{b}}_i\right)\right|}\right)\text{\hspace{1em}(3)}$$
|.|代表面积。$B(b_{\sigma (i)},{\hat{b}}_i)$代表包含$b_{\sigma (i)},{\hat{b}}_i$的一个大的整体边界框。

2. DETR结构

整体检测结构如下，包含三个成分，一个CNN的backbone用于提取紧凑的特征表示，一个编码解码的transformer以及一个简单的前馈网络（FFN）组成。

DETR中的transformer详细结构：

Backbone：
输入为初始图片$x_{img}\in R^{3\times H_0\times W_0}$。通过传统CNN的backbone生成低分辨率特征图$f\in R^{C\times H\times W}$，C = 2048，$H,W=H_0/32,W_0/32$。

Transformer 编码器:
使用1×1卷积降低backbone生成的高通道数特征图（$C—>d$），生成新的特征图$z_0\in R^{d\times H\times W}$。编码器将$z_0$空间维度压缩为1维（d×HW）作为输入，每个编码器是一个多头自注意力模型和一个前馈网络组成的标准结构。使用额外的固定位置编码作为输入，以满足transformer的顺序不变性。

Transformer 解码器：
解码器类似于标准的transformer结构，区别在于我们的模型在每个解码层并行解码$N$个目标。由于解码器也有顺序不变性，所以$N$个输入的embedding必须不同，才能生成不同的结果。这些可学习到的位置编码作为输入embedding（称为object queries），将他们加入每个注意力层，通过解码器完成输出。然后分别送入FFN层独立的解码为框坐标和类别标签，产生N个预测。使用自编码解码注意力作用于这些embedding，能够使他们之间的成对关系进行全局推理，可以使用整个图片作为上下文信息。

FFN预测：
有三层组成，一个relu激活函数层，一个d维度的隐藏层，一个线性投影层。FFN预测标准化的中心坐标，和边界框宽高，线性层使用softmax函数预测类别标签（N维）。N中存在一种特殊的类$\varnothing$代表没有目标，或者说是背景类。

五、 实验

对比Faster RCNN效果

编码器自我注意为一组参考点，可以分离单独的实例:

损失消融对比实验：