本文只做一些在计算机视觉中应用的简单介绍，童叟无欺。

一、图像分类

a. 通用图像分类

将不同图片按照内容进行分类

b. 特定图像分类

特定识别人脸、某种动物、汽车等

1.1 人脸验证

下面是两种典型的人脸识别损失函数

1.1.1 DeepID2

上图左侧两个人比较像，都是侧脸，所以箭头短一点，下方一个是侧脸一个是正脸，而且光照也不相同，所以箭头长一点。我们希望经过训练后，上方的两张图片离得远一点(因为这是两个不同的人)，而下方的图片近一些(同一个人)。

目标：当i，j身份相同时， $||f(x_{i})-f(x_{j}))||_{2}^{2}$ 足够小，否则 $||f(x_{i})-f(x_{j}))||_{2}^{2}>a$ 其中 $a>0$

损失： $L(x_{i},x_{j},y_{ij},\theta )=\left\{\begin{matrix} \frac{1}{2}||f(x_{i})-f(x_{j}))||_{2}^{2} & ,y_{ij}=1\\\frac{1}{2}max\begin{Bmatrix} 0,\, a-||f(x_{i})-f(x_{j}))||_{2}^{2} \end{Bmatrix} & ,else\end{matrix}\right.$

（一个minibatch至少包含2个样本， $y_{ij}$ 为标签。）

1.1.2 FaceNet

随计算一个人得图片做为Anchor，然后选择和他同一个人的图片和不同的人的图片做训练。其它同上。

目标： $||f(x_{i}^{a})-f(x_{i}^{p}))||_{2}^{2}+a<||f(x_{i}^{a})-f(x_{i}^{n}))||_{2}^{2}$ 其中 a>0

损失： $\sum_{i}^{N}[||f(x_{i}^{a})-f(x_{i}^{p}))||_{2}^{2}-||f(x_{i}^{a})-f(x_{i}^{n}))||_{2}^{2}+a]_{+}$

（一个minibatch至少包含3个样本）

1.1.3 人脸验证的其它损失函数

SphereFace: Deep Hypersphere Embedding for Face Recognition, CVPR 2017
NormFace: L2 Hypersphere Embedding for Face Verification, ACM MM 2017
ArcFace: Additive Angular Margin Loss for Deep Face Recognition, CVPR 2019

二、物体检测

任务：找出图片中的物体和每个物体所在的位置。

怎么做这个任务？

找到包含物体的区域，用一个多分类器进行物体分类

怎么知道哪些区域包含物体？

找到很多候选区域，用一个二分类器进行区域分。

2.1 候选区域(Region Proposals)

指可能包含物体的区域、感兴趣区域（Region of interest, ROI）。

挑选候选区域的多种选择

2.1.1 (C+1)-类的分类

上面提到简单检测物体的思路：

找到很多候选区域，用一个二分类器进行区域分类。
找到包含物体的区域，用一个多分类器(Softmax、SVM等)进行物体分类。

另外一种方法：

设有C个类别，加一个“背景”类
- 对每个区域用一个多分类器进行(C+1)-类的分类
- 对每个区域用(C+1)个二分类器进行分类

2.1.2 R-CNN

把每个候选框的图片剪贴出来，变成相同尺寸，经过一个同样的CNN进行一个二分类。这里用的上面提到的C+1类方法。SVM解决二分类问题。至于Bbox reg 用于解决回归问题，坐标定位。

步骤：

训练(或下载)ImageNet分类模型(如AlexNet)
针对检测微调(fine-tune)
提取特征
每个类别训练一个二分类SVM来为候选区域的特征进行分类
对每个类别，训练一个线性回归模型，将特征映射到一组偏移量，用以校正那些稍微有些误差的候选区域

R-CNN有什么问题吗？

测试慢

需要对每个ROI跑一个完整的CNN前向过程。

非“端到端”过程

找候选区域， SVM和回归器基于CNN的特征进行处理。
SVM和回归器不能更新CNN的特征。

更好的想法？

先在整张图上跑一个CNN的前向过程，然后将每个ROI映射到特征图上。

2.1.3 Fast R-CNN

即先把整张图做一个神经网络，先把特征取好，想要什么特征就取什么特征。

感兴趣区域池化(RoI Pooling)

可见上面提取的图片大小是不同的，这里做一下池化。

结果：

Fast R-CNN问题：

R-CNN和Fast R-CNN它们的那些“框”来自于计算机视觉上的一些方法，万一不准怎么办？

2.1.4 Faster R-CNN

在最后一个卷积层后插入候选区域网络(Region Proposal Network ,RPN)

RPN用来直接产生候选区域; 不需要额外的候选框。

RPN之后, 使用RoI Pooling以及分类器、回归器，类似Fast R-CNN。

通过Fast R-CNN的一个神经网络得到feature map，在最后一个卷积层后插入了RPN，会输出一些ROI。用神经网络的特征预测哪些区域有误。前面的方法用其它方法预测候选区域不一定准，而且是在Deep Learing兴起之前的一些方法。

候选区域网络 (RPN)

在feature map每个点上做两个预测，在每个点提出k个框(不同大小形状，k常设置为9，3种不同的形状*3种不同的大小如上右图)，把这些框经过一个全连接层得到一个256维的向量去做两个任务1.识别物体(2分类，2k个) 2. 定位(4k个)。

Faster R-CNN 结果

2.1.5 两阶段与单阶段

上面介绍的三个模型有一个共同点，需要一些候选框，再对每个候选框进行处理。我们把这一类的方法称之为：两阶段方法。

两阶段方法较慢，现在人们已经在研发更快的方法：单阶段模型，它不再去预测哪个框是更合适的，所以更快，但精度会有些问题。

单阶段如何实现呢？

2.1.6 YOLO: You only look at once

将图像划分为S×S个网格；

每个网格预测B个矩形框, 每个框的置信度(与任意一个Ground truth框的IOU), 以及C个类别的概率。

这些预测结果可整合为大小为 S ×S ×(B ∗5 + C) 的张量

效果对比

https://github.com/yehengchen/Object-Detection-and-Tracking/blob/master/Twostage%20vs%20One-stage%20Detectors.md

在日常生活中，特定的物体检测应用更加广泛一些

三、图像分割

给定一张图片，对每个像素进行分类。

通常的一些卷积方法会使输出变小，所以我们就需要一些方法来增他特征图。

如何增大特征图？

上采样 (采样和插值)
- 对于一张输入图片，将其放大到指定尺寸，并用插值方法计算每个像素的值，例如双线性插值。
转置卷积 (不应称为反卷积deconvolution)
- http://deeplearning.net/software/theano/tutorial/conv_arithmetic.html