Caffe 深度学习框架上手教程
发表于 09:08|
来源suanfazu|
摘要：Caffe是一个清晰而高效的深度学习框架，本文详细介绍了caffe的优势、架构，网络定义、各层定义，Caffe的安装与配置，解读了Caffe实现的图像分类模型AlexNet，并演示了CIFAR-10在caffe上进行训练与学习。
是一个清晰而高效的深度学习框架，其作者是博士毕业于UC Berkeley的
，目前在Google工作。
Caffe是纯粹的C++/CUDA架构，支持命令行、Python和MATLAB接口；可以在CPU和GPU直接无缝切换：
Caffe::set_mode(Caffe::GPU);
Caffe的优势
上手快：模型与相应优化都是以文本形式而非代码形式给出。
Caffe给出了模型的定义、最优化设置以及预训练的权重，方便立即上手。
速度快：能够运行最棒的模型与海量的数据。
Caffe与cuDNN结合使用，测试AlexNet模型，在K40上处理每张图片只需要1.17ms.
模块化：方便扩展到新的任务和设置上。
可以使用Caffe提供的各层类型来定义自己的模型。
开放性：公开的代码和参考模型用于再现。
社区好：可以通过BSD-2参与开发与讨论。
Caffe的网络定义
Caffe中的网络都是有向无环图的集合，可以直接定义：&name: "dummy-net"
layers {&span&&span&name: &span&"data" …&/span&&/span&&/span&}
layers {&span&&span&name: &span&"conv" …&/span&&/span&&/span&}
layers {&span&&span&name: &span&"pool" …&/span&&/span&&/span&}
layers {&span&&span&name: &span&"loss" …&/span&&/span&&/span&}
数据及其导数以blobs的形式在层间流动。Caffe的各层定义Caffe层的定义由2部分组成：层属性与层参数，例如
name:"conv1"
type:CONVOLUTION
bottom:"data"
top:"conv1"
convolution_param{
num_output:&span&20
kernel_size:5
weight_filler{
type: "&span style="color: #c0504d;"&xavier&/span&"
}这段配置文件的前4行是层属性，定义了层名称、层类型以及层连接结构（输入blob和输出blob）；而后半部分是各种层参数。
Blob是用以存储数据的4维数组，例如
对于数据：Number*Channel*Height*Width
对于卷积权重：Output*Input*Height*Width
对于卷积偏置：Output*1*1*1
网络参数的定义也非常方便，可以随意设置相应参数。
甚至调用GPU运算只需要写一句话：
solver_mode:GPU
Caffe的安装与配置
Caffe需要预先安装一些依赖项，首先是CUDA驱动。不论是CentOS还是Ubuntu都预装了开源的nouveau显卡驱动（SUSE没有这种问题），如果不禁用，则CUDA驱动不能正确安装。以Ubuntu为例，介绍一下这里的处理方法，当然也有其他处理方法。
生成mnist-train-leveldb/ 和 mnist-test-leveldb/，把数据转化成leveldb格式：
# sudo vi/etc/modprobe.d/blacklist.conf
# 增加一行 ：blacklist nouveau
sudoapt-get --purge remove xserver-xorg-video-nouveau
#把官方驱动彻底卸载：
sudoapt-get --purge remove nvidia-*
#清除之前安装的任何NVIDIA驱动
sudo service lightdm stop
#进命令行，关闭Xserver
sudo kill all Xorg
安装了CUDA之后，依次按照安装BLAS、OpenCV、Boost即可。
Caffe跑跑MNIST试试
在Caffe安装目录之下，首先获得MNIST数据集：cd data/mnist
sh get_mnist.sh
生成mnist-train-leveldb/ 和&mnist-test-leveldb/，把数据转化成leveldb格式：
cd examples/lenet
sh create_mnist.sh
训练网络:sh train_lenet.sh
让Caffe生成的数据集能在Theano上直接运行
不论使用何种框架进行CNNs训练，共有3种数据集：
Training Set：用于训练网络
Validation Set：用于训练时测试网络准确率
Test Set：用于测试网络训练完成后的最终正确率
Caffe生成的数据分为2种格式：Lmdb和Leveldb
它们都是键/值对（Key/Value Pair）嵌入式数据库管理系统编程库。
虽然lmdb的内存消耗是leveldb的1.1倍，但是lmdb的速度比leveldb快10%至15%，更重要的是lmdb允许多种训练模型同时读取同一组数据集。
因此lmdb取代了leveldb成为Caffe默认的数据集生成格式。
Google Protocol Buffer的安装
Protocol Buffer是一种类似于XML的用于序列化数据的自动机制。
首先在Protocol Buffers的中下载最新版本：
解压后运行：./configure
$ make check
$ make install
pip installprotobuf
添加动态链接库export LD_LIBRARY_PATH=/usr/local/lib:$LD_LIBRARY_PATH
Lmdb的安装pip install lmdb
要parse（解析）一个protobuf类型数据，首先要告诉计算机你这个protobuf数据内部是什么格式（有哪些项，这些项各是什么数据类型的决定了占用多少字节，这些项可否重复，重复几次），安装protobuf这个module就可以用protobuf专用的语法来定义这些格式（这个是.proto文件）了，然后用protoc来编译这个.proto文件就可以生成你需要的目标文件。
想要定义自己的.proto文件请阅读：
编译.proto文件protoc--proto_path=IMPORT_PATH --cpp_out=DST_DIR --java_out=DST_DIR--python_out=DST_DIR path/to/file.proto--proto_path 也可以简写成-I 是.proto所在的路径
输出路径：
--cpp_out 要生成C++可用的头文件，分别是***.pb.h（包含申明类）***.pb.cc（包含可执行类），使用的时候只要include “***.pb.h”
--java_out 生成java可用的头文件
--python_out 生成python可用的头文件，**_pb2.py，使用的时候import**_pb2.py即可
最后一个参数就是你的.proto文件完整路径。
Caffe (CNN, deep learning) 介绍
Caffe -----------Convolution Architecture For Feature Embedding (Extraction)
Caffe 是什么东东？
CNN (Deep Learning) 工具箱
C++ 语言架构
CPU 和GPU 无缝交换
Python 和matlab的封装
但是，Decaf只是CPU 版本。
为什么要用Caffe？
运算速度快。简单 友好的架构 用到的一些库：
Google Logging library (Glog): 一个C++语言的应用级日志记录框架，提供了C++风格的流操作和各种助手宏.
lebeldb(数据存储)： 是一个google实现的非常高效的kv数据库，单进程操作。
CBLAS library（CPU版本的矩阵操作）
CUBLAS library (GPU 版本的矩阵操作)
Caffe 架构
预处理图像的leveldb构建
输入：一批图像和label （2和3）
输出：leveldb （4）
指令里包含如下信息：
conver_imageset （构建leveldb的可运行程序）
train/ （此目录放处理的jpg或者其他格式的图像)
label.txt (图像文件名及其label信息)
输出的leveldb文件夹的名字
CPU/GPU (指定是在cpu上还是在gpu上运行code)
CNN网络配置文件
Imagenet_solver.prototxt （包含全局参数的配置的文件）
Imagenet.prototxt （包含训练网络的配置的文件）
Imagenet_val.prototxt （包含测试网络的配置文件）
Caffe深度学习之图像分类模型AlexNet解读
在imagenet上的图像分类challenge上Alex提出的alexnet网络结构模型赢得了2012届的冠军。要研究CNN类型DL网络模型在图像分类上的应用，就逃不开研究alexnet，这是CNN在图像分类上的经典模型（DL火起来之后）。
在DL开源实现caffe的model样例中，它也给出了alexnet的复现，具体网络配置文件如下
接下来本文将一步步对该网络配置结构中各个层进行详细的解读（训练阶段）：
各种layer的operation更多解释可以参考
从计算该模型的数据流过程中，该模型参数大概5kw+。
conv1阶段DFD（data flow diagram）：&
conv2阶段DFD（data flow diagram）：
conv3阶段DFD（data flow diagram）：
conv4阶段DFD（data flow diagram）：
conv5阶段DFD（data flow diagram）：
fc6阶段DFD（data flow diagram）：
fc7阶段DFD（data flow diagram）：
& & & & & & &
fc8阶段DFD（data flow diagram）：
& & & & & & &
caffe的输出中也有包含这块的内容日志，详情如下：
I:15.92 net.cpp:125] Top shape: 256 3 227 227 ()
I:15.92 net.cpp:125] Top shape: 256 1 1 1 (256)
I:15.92 net.cpp:156] data does not need backward computation.
I:15.92 net.cpp:74] Creating Layer conv1
I:15.92 net.cpp:84] conv1 &- data
I:15.92 net.cpp:110] conv1 -& conv1
I:16.92 net.cpp:125] Top shape: 256 96 55 55 ()
I:16.92 net.cpp:151] conv1 needs backward computation.
I:16.92 net.cpp:74] Creating Layer relu1
I:16.92 net.cpp:84] relu1 &- conv1
I:16.92 net.cpp:98] relu1 -& conv1 (in-place)
I:16.92 net.cpp:125] Top shape: 256 96 55 55 ()
I:16.92 net.cpp:151] relu1 needs backward computation.
I:16.92 net.cpp:74] Creating Layer pool1
I:16.92 net.cpp:84] pool1 &- conv1
I:16.92 net.cpp:110] pool1 -& pool1
I:16.92 net.cpp:125] Top shape: 256 96 27 27 ()
I:16.92 net.cpp:151] pool1 needs backward computation.
I:16.92 net.cpp:74] Creating Layer norm1
I:16.92 net.cpp:84] norm1 &- pool1
I:16.92 net.cpp:110] norm1 -& norm1
I:16.92 net.cpp:125] Top shape: 256 96 27 27 ()
I:16.92 net.cpp:151] norm1 needs backward computation.
I:16.92 net.cpp:74] Creating Layer conv2
I:16.92 net.cpp:84] conv2 &- norm1
I:16.92 net.cpp:110] conv2 -& conv2
I:16.92 net.cpp:125] Top shape: 256 256 27 27 ()
I:16.92 net.cpp:151] conv2 needs backward computation.
I:16.92 net.cpp:74] Creating Layer relu2
I:16.92 net.cpp:84] relu2 &- conv2
I:16.92 net.cpp:98] relu2 -& conv2 (in-place)
I:16.92 net.cpp:125] Top shape: 256 256 27 27 ()
I:16.92 net.cpp:151] relu2 needs backward computation.
I:16.92 net.cpp:74] Creating Layer pool2
I:16.92 net.cpp:84] pool2 &- conv2
I:16.92 net.cpp:110] pool2 -& pool2
I:16.92 net.cpp:125] Top shape: 256 256 13 13 ()
I:16.92 net.cpp:151] pool2 needs backward computation.
I:16.92 net.cpp:74] Creating Layer norm2
I:16.92 net.cpp:84] norm2 &- pool2
I:16.92 net.cpp:110] norm2 -& norm2
I:16.92 net.cpp:125] Top shape: 256 256 13 13 ()
I:16.92 net.cpp:151] norm2 needs backward computation.
I:16.92 net.cpp:74] Creating Layer conv3
I:16.92 net.cpp:84] conv3 &- norm2
I:16.92 net.cpp:110] conv3 -& conv3
I:16.92 net.cpp:125] Top shape: 256 384 13 13 ()
I:16.92 net.cpp:151] conv3 needs backward computation.
I:16.92 net.cpp:74] Creating Layer relu3
I:16.92 net.cpp:84] relu3 &- conv3
I:16.92 net.cpp:98] relu3 -& conv3 (in-place)
I:16.92 net.cpp:125] Top shape: 256 384 13 13 ()
I:16.92 net.cpp:151] relu3 needs backward computation.
I:16.92 net.cpp:74] Creating Layer conv4
I:16.92 net.cpp:84] conv4 &- conv3
I:16.92 net.cpp:110] conv4 -& conv4
I:16.92 net.cpp:125] Top shape: 256 384 13 13 ()
I:16.92 net.cpp:151] conv4 needs backward computation.
I:16.92 net.cpp:74] Creating Layer relu4
I:16.92 net.cpp:84] relu4 &- conv4
I:16.92 net.cpp:98] relu4 -& conv4 (in-place)
I:16.92 net.cpp:125] Top shape: 256 384 13 13 ()
I:16.92 net.cpp:151] relu4 needs backward computation.
I:16.92 net.cpp:74] Creating Layer conv5
I:16.92 net.cpp:84] conv5 &- conv4
I:16.92 net.cpp:110] conv5 -& conv5
I:16.92 net.cpp:125] Top shape: 256 256 13 13 ()
I:16.92 net.cpp:151] conv5 needs backward computation.
I:16.92 net.cpp:74] Creating Layer relu5
I:16.92 net.cpp:84] relu5 &- conv5
I:16.92 net.cpp:98] relu5 -& conv5 (in-place)
I:16.92 net.cpp:125] Top shape: 256 256 13 13 ()
I:16.92 net.cpp:151] relu5 needs backward computation.
I:16.92 net.cpp:74] Creating Layer pool5
I:16.92 net.cpp:84] pool5 &- conv5
I:16.92 net.cpp:110] pool5 -& pool5
I:16.92 net.cpp:125] Top shape: 256 256 6 6 (2359296)
I:16.92 net.cpp:151] pool5 needs backward computation.
I:16.92 net.cpp:74] Creating Layer fc6
I:16.92 net.cpp:84] fc6 &- pool5
I:16.92 net.cpp:110] fc6 -& fc6
I:17.92 net.cpp:125] Top shape: 256
I:17.92 net.cpp:151] fc6 needs backward computation.
I:17.92 net.cpp:74] Creating Layer relu6
I:17.92 net.cpp:84] relu6 &- fc6
I:17.92 net.cpp:98] relu6 -& fc6 (in-place)
I:17.92 net.cpp:125] Top shape: 256
I:17.92 net.cpp:151] relu6 needs backward computation.
I:17.92 net.cpp:74] Creating Layer drop6
I:17.92 net.cpp:84] drop6 &- fc6
I:17.92 net.cpp:98] drop6 -& fc6 (in-place)
I:17.92 net.cpp:125] Top shape: 256
I:17.92 net.cpp:151] drop6 needs backward computation.
I:17.92 net.cpp:74] Creating Layer fc7
I:17.92 net.cpp:84] fc7 &- fc6
I:17.92 net.cpp:110] fc7 -& fc7
I:17.92 net.cpp:125] Top shape: 256
I:17.92 net.cpp:151] fc7 needs backward computation.
I:17.92 net.cpp:74] Creating Layer relu7
I:17.92 net.cpp:84] relu7 &- fc7
I:17.92 net.cpp:98] relu7 -& fc7 (in-place)
I:17.92 net.cpp:125] Top shape: 256
I:17.92 net.cpp:151] relu7 needs backward computation.
I:17.92 net.cpp:74] Creating Layer drop7
I:17.92 net.cpp:84] drop7 &- fc7
I:17.92 net.cpp:98] drop7 -& fc7 (in-place)
I:17.92 net.cpp:125] Top shape: 256
I:17.92 net.cpp:151] drop7 needs backward computation.
I:17.92 net.cpp:74] Creating Layer fc8
I:17.92 net.cpp:84] fc8 &- fc7
I:17.92 net.cpp:110] fc8 -& fc8
I:17.92 net.cpp:125] Top shape: 256 22 1 1 (5632)
I:17.92 net.cpp:151] fc8 needs backward computation.
I:17.92 net.cpp:74] Creating Layer loss
I:17.92 net.cpp:84] loss &- fc8
I:17.92 net.cpp:84] loss &- label
I:17.92 net.cpp:151] loss needs backward computation.
I:17.92 net.cpp:173] Collecting Learning Rate and Weight Decay.
I:17.92 net.cpp:166] Network initialization done.
I:17.92 net.cpp:167] Memory required for Data
CIFAR-10在caffe上进行训练与学习
使用数据库：CIFAR-10
60000张 32X32 彩色图像 10类，50000张训练，10000张测试
在终端运行以下指令：cd $CAFFE_ROOT/data/cifar10
./get_cifar10.sh
cd $CAFFE_ROOT/examples/cifar10
./create_cifar10.sh
其中CAFFE_ROOT是caffe-master在你机子的地址
运行之后，将会在examples中出现数据库文件./cifar10-leveldb和数据库图像均值二进制文件./mean.binaryproto
该CNN由卷积层，POOLing层，非线性变换层，在顶端的局部对比归一化线性分类器组成。该模型的定义在CAFFE_ROOT/examples/cifar10
directory’s cifar10_quick_train.prototxt中，可以进行修改。其实后缀为prototxt很多都是用来修改配置的。
训练和测试
训练这个模型非常简单，当我们写好参数设置的文件cifar10_quick_solver.prototxt和定义的文件cifar10_quick_train.prototxt和cifar10_quick_test.prototxt后，运行train_quick.sh或者在终端输入下面的命令：cd $CAFFE_ROOT/examples/cifar10
./train_quick.sh
即可，train_quick.sh是一个简单的脚本，会把执行的信息显示出来，培训的工具是train_net.bin,cifar10_quick_solver.prototxt作为参数。
然后出现类似以下的信息：这是搭建模型的相关信息I:48.8298256 net.cpp:74] Creating Layer conv1
I:48.8298256 net.cpp:84] conv1 &- data
I:48.8298256 net.cpp:110] conv1 -& conv1
I:49.8298256 net.cpp:125] Top shape: 100 32 32 32 (3276800)
I:49.8298256 net.cpp:151] conv1 needs backward computation.
接着：:49.8298256 net.cpp:166] Network initialization done.
I:49.8298256 net.cpp:167] Memory required for Data
I:49.8298256 solver.cpp:36] Solver scaffolding done.
I:49.8298256 solver.cpp:47] Solving CIFAR10_quick_train
之后，训练开始I:12.8298256 solver.cpp:208] Iteration 100, lr = 0.001
I:12.8298256 solver.cpp:65] Iteration 100, loss = 1.73643
I:41.8298256 solver.cpp:87] Iteration 500, Testing net
I:47.8298256 solver.cpp:114] Test score #0: 0.5504
I:47.8298256 solver.cpp:114] Test score #1: 1.27805
其中每100次迭代次数显示一次训练时lr(learningrate),和loss（训练损失函数），每500次测试一次，输出score 0（准确率）和score
1（测试损失函数）
当5000次迭代之后，正确率约为75%，模型的参数存储在二进制protobuf格式在cifar10_quick_iter_5000
然后，这个模型就可以用来运行在新数据上了。
另外，更改cifar*solver.prototxt文件可以使用CPU训练，# solver mode: CPU or GPU
solver_mode: CPU
可以看看CPU和GPU训练的差别。
主要资料来源：caffe官网教程
原文链接： （责编：周建丁）
推荐阅读相关主题：
CSDN官方微信
扫描二维码,向CSDN吐槽
微信号：CSDNnews
相关热门文章Access denied |
used Cloudflare to restrict access
Please enable cookies.
What happened?
The owner of this website () has banned your access based on your browser's signature (3d00dc0dcff46df6-ua98).caffe中各层的作用:
我的图书馆
caffe中各层的作用:
关于caffe中的solver:
cafffe中的sover的方法都有:
Stochastic Gradient Descent (type: "SGD"),AdaDelta (type: "AdaDelta"),Adaptive Gradient (type: "AdaGrad"),Adam (type: "Adam"),Nesterov’s Accelerated Gradient (type: "Nesterov") andRMSprop (type: "RMSProp")
solver都干了点什么?
1,创建训练网络与测试网网络.
2,进行前向传播与误差反向传播,更新参数,优化网络.
3, 间歇地进行用验证集进行测试test网络.
4, 在优化过程中,可以选择进行快照,进行保存中间状态.
数据输入层 （data layer):
在caffe中, 数据通过caffe进入.通常情况下,数据可以直接从内存中读中,可以从高效的LevelDB/LMDBD Database 中读入, 也可以从HDF5格式的硬盘文件中读去或着通常的图片文件.
通常我们对数据的预处理,我们可以参考TransformationParams里的设定.
Database 层: 类型为Data
这就是从LMDB/LeverlDB文件中读取数据的层;
In-Memory层: type:MemoryData
当我们想直接从内存中读取数据的话,那就需要调用MemoryDataLayer::Reset(c++程序)或Net.input_arrays(python程序),来指明数据源.
HDF5 Input层，类型为：HDF5Data
它的作用为从HDF5文件类型里读放数据，我们就看一个例子哦
name: "mnist"
type: "HDF5Data"
top: "data"
top: "label"
phase: TRAIN
hdf5_data_param {
source: "mydata/train_list.txt"
//是个坑哦，下面下面解释；
batch_size: 200
上面的代码需要一地方解释：在定义.proto文件里的data层时注意，hdf5_data_param的source不要直接写我们生成的HDF5文件的路径，而是写一个.txt文件的，并在.txt文件里写入你生成的HDF5文件的路经，一个HDF5文件路径占一行，一定要这样哦。原因是因为，我们可以要读入多个HDF5文件，所以要这样写哦。
HDF5 Output层 类型为：HDF5Output
它的作用为把数据写成HDF5格式
另外还有,Images, Windows, Dummy.
激活函数层: 如果要用激活函数的话，就相当于增加一层哦
ReLU激活函数(rectified-linear and Leaky-ReLU):类型为ReLU.
在标准的ReLU激活函数中,当输入为x时,如果x&0,则输出 x,如果输入&=0,则输出0,即输出为max(0,x).
在非标准的ReLU激活函数中,当输入x&=0时, 输出为x * negative_slop(它是一个参数,默认为0).
sigmoid激活函数:类型为 Sigmoid.
这个不用多解释了.
tanh激活函数,类型为: TanH.&
这个也不用多解释了.
Abolute Value:类型为 AbsVal.
计算绝对值的函数.
power激活函数:类型为:Power.
The Power layer computes the output as (shift + scale * x) ^ power for each input element x.
BNLL激活函数:类型为 BNLL.&&&&
The BNLL (binomial normal log likelihood) layer computes the output as log(1 + exp(x)) for each input element x.
caffe中的layer:
convolution层:
layer的类型为:Convolution.,它有很参数,具体可以看caffe.proto里的message ConvolutionParam{}的定义.
num_output :输出的 feature map的个数啦,是否有偏置项啦,是否有把图像的边缘补充/卷积核的大小./步长/权值如何填充/偏置如何填充等.
看一个例子:
name: "conv1"
type: "Convolution"
bottom: "data"
top: "conv1"
# learning rate and decay multipliers for the filters
param { lr_mult: 1 decay_mult: 1 }
# learning rate and decay multipliers for the biases
param { lr_mult: 2 decay_mult: 0 }
convolution_param {
num_output: 96
# learn 96 filters
kernel_size: 11
# each filter is 11x11
# step 4 pixels between each filter application
weight_filler {
type: "gaussian" # initialize the filters from a Gaussian
# distribution with stdev 0.01 (default mean: 0)
bias_filler {
type: "constant" # initialize the biases to zero (0)
pooling层:类型为:Pooling
这一层也有很多参数选择, 如pooling的核的大小/步长/pad(即上面的是否为边界加一些默认的值), 还有pooling的方法:现在有max/ average/stochastic三个方法.,具体看一下caffe.proto里的定义.
name: "pool1"
type: "Pooling"
bottom: "conv1"
top: "pool1"
pooling_param {
kernel_size: 3 # pool over a 3x3 region
# step two pixels (in the bottom blob) between pooling regions
LRN层:,类型为LRN.&&&&& 即local response normalizaiton,它的作用是通过normalizing 局部输入区域,达到侧向抑制的目的(为什么,还不确定,记得在论文里看到过类似的方法).它分为两种模式,一种是across-channels,一种是within_channels .在arcoss-channel里, 分选择在相邻的feature-map之间进行,它的区域差不多为local_size *1 *1, 如果选择within_channels的话,该操作会选择在同一个feature map上操作,它的区域相当于 1* local_size * local_size.
Inner Product 层: 类型为:InnerProduct
它就是我们据说的全连接层.
在caffe中,默认的以loss结尾的layer可以作为loss层,但是中间的层同样可以作为loss层.原因是这样的:
有一个和这个相关的参数:loss_weight,它决定了你的每个loss层占最好的loss的大小.
在以loss结尾的layer里面, loss_wight的大小为1. 在不是以loss结尾的layer里面,它的loss_weight为0.
name: "loss"
type: "SoftmaxWithLoss"
bottom: "pred"
bottom: "label"
top: "loss"
loss_weight: 1
#这个是默认的,可以不写的.
如果我们想在一个net里,包含多个loss层的话,我们就可以设置他们对应的loss_weight在大小,这就相当于一个权值.(如一个网络中,我们即用softmaxWithloss用来分类,也用EuclideanLoss用来计算重构输入的loss).
最后在计算总的loss的时候,它的输出可以用下面的伪代码表示:
for layer in layers:
for top, loss_weight in layer.tops, layer.loss_weights:
loss += loss_weight * sum(top)
softmax: 类型为:SoftmaxWithLoss
它的类型为:SoftmaxWithLoss.它其实就是一个 softmax层,然后跟了个multinomial logistic loss层. 它比单独用softmax层可以使梯度值更稳定.
sum-of-squares/也叫euclidean:
就是平时我们说的平方差代价函数.
hinge Loss: 类型:HingeLoss
最常用在 SVM 中的最大化间隔分类中等. hinge loss常分为1vs all hinge和squared hinge loss,即 L1 与L2hange.
name: "loss"
type: "HingeLoss"
bottom: "pred"
bottom: "label"
name: "loss"
type: "HingeLoss"
bottom: "pred"
bottom: "label"
top: "loss"
hinge_loss_param {
sigmoid cross-entropy loss:
就是平常所见的交叉熵损失函数. 类型:SigmoidCrossEntropyLoss
infogain loss:信息增益损失函数: ,类型:InfogainLoss
一些功能的layer:
splitting(把一个输入分成多个输出),类型:splitting
在caffe.proto里为什么没有找到呢.它的作用就是把一个输入复制为多个输入哦；
Flattening：类型为:Flatten
偏平的意思,如 flattens an input of shape n * c * h * w to a simple vector output of shape n * (c*h*w))。
Reshape:(重新调整维度),类型为:Reshape
Cocatenation(把多个输入可以串联起来):类型为:Concat
Slicing(可以对输入进行切片)
类型为:Slice： 它的作用是把输入按维度进行切片。具体看一个例子哈：
name: "slicer_label"
type: "Slice"
bottom: "label"
## 假设label的维度是：N x 5 x 1 x 1
top: "label1"
top: "label2"
top: "label3"
top: "label4"
slice_param {
# 指定维度，维度应该是从0开始的；
slice_point: 1
# 将label[~][:1][~][~]赋给label1
slice_point: 2
# 将label[~][1:3][~][~]赋给label2
slice_point: 3
# 将label[~][3:4][~][~]赋给label3
slice_point: 4
将label[~][4:][~][~]赋给label3
还有，切片的位置数，肯定比最后切出来的片数少一个哈。不用解释的啦。
另外还有:Elementwise Operations(类型为Eltwise), Argmax(类型为ArgMax), Softmax(类型为Softmax),
Mean-Variance Normalization(类型为MVN)
由于以上内容我只用到了一少部分，所以大部分没有详细写叱 ，随着不断的深入学习，我会再详细补充的，
TA的推荐TA的最新馆藏[转]&
喜欢该文的人也喜欢