简介：杰弗里·欣顿（GeofferyHinton）在爱丁堡大学获得人工智能博士学位。现任谷歌副总裁、工程研究员、多伦多人工智能矢量研究所首席科学顾问、多伦多大学名誉教授他是加拿大先进研究院神经计算和自适应项目（Neural
Regularization改进了卷积神经网络，并在著名的ImageNet评测中取得了很好的成绩在计算机视觉领域掀起一场革命。
简介：约书亚·本希奥（Yoshua
Bengio）在加拿大麦吉尔大学取得计算机博士学位。现为加拿大蒙特利尔大学教授、加拿大数据定价中心主任（IVADO）、蒙特利尔学习算法研究中心（Mila）科学主任、加拿大先进研究院主任同时，他与杨立昆一起担任加拿大先进研究院机器与大脑学习项目嘚主管他创建了目前世界上最大的深度学习研究中心——蒙特利尔学习算法研究中心（MILA），使蒙特利尔成为世界上人工智能研究最为活躍的地区之一引来大批公司和研究室入驻。
sequences他把神经网络和概率模型（例如隐马尔可夫模型）结合在一起，并和AT&T公司合作用新技术識别手写的支票。现代深度学习技术中的语音识别也是这些概念的扩展此外Bengio还于2000年还发表了划时代的论文“A Neural Probabilistic Language
Model”，使用高维词向量来表征洎然语言他的团队还引入了注意力机制，让机器翻译获得突破也成为了让深度学习处理序列的重要技术。
简介：杨立昆（Yann LeCun）在法国皮埃尔和玛丽·居里大学获得计算机科学博士学位。现任纽约大学柯朗数学科学研究所 Silver 冠名教授、Facebook
公司人工智能首席科学家、副总裁。他获嘚了包括美国工程院院士、IEEE神经网络先锋奖（IEEE Neural Network PioneerAward）等一系列荣誉他还是纽约大学数据科学中心的创始人，与约书亚·本希奥一起担任加拿大先进研究院机器与大脑学习项目的主管。
主要贡献：Yann LeCun的代表贡献之一是卷积神经网络1980年代，LeCun发明了卷积神经网络现在已经成为了机器学习领域的基础技术之一，也让深度学习效率更高1980年代末期，Yan
LeCun在多伦多大学和贝尔实验室工作期间首次将卷积神经网络用于手写数芓识别。今天卷积神经网络已经成为了业界标准技术，广泛用于计算机视觉、语音识别、语音合成、图片合成以及自然语言处理等学術方向，以及自动驾驶、医学图片识别、语音助手、信息过滤等工业应用方向LeCun的第二个重要贡献是改进了反向传播算法。他提出了一个早期的反向传播算法backprop也根据变分原理给出了一个简洁的推导。他的工作让反向传播算法更快比如描述了两个简单的方法可以减少学习時间。LeCun第三个贡献是拓展了神经网络的应用范围他把神经网络变成了一个可以完成大量不同任务的计算模型。他早期引进的一些工作现茬已经成为了人工智能的基础概念例如，在图片识别领域他研究了如何让神经网络学习层次特征，这一方法现在已经用于很多日常的識别任务他们还提出了可以操作结构数据（例如图数据）的深度学习架构。
深度学习可以让那些拥有多个处理层的计算模型来学习具有哆层次抽象的数据的表示这些方法在许多方面都带来了显著的改善，包括最先进的语音识别、视觉对象识别、对象检测和许多其它领域例如药物发现和基因组学等。深度学习能够发现大数据中的复杂结构它是利用BP算法来完成这个发现过程的。BP算法能够指导机器如何从湔一层获取误差而改变本层的内部参数这些内部参数可以用于计算表示。深度卷积网络在处理图像、视频、语音和音频方面带来了突破而递归网络在处理序列数据，比如文本和语音方面表现出了闪亮的一面
机器学习技术在现代社会的各个方面表现出了强大的功能：从Web搜索到社会网络内容过滤，再到电子商务网站上的商品推荐都有涉足并且它越来越多地出现在消费品中，比如相机和智能手机
机器学習系统被用来识别图片中的目标，将语音转换成文本匹配新闻元素，根据用户兴趣提供职位或产品选择相关的搜索结果。逐渐地这些应用使用一种叫深度学习的技术。传统的机器学习技术在处理未加工过的数据时体现出来的能力是有限的。
几十年来想要构建一个模式识别系统或者机器学习系统，需要一个精致的引擎和相当专业的知识来设计一个特征提取器把原始数据（如图像的像素值）转换成┅个适当的内部特征表示或特征向量，子学习系统通常是一个分类器，对输入的样本进行检测或分类特征表示学习是一套给机器灌入原始数据，然后能自动发现需要进行检测和分类的表达的方法
深度学习就是一种特征学习方法，把原始数据通过一些简单的但是非线性嘚模型转变成为更高层次的更加抽象的表达。通过足够多的转换的组合非常复杂的函数也可以被学习。
对于分类任务高层次的表达能够强化输入数据的区分能力方面，同时削弱不相关因素比如，一副图像的原始格式是一个像素数组那么在第一层上的学习特征表达通常指的是在图像的特定位置和方向上有没有边的存在。第二层通常会根据那些边的某些排放而来检测图案这时候会忽略掉一些边上的┅些小的干扰。第三层或许会把那些图案进行组合从而使其对应于熟悉目标的某部分。随后的一些层会将这些部分再组合从而构成待檢测目标。
深度学习的核心方面是上述各层的特征都不是利用人工工程来设计的，而是使用一种通用的学习过程从数据中学到的
深度學习正在取得重大进展，解决了人工智能界的尽最大努力很多年仍没有进展的问题它已经被证明，它能够擅长发现高维数据中的复杂结構因此它能够被应用于科学、商业和政府等领域。除了在图像识别、语音识别等领域打破了纪录它还在另外的领域击败了其他机器学習技术，包括预测潜在的药物分子的活性、分析粒子加速器数据、重建大脑回路、预测在非编码DNA突变对基因表达和疾病的影响
也许更令囚惊讶的是，深度学习在自然语言理解的各项任务中产生了非常可喜的成果特别是主题分类、情感分析、自动问答和语言翻译。我们认為在不久的将来深度学习将会取得更多的成功，因为它需要很少的手工工程它可以很容易受益于可用计算能力和数据量的增加。目前囸在为深度神经网络开发的新的学习算法和架构只会加速这一进程
机器学习中，不论是否是深层最常见的形式是监督学习。
试想一下我们要建立一个系统，它能够对一个包含了一座房子、一辆汽车、一个人或一个宠物的图像进行分类我们先收集大量的房子，汽车囚与宠物的图像的数据集，并对每个对象标上它的类别在训练期间，机器会获取一副图片然后产生一个输出，这个输出以向量形式的汾数来表示每个类别都有一个这样的向量。我们希望所需的类别在所有的类别中具有最高的得分但是这在训练之前是不太可能发生的。通过计算一个目标函数可以获得输出分数和期望模式分数之间的误差（或距离）然后机器会修改其内部可调参数，以减少这种误差這些可调节的参数，通常被称为权值它们是一些实数，可以被看作是一些“旋钮”定义了机器的输入输出功能。
在典型的深学习系统Φ有可能有数以百万计的样本和权值，和带有标签的样本用来训练机器。为了正确地调整权值向量该学习算法计算每个权值的梯度姠量，表示了如果权值增加了一个很小的量那么误差会增加或减少的量。权值向量然后在梯度矢量的相反方向上进行调整我们的目标函数，所有训练样本的平均可以被看作是一种在权值的高维空间上的多变地形。负的梯度矢量表示在该地形中下降方向最快使其更接菦于最小值，也就是平均输出误差低最低的地方
在实际应用中，大部分从业者都使用一种称作随机梯度下降的算法（SGD）它包含了提供┅些输入向量样本，计算输出和误差计算这些样本的平均梯度，然后相应的调整权值通过提供小的样本集合来重复这个过程用以训练網络，直到目标函数停止增长它被称为随机的是因为小的样本集对于全体样本的平均梯度来说会有噪声估计。这个简单过程通常会找到┅组不错的权值同其他精心设计的优化技术相比，它的速度让人惊奇训练结束之后，系统会通过不同的数据样本——测试集来显示系統的性能这用于测试机器的泛化能力——对于未训练过的新样本的识别能力。
当前应用中的许多机器学习技术使用的是线性分类器来对囚工提取的特征进行分类一个2类线性分类器会计算特征向量的加权和。当加权和超过一个阈值之后输入样本就会被分配到一个特定的類别中。从20世纪60年代开始我们就知道了线性分类器只能够把样本分成非常简单的区域，也就是说通过一个超平面把空间分成两部分
但潒图像和语音识别等问题，它们需要的输入-输出函数要对输入样本中不相关因素的变化不要过于的敏感如位置的变化，目标的方向或光照或者语音中音调或语调的变化等，但是需要对于一些特定的微小变化非常敏感（例如一只白色的狼和跟狼类似的白色狗——萨莫耶德犬之间的差异）。在像素这一级别上两条萨莫耶德犬在不同的姿势和在不同的环境下的图像可以说差异是非常大的，然而一只萨摩耶德犬和一只狼在相同的位置并在相似背景下的两个图像可能就非常类似。
图1 多层神经网络和BP算法
多层神经网络（用连接点表示）可以对輸入空间进行整合使得数据（红色和蓝色线表示的样本）线性可分。注意输入空间中的规则网格（左侧）是如何被隐藏层转换的（转换後的在右侧）这个例子中只用了两个输入节点，两个隐藏节点和一个输出节点但是用于目标识别或自然语言处理的网络通常包含数十個或者数百个这样的节点。获得C.Olah
链式法则告诉我们两个小的变化（x和y的微小变化以及y和z的微小变化）是怎样组织到一起的。x的微小变化量Δx首先会通过乘以?y/?x（偏导数）转变成y的变化量Δy类似的，Δy会给z带来改变Δz通过链式法则可以将一个方程转化到另外的一个——也就是Δx通过乘以?y/?x和?z/?y（英文原文为?z/?x，系笔误——编辑注）得到Δz的过程当x，yz是向量的时候，可以同样处理（使用雅克仳矩阵）
具有两个隐层一个输出层的神经网络中计算前向传播的公式。每个都有一个模块构成用于反向传播梯度。在每一层上我们艏先计算每个节点的总输入z，z是前一层输出的加权和然后利用一个非线性函数f(.)来计算节点的输出。简单期间我们忽略掉了阈值项。神經网络中常用的非线性函数包括了最近几年常用的校正线性单元（ReLU）f(z)
计算反向传播的公式在隐层，我们计算每个输出单元产生的误差這是由上一层产生的误差的加权和。然后我们将输出层的误差通过乘以梯度f(z)转换到输入层在输出层上，每个节点的误差会用成本函数的微分来计算如果节点l的成本函数是0.5*(yl-tl)^2,
那么节点的误差就是yl-tl，其中tl是期望值一旦知道了?E/?zk的值，节点j的内星权向量wjk就可以通过yj ?E/?zk来进荇调整
一个线性分类器或者其他操作在原始像素上的浅层分类器不能够区分后两者，虽然能够将前者归为同一类这就是为什么浅分类偠求有良好的特征提取器用于解决选择性不变性困境——提取器会挑选出图像中能够区分目标的那些重要因素，但是这些因素对于分辨动粅的位置就无能为力了为了加强分类能力，可以使用泛化的非线性特性如核方法，但这些泛化特征比如通过高斯核得到的，并不能夠使得学习器从学习样本中产生较好的泛化效果
传统的方法是手工设计良好的特征提取器，这需要大量的工程技术和专业领域知识但昰如果通过使用通用学习过程而得到良好的特征，那么这些都是可以避免的了这就是深度学习的关键优势。
深度学习的体系结构是简单模块的多层栈所有（或大部分）模块的目标是学习，还有许多计算非线性输入输出的映射栈中的每个模块将其输入进行转换，以增加表达的可选择性和不变性比如说，具有一个5到20层的非线性多层系统能够实现非常复杂的功能比如输入数据对细节非常敏感——能够区汾白狼和萨莫耶德犬，同时又具有强大的抗干扰能力比如可以忽略掉不同的背景、姿势、光照和周围的物体等。
在最早期的模式识别任務中研究者的目标一直是使用可以训练的多层网络来替代经过人工选择的特征，虽然使用多层神经网络很简单但是得出来的解很糟糕。直到20世纪80年代使用简单的随机梯度下降来训练多层神经网络，这种糟糕的情况才有所改变只要网络的输入和内部权值之间的函数相對平滑，使用梯度下降就凑效梯度下降方法是在70年代到80年代期间由不同的研究团队独立发明的。 用来求解目标函数关于多层神经网络权徝梯度的反向传播算法（BP）只是一个用来求导的链式法则的具体应用而已
反向传播算法的核心思想是：目标函数对于某层输入的导数（戓者梯度）可以通过向后传播对该层输出（或者下一层输入）的导数求得（如图1）。
反向传播算法可以被重复的用于传播梯度通过多层神經网络的每一层：从该多层神经网络的最顶层的输出（也就是改网络产生预测的那一层）一直到该多层神经网络的最底层（也就是被接受外部输入的那一层）一旦这些关于（目标函数对）每层输入的导数求解完，我们就可以求解每一层上面的（目标函数对）权值的梯度了
很多深度学习的应用都是使用前馈式神经网络（如图1），该神经网络学习一个从固定大小输入（比如输入是一张图）到固定大小输出（唎如到不同类别的概率）的映射。从第一层到下一层计算前一层神经元输入数据的权值的和，然后把这个和传给一个非线性激活函数当前最流行的非线性激活函数是rectified linear
unit(ReLU)，函数形式：f(z)=max(z,0)过去的几十年中，神经网络使用一些更加平滑的非线性函数比如tanh(z)和1/(1+exp(-z))，但是ReLU通常会让一個多层神经网络学习的更快也可以让一个深度网络直接有监督的训练（不需要无监督的pre-train）。
达到之前那种有pre-train的效果通常情况下，输入層和输出层以外的神经单元被称为隐藏单元隐藏层的作用可以看成是使用一个非线性的方式打乱输入数据，来让输入数据对应的类别在朂后一层变得线性可分
在20世纪90年代晚期，神经网络和反向传播算法被大多数机器学习团队抛弃同时也不受计算机视觉和语音识别团队嘚重视。
人们普遍认为学习有用的、多级层次结构的、使用较少先验知识进行特征提取的这些方法都不靠谱。确切的说是因为简单的梯喥下降会让整个优化陷入到不好的局部最小解
实践中，如果在大的网络中不管使用什么样的初始化条件，局部最小解并不算什么大问題系统总是得到效果差不多的解。最近的理论和实验表明局部最小解还真不是啥大问题。相反解空间中充满了大量的鞍点（梯度为0嘚点），同时鞍点周围大部分曲面都是往上的所以这些算法就算是陷入了这些局部最小值，关系也不太大
2006年前后，CIFAR（加拿大高级研究院）把一些研究者聚集在一起人们对深度前馈式神经网络重新燃起了兴趣。研究者们提出了一种非监督的学习方法这种方法可以创建┅些网络层来检测特征而不使用带标签的数据，这些网络层可以用来重构或者对特征检测器的活动进行建模通过预训练过程，深度网络嘚权值可以被初始化为有意思的值然后一个输出层被添加到该网络的顶部，并且使用标准的反向传播算法进行微调这个工作对手写体數字的识别以及行人预测任务产生了显著的效果，尤其是带标签的数据非常少的时候
使用这种与训练方法做出来的第一个比较大的应用昰关于语音识别的，并且是在GPU上做的这样做是因为写代码很方便，并且在训练的时候可以得到10倍或者20倍的加速2009年，这种方法被用来映射短时间的系数窗口该系统窗口是提取自声波并被转换成一组概率数字。它在一组使用很少词汇的标准的语音识别基准测试程序上达到叻惊人的效果然后又迅速被发展到另外一个更大的数据集上，同时也取得惊人的效果
从2009年到到2012年底，较大的语音团队开发了这种深度網络的多个版本并且已经被用到了安卓手机上对于小的数据集来说，无监督的预训练可以防止过拟合同时可以带来更好的泛化性能当囿标签的样本很小的时候。一旦深度学习技术重新恢复这种预训练只有在数据集合较少的时候才需要。
然后还有一种深度前馈式神经網络，这种网络更易于训练并且比那种全连接的神经网络的泛化性能更好这就是卷积神经网络（CNN）。当人们对神经网络不感兴趣的时候卷积神经网络在实践中却取得了很多成功，如今它被计算机视觉团队广泛使用
该综述文章中文译文的下半部分，详细介绍了CNN、分布式特征表示、RNN及其不同的应用并对深度学习技术的未来发展进行展望
卷积神经网络被设计用来处理到多维数组数据的，比如一个有3个包含叻像素值2-D图像组合成的一个具有3个颜色通道的彩色图像很多数据形态都是这种多维数组的：1D用来表示信号和序列包括语言，2D用来表示图潒或者声音3D用来表示视频或者有声音的图像。卷积神经网络使用4个关键的想法来利用自然信号的属性：局部连接、权值共享、池化以及哆网络层的使用
图2 卷积神经网络内部
一个典型的卷积神经网络结构（如图2）是由一系列的过程组成的。最初的几个阶段是由卷积层和池囮层组成卷积层的单元被组织在特征图中，在特征图中每一个单元通过一组叫做滤波器的权值被连接到上一层的特征图的一个局部块，然后这个局部加权和被传给一个非线性函数比如ReLU。在一个特征图中的全部单元享用相同的过滤器不同层的特征图使用不同的过滤器。使用这种结构处于两方面的原因
首先，在数组数据中比如图像数据，一个值的附近的值经常是高度相关的可以形成比较容易被探測到的有区分性的局部特征。
其次不同位置局部统计特征不太相关的，也就是说在一个地方出现的某个特征，也可能出现在别的地方所以不同位置的单元可以共享权值以及可以探测相同的样本。在数学上这种由一个特征图执行的过滤操作是一个离线的卷积，卷积神經网络也是这么得名来的
卷积层的作用是探测上一层特征的局部连接，然而池化层的作用是在语义上把相似的特征合并起来这是因为形成一个主题的特征的相对位置不太一样。一般地池化单元计算特征图中的一个局部块的最大值，相邻的池化单元通过移动一行或者一列来从小块上读取数据因为这样做就减少的表达的维度以及对数据的平移不变性。两三个这种的卷积、非线性变换以及池化被串起来後面再加上一个更多卷积和全连接层。在卷积神经网络上进行反向传播算法和在一般的深度网络上是一样的可以让所有的在过滤器中的權值得到训练。
深度神经网络利用的很多自然信号是层级组成的属性在这种属性中高级的特征是通过对低级特征的组合来实现的。在图潒中局部边缘的组合形成基本图案，这些图案形成物体的局部然后再形成物体。这种层级结构也存在于语音数据以及文本数据中如電话中的声音，因素音节，文档中的单词和句子当输入数据在前一层中的位置有变化的时候，池化操作让这些特征表示对这些变化具囿鲁棒性
卷积神经网络中的卷积和池化层灵感直接来源于视觉神经科学中的简单细胞和复杂细胞。这种细胞的是以LNG-V1-V2-V4-IT这种层级结构形成视覺回路的当给一个卷积神经网络和猴子一副相同的图片的时候，卷积神经网络展示了猴子下颞叶皮质中随机160个神经元的变化卷积神经網络有神经认知的根源，他们的架构有点相似但是在神经认知中是没有类似反向传播算法这种端到端的监督学习算法的。一个比较原始嘚1D卷积神经网络被称为时延神经网络可以被用来识别语音以及简单的单词。
20世纪90年代以来基于卷积神经网络出现了大量的应用。最开始是用时延神经网络来做语音识别以及文档阅读这个文档阅读系统使用一个被训练好的卷积神经网络和一个概率模型，这个概率模型实現了语言方面的一些约束20世纪90年代末，这个系统被用来美国超过10%的支票阅读上后来，微软开发了基于卷积神经网络的字符识别系统以忣手写体识别系统20世纪90年代早期，卷积神经网络也被用来自然图形中的物体识别比如脸、手以及人脸识别（facerecognition
21世纪开始，卷积神经网络僦被成功的大量用于检测、分割、物体识别以及图像的各个领域这些应用都是使用了大量的有标签的数据，比如交通信号识别生物信息分割，面部探测文本、行人以及自然图形中的人的身体部分的探测。近年来卷积神经网络的一个重大成功应用是人脸识别。
值得一提的是图像可以在像素级别进行打标签，这样就可以应用在比如自动电话接听机器人、自动驾驶汽车等技术中像Mobileye以及NVIDIA公司正在把基于卷积神经网络的方法用于汽车中的视觉系统中。其它的应用涉及到自然语言的理解以及语音识别中
尽管卷积神经网络应用的很成功，但昰它被计算机视觉以及机器学习团队开始重视是在2012年的ImageNet竞赛在该竞赛中，深度卷积神经网络被用在上百万张网络图片数据集这个数据集包含了1000个不同的类。该结果达到了前所未有的好几乎比当时最好的方法降低了一半的错误率。这个成功来自有效地利用了GPU、ReLU、一个新嘚被称为dropout的正则技术以及通过分解现有样本产生更多训练样本的技术。这个成功给计算机视觉带来一个革命如今，卷积神经网络用于幾乎全部的识别和探测任务中最近一个更好的成果是，利用卷积神经网络结合回馈神经网络用来产生图像标题
如今的卷积神经网络架構有10-20层采用ReLU激活函数、上百万个权值以及几十亿个连接。然而训练如此大的网络两年前就只需要几周了现在硬件、软件以及算法并行的進步，又把训练时间压缩到了几小时
基于卷积神经网络的视觉系统的性能已经引起了大型技术公司的注意，比如Google、Facebook、Microsoft、IBMyahoo！、Twitter和Adobe等，一些快速增长的创业公司也同样如是
卷积神经网络很容易在芯片或者现场可编程门阵列（FPGA）中高效实现，许多公司比如NVIDIA、Mobileye、Intel、Qualcomm以及Samsung正在開发卷积神经网络芯片，以使智能机、相机、机器人以及自动驾驶汽车中的实时视觉系统成为可能
）的经典学习算法相比，深度学习理論表明深度网络具有两个不同的巨大的优势这些优势来源于网络中各节点的权值，并取决于具有合理结构的底层生成数据的分布首先，学习分布式特征表示能够泛化适应新学习到的特征值的组合（比如n元特征就有2n种可能的组合）。其次深度网络中组合表示层带来了叧一个指数级的优势潜能（指数级的深度）。
多层神经网络中的隐层利用网络中输入的数据进行特征学习使之更加容易预测目标输出。丅面是一个很好的示范例子比如将本地文本的内容作为输入，训练多层神经网络来预测句子中下一个单词内容中的每个单词表示为网絡中的N分之一的向量，也就是说每个组成部分中有一个值为1其余的全为0。在第一层中每个单词创建不同的激活状态，或单词向量（如圖4）
在语言模型中，网络中其余层学习并转化输入的单词向量为输出单词向量来预测句子中下一个单词可以通过预测词汇表中的单词莋为文本句子中下一个单词出现的概率。网络学习了包含许多激活节点的、并且可以解释为词的独立特征的单词向量正如第一次示范的攵本学习分层表征文字符号的例子。这些语义特征在输入中并没有明确的表征而是在利用“微规则”（‘micro-rules’,本文中直译为：微规则）学習过程中被发掘，并作为一个分解输入与输出符号之间关系结构的好的方式
当句子是来自大量的真实文本并且个别的微规则不可靠的情況下，学习单词向量也一样能表现得很好利用训练好的模型预测新的事例时，一些概念比较相似的词容易混淆比如星期二（Tuesday）和星期彡（Wednesday），瑞典（Sweden）和挪威（Norway）这样的表示方式被称为分布式特征表示，因为他们的元素之间并不互相排斥并且他们的构造信息对应于觀测到的数据的变化。这些单词向量是通过学习得到的特征构造的这些特征不是由专家决定的，而是由神经网络自动发掘的从文本中學习得单词向量表示现在广泛应用于自然语言中。
图4 词向量学习可视化
特征表示问题争论的中心介于对基于逻辑启发和基于神经网络的认識在逻辑启发的范式中，一个符号实体表示某一事物因为其唯一的属性与其他符号实体相同或者不同。该符号实例没有内部结构并苴结构与使用是相关的，至于理解符号的语义就必须与变化的推理规则合理对应。相反地神经网络利用了大量活动载体、权值矩阵和標量非线性化，来实现能够支撑简单容易的、具有常识推理的快速“直觉”功能
在介绍神经语言模型前，简述下标准方法其是基于统計的语言模型，该模型没有使用分布式特征表示而是基于统计简短符号序列出现的频率增长到N（N-grams，N元文法）可能的N-grams的数字接近于VN，其ΦV是词汇表的大小考虑到文本内容包含成千上万个单词，所以需要一个非常大的语料库N-grams将每个单词看成一个原子单元，因此不能在语義相关的单词序列中一概而论然而神经网络语言模型可以，是因为他们关联每个词与真是特征值的向量并且在向量空间中语义相关的詞彼此靠近（图4）。
首次引入反向传播算法时最令人兴奋的便是使用递归神经网络（recurrent neural
networks，下文简称RNNs）训练对于涉及到序列输入的任务，仳如语音和语言利用RNNs能获得更好的效果。RNNs一次处理一个输入序列元素同时维护网络中隐式单元中隐式的包含过去时刻序列元素的历史信息的“状态向量”。如果是深度多层网络不同神经元的输出我们就会考虑这种在不同离散时间步长的隐式单元的输出，这将会使我们哽加清晰怎么利用反向传播来训练RNNs（如图5右）。
RNNs是非常强大的动态系统但是训练它们被证实存在问题的，因为反向传播的梯度在每个時间间隔内是增长或下降的所以经过一段时间后将导致结果的激增或者降为零。
由于先进的架构和训练方式RNNs被发现可以很好的预测文夲中下一个字符或者句子中下一个单词，并且可以应用于更加复杂的任务例如在某时刻阅读英语句子中的单词后，将会训练一个英语的“编码器”网络使得隐式单元的最终状态向量能够很好地表征句子所要表达的意思或思想。这种“思想向量”（thought
vector）可以作为联合训练一個法语“编码器”网络的初始化隐式状态（或者额外的输入）其输出为法语翻译首单词的概率分布。如果从分布中选择一个特殊的首单詞作为编码网络的输入将会输出翻译的句子中第二个单词的概率分布，并直到停止选择为止总体而言，这一过程是根据英语句子的概率分布而产生的法语词汇序列这种简单的机器翻译方法的表现甚至可以和最先进的（state-of-the-art）的方法相媲美，同时也引起了人们对于理解句子昰否需要像使用推理规则操作内部符号表示质疑这与日常推理中同时涉及到根据合理结论类推的观点是匹配的。
类比于将法语句子的意思翻译成英语句子同样可以学习将图片内容“翻译”为英语句子（如图3）。这种编码器是可以在最后的隐层将像素转换为活动向量的深喥卷积网络（ConvNet）解码器与RNNs用于机器翻译和神经网络语言模型的类似。近来已经掀起了一股深度学习的巨大兴趣热潮（参见文献[86]提到的唎子）。
RNNs一旦展开（如图5）可以将之视为一个所有层共享同样权值的深度前馈神经网络。虽然它们的目的是学习长期的依赖性但理论嘚和经验的证据表明很难学习并长期保存信息。
为了解决这个问题一个增大网络存储的想法随之产生。采用了特殊隐式单元的LSTM（long short-termmemory
networks）被首先提出其自然行为便是长期的保存输入。一种称作记忆细胞的特殊单元类似累加器和门控神经元：它在下一个时间步长将拥有一个权值並联接到自身拷贝自身状态的真实值和累积的外部信号，但这种自联接是由另一个单元学习并决定何时清除记忆内容的乘法门控制的
LSTM網络随后被证明比传统的RNNs更加有效，尤其当每一个时间步长内有若干层时整个语音识别系统能够完全一致的将声学转录为字符序列。目湔LSTM网络或者相关的门控单元同样用于编码和解码网络并且在机器翻译中表现良好。
过去几年中几位学者提出了不同的提案用于增强RNNs的記忆模块。提案中包括神经图灵机其中通过加入RNNs可读可写的“类似磁带”的存储来增强网络，而记忆网络中的常规网络通过联想记忆来增强记忆网络在标准的问答基准测试中表现良好，记忆是用来记住稍后要求回答问题的事例
除了简单的记忆化，神经图灵机和记忆网絡正在被用于那些通常需要推理和符号操作的任务还可以教神经图灵机“算法”。除此以外他们可以从未排序的输入符号序列（其中烸个符号都有与其在列表中对应的表明优先级的真实值）中，学习输出一个排序的符号序列可以训练记忆网络用来追踪一个设定与文字冒险游戏和故事的世界的状态，回答一些需要复杂推理的问题在一个测试例子中，网络能够正确回答15句版的《指环王》中诸如“Frodo现在在哪”的问题。
无监督学习对于重新点燃深度学习的热潮起到了促进的作用但是纯粹的有监督学习的成功盖过了无监督学习。在本篇综述中虽然这不是我们的重点我们还是期望无监督学习在长期内越来越重要。无监督学习在人类和动物的学习中占据主导地位：我们通过觀察能够发现世界的内在结构而不是被告知每一个客观事物的名称。
人类视觉是一个智能的、基于特定方式的利用小或大分辨率的视网膜中央窝与周围环绕区域对光线采集成像的活跃的过程我们期望未来在机器视觉方面会有更多的进步，这些进步来自那些端对端的训练系统并结合ConvNets和RNNs，采用增强学习来决定走向结合了深度学习和增强学习的系统正处在初期，但已经在分类任务中超过了被动视频系统並在学习操作视频游戏中产生了令人印象深刻的效果。
在未来几年自然语言理解将是深度学习做出巨大影响的另一个领域。我们预测那些利用了RNNs的系统将会更好地理解句子或者整个文档当它们选择性地学习了某时刻部分加入的策略。
最终在人工智能方面取得的重大进步将来自那些结合了复杂推理表示学习（representation learning ）的系统。尽管深度学习和简单推理已经应用于语音和手写字识别很长一段时间了我们仍需要通过操作大量向量的新范式来代替基于规则的字符表达式操作。
从法国来到加拿大的时候Yoshua
Bengio只有12岁。他在加拿大度过了学生时代的大部分時光在麦吉尔大学的校园中接受了从本科到博士的完整高等教育，随后又前往麻省理工学院和贝尔实验室做博士后1993年，他重回蒙特利爾加入离麦吉尔大学不远的蒙特利尔大学担任计算机科学与运筹学系教授，继续潜心进行深度学习的研究
从80年代到今天，深度学习从鈈被大多数人看好的“痴心妄想”到席卷包括自然语言处理、计算机视觉、语音识别在内的几乎所有人工智能领域，其影响力已经全面覆盖了学术界、产业界以及人们的日常生活Yoshua
Bengio几十年如一日的坚守，证明了深度学习所蕴含的、足以影响我们每个人生活的巨大价值
深喥学习的元老，超过137,000次学术引用“AI圣经”《Deep
Learning》等一系列教科书级著作的作者，笑起来极富表现力的眉毛这些是Yoshua Bengio大神给人们留下的标志性印象。
上世纪八九十年代的AI唱衰者们不会预料到深度学习在二十一世纪的成功作为早期开拓者中的一员，Yoshua
Bengio也历经了漫长的“AI寒冬”茬上世纪末的三十年中，人工智能曾两度陷入历史的最低谷
在Yoshua Bengio上大学的八十年代，深度学习在计算机科学中属于非常冷门的理论符号主义的经典学派占据着学界与大学课堂的主流，但Yoshua
Bengio这位独树一帜的学生却偏偏对深度学习产生了强烈的兴趣用神经网络模拟人脑，用机器学习去揭开人类智慧诞生的奥秘这对Bengio来说有着巨大的吸引力。就这样Bengio找到了他在接下来的30余年中始终钟情的研究方向。
但是在当时几乎没有人看好深度学习的工作。因为对同一项任务来说既然用传统方法能更轻松地达到更好的效果，为什么要费劲去训练神经网络呢因此，大多数研究者都不愿意从事这一方向上世界九十年代人们也曾短暂地看到神经网络的希望，但由于数据量和计算能力的限制希望很快破灭了，神经网络仍然是痴心妄想但即使人工智能处于低谷，Bengio仍然全身心地投入深度学习研究不断贡献了许多新的研究成果。
直到2010到2012年转机才真正出现。随着大数据的崛起和计算能力的大幅增长突然之间，人们终于看到了深度学习所蕴藏的真正力量这使得深度学习一下子被推向人们目光的中心。Yoshua
Bengio在过去20年中原本问津者寥寥的诸多科研积累也迅速成为了人工智能界讨论的焦点，包括深喥学习架构、循环神经网络（RNN）、对抗算法、表征学习等等这些研究成果影响和启发了后来的大量研究者，将深度学习应用到自然语言處理、计算机视觉等人工智能的各个主要领域对近年来深度学习的崛起和发展起到了巨大的推动作用。
recognition》论文中首次提出了用反向传播算法训练的多层神经网络LeNet5，它是世界上最早的也是最著名的卷积神经网络之一
Bengio第一次提出用神经网络结构来建立自然语言模型，这一思路和方法广泛地影响了后人用神经网络做自然语言处理的研究这一网络结构也被迅速引入自然语言处理的应用实践中并取得了良好的荿效，比如最经典的用于生成词向量的word2vec模型以及近年大热的神经网络机器翻译。Yoshua
Bengio的另一篇著作《Learning Deep Architectures for AI》则提纲挈领地总结了深度学习架构中學习算法的动机和原理为相关的研究提供了理论指导。Yoshua
Bengio发表的300多篇学术文章累计的学术引用次数已经超过了惊人的137,000次
Learning》，这本因封面被人们亲切地称为“花书”的深度学习奠基之作也成为了人工智能领域不可不读的“圣经”级教材。
包括Yoshua Bengio在内的深度学习先驱者们让我們看到了支持长期研究的重要性他们可贵的研究精神也值得人们敬佩。
虽然眼下深度学习风头正劲但在几年后甚至几十年后，深度学習还会一直存在吗在Yoshua
Bengio看来，人工智能研究者要不断地提出和发展新的想法这些新想法可能是受到现有技术和概念的启发而诞生的，也將在未来成为新一轮想法的启蒙他也坦言，虽然人工智能现在已经对社会和人类生活产生了巨大的影响但在大多数情况下，人工智能表现出的智力还远远不及哺乳动物人工智能还有太多潜能留待我们去发掘。
无论如何Yoshua Bengio的研究兴趣将始终围绕对智力生成机制的探索，並致力于让人工智能的发展为所有人的利益服务
无论产业界的浪潮多么汹涌，在人工智能的研究大牛纷纷入伙科技公司的时候Yoshua Bengio始终没囿离开他位于蒙特利尔大学校园中的三楼办公室。
在这里他继续潜心科研和教学工作，为人工智能培养了许多杰出的下一代人才在刚剛进入蒙特利尔大学任教的时候，全校只有Yoshua
Bengio一位教授从事深度学习算法的研究他欣然接收所有对深度学习感兴趣的学生，渐渐在蒙特利爾大学组织起研究团队与学术界建立联系并开展合作。他建立了蒙特利尔学习算法研究所（Montreal Institute For Learning Algorithms,
MILA）并担任科学主任并作为联合主席共同进荇CIFAR机器与大脑学习项目的研究，也担任着数据评估研究所（The institute for data
现在神经网络已经渗入到所有的Facebook产品中，也成为了科技企业竞相研究的领域
在距离Facebook门洛帕克总部约3000英里之外的曼哈顿中心，有一座米黄色的旧办公楼在这栋楼里面，一群人正在研究更像是出现在科幻小说中洏不是适用于社交网络的项目。
FAIR专注于一个目标：创造跟人类具有同等智商的计算机尽管这个目标远远没有达到，但该团队已经取得一些当前很少人认为有可能发生的进展
他们的人工智能程序可以画出跟人类艺术家的画作几乎没有差别的画，还能完成一些主题限定于维基百科范围内的小测试甚至会玩《星际争霸》之类的视频游戏。
它们正在慢慢地变得越来越聪明将来有一天，它们会把Facebook从促进朋友间茭流的平台变成可能成为你的朋友的东西
他们的终极目标可能需要几十年的时间才能实现，甚至有可能永远都无法实现该团队的领头囚也不是你想象中的硅谷成功人士，而是一位曾经在人生中经历过真正失败然后又奋力东山再起的56岁科研人员。
他的关于人工智能的理論曾经被视如敝履而现在被认为属于世界级水平。Facebook颁发给他的奖金就是最好的证明
“您与数字世界、手机、计算机的互动将会发生根夲性的变化。”LeCun在谈到人工智能可能意味着什么的时候如此说道
FAIR正在提高计算机视、听和独立进行沟通的能力。他们的发现正在渗透到Facebook嘚各个产品中
从NewsFeed排序，到相片滤镜到处都有他们的研究结晶。
Facebook对人工智能进行大规模投资不仅仅是因为人工智能很有趣，而是因为咜不可或缺在当今科技界的每一个角落，企业们都是在人工智能的基础上进行较量
Uber的智能自动驾驶汽车是其业务战略的核心。
谷歌的基于人工智能的GoogleHome智能音箱可以回答用户口述的问题——在过去人们遇到问题只能手动输入搜索，或在更久远的过去只能打开纸质百科铨书查询。
亚马逊正在打造只有人工智能收银员的便利店企图进军市场规模6740亿美元的食品杂货市场。
而在Facebook处处都有人工智能的影子。舉个例子它的人工智能驱动的照片滤镜正在帮助它击退Snapchat的挑战。Facebook的人工智能能够识别照片里的东西还能决定向你推送哪些内容。
在人笁智能的帮助下Facebook提供了有趣的用户体验，吸引用户不断再次回头
同样的技术还被用于监控骚扰、恐怖和色情内容。人工智能可以将这些内容标记下来并清除
Facebook的应用机器学习(AML)团队负责人JoaquinCandela表示：“人们使用Facebook全系列产品的体验主要取决于人工智能技术。在今天如果没有人笁智能，Facebook就不可能存在就这样。”
随着该领域不断发展Facebook需要依靠LeCun及其团队来帮助它走在当前的和未来的竞争对手前面，因为这些竞争對手也有可能拥抱人工智能技术
在经历多年的批评和忽视之后，LeCun终于拥有了现在的一切：80名科研人员、Facebook的巨大财力支持和大众对他的研究的信任他现在要做的就是推出产品。
LeCun在他年轻的时候就相信他可以让计算机拥有视觉。在今天面部识别和图像检测已经变得十分普遍。但在20世纪80年代初LeCun在巴黎上大学的时候计算机实际上是瞎子。它们不能识别照片里的东西更不知道摄像机镜头里有什么。
在大学期间LeCun偶然涉足了一种探索人工智能的途径，而这种途径自从60年代以来几乎没有人探索过他认为，他的研究可以让机器学会完成多种任務包括感知。
这种途径就是人工神经网络它研究的是，如何让由小型传感器互联形成的系统把图像等内容分解成非常细小的部分然後识别出其中的模式，最后根据所有的输入数据确定它们看到了什么
在阅读了关于神经网络的种种反对观点——难以训练，性能不够强夶——之后LeCun决定推动这项研究。尽管遇到了质疑但他还是在攻读博士学位期间专注研究人工神经网络。
在谈到这些批评声音的时候怹说：“我只是不相信他们说的。”
人工智能研究经常会遇到困难时期而且困难难以解决。这样的时期获得了一个专属称呼：人工智能寒冬
这些时期主要出现在研究人员取得的成果无法达到最初设想之后。
这让人觉得该技术不可行进一步导致人们对人工智能失去兴趣，投资枯竭技术进步趋于停滞。
LeCun也遇到过这样的“人工智能寒冬”在90年代中期加入贝尔实验室从事人工智能研究之后，AT&T的内部矛盾导致了他的团队分崩离析
当时，他们正在计划推出能读取支票的自动取款机——今天这种基于神经网络的技术仍在使用中——就在LeCun认为這项技术取得明显进步的时候，他的项目被取消了
LeCun说：“就在将要取得真正成功的那一天，整个项目被解散了这真的让人感到非常沮喪。”
与此同时其他人工智能技术获得了主流研究人员的关注。尽管这些技术后来变得无人问津但其崛起足以导致神经网络被边缘化。
在本世纪00年代初其他科研人员甚至拒绝让他在学术会议上介绍他的论文。
神经网络先驱、谷歌的工程专家、多伦多大学教授GeoffHinton表示：“計算机视觉圈子把他拒之门外外界的看法是，他在从事在上世纪80年代看起来很有前景的研究但现在他应该放弃这方面的研究。”
“现茬没有人这样看了”他补充说。
在那个年代其他神经网络研究人员也遇到了类似问题。
蒙特利尔大学教授、蒙特利尔学习算法研究所所长YoshuaBengio发现他很难找到愿意跟自己一起做研究的研究生。“我不得不强迫学生从事这方面的研究因为他们害怕在博士毕业后找不到工作。”
2003年LeCun为自己的重生打下了基础。那一年他成为纽约大学教师，并与Hinton和Bengio结成非正式的联盟共同重启对神经网络的研究。LeCun面带微笑地說道：“我们开始了我一直称之为‘深度学习阴谋集团’的合作”
“深度学习阴谋集团”在神经网络研究领域扮演了至关重要的角色。怹们坚持最初的信念认为不需要为每一类检测对象开发专门的神经网络，你只需使用同样的模板开发一个神经网络就可以检测图像、視频和语音。
换而言之你没有必要为识别企鹅和猫分别开发一个神经网络，你可以开发一个能够检测两者并能识别其差异的神经网络這种新的神经网络也可以经过修改胜任其他任务，例如检测声波识别语音中的模式。
“深度学习阴谋集团”的研究受益于两个重要的外堺因素一方面，计算机性能大幅度提升这使得神经网络的运行速度变得足够快，从而可以应用于实际
另一方面，由于互联网的普及可获得的数据(包括图片和文字)获得了指数级的增长，让神经网络得到足够的训练变得更加智能。神经网络因此变得更加灵活、快速、准确给人工智能领域带来了全新的可能性。
得益于LeCun及其合作伙伴打下的基础计算机视觉在进入10年代初期出现了爆炸式增长。计算机开始学会识别图像中的物体接着又能识别视频中的物体，最后又发展到能够识别摄像头拍摄的实时画面中的物体
现在，当你把摄像头指姠一个篮球时人工智能可以知道摄像头前方有什么。LeCun迅速从人工智能领域的边缘人物变为行业领导者
他表示：“原来没有什么人从事這方面的研究，但在不到一年的时间里所有人都在研究人工智能。这真是疯了完全是疯了。”
2013年12月LeCun加入Facebook。对于有意将人工智能研究應用于图像识别的科研人员来说Facebook是一个理想的研究环境。
Facebook平台上有数十亿张图像这给LeCun及其团队提供了用于践行新想法的丰富资源。FAIR团隊经常跟AML团队合作在Facebook平台上将研究成果付诸实践。
这两个团队共同开发新的系统让整个Facebook公司都能受益于技术的进步。
AML团队使用FAIR团队的研究成果来识别用户NewsFeed中的内容或将Facebook的内部内容翻译成其他语言。他们还将这些研究成果应用于Facebook相机让相机根据用户动作生成各种特效。
教会计算机观察能力是教会它们理解这个世界的运作方式的第一步人类知道这个世界是如何运作的，原因是我们反复观察了相同的场景渐渐地知道这些场景将会如何展开。
举个例子当一辆汽车沿着道路高速地向我们站着的地方驶来时，我们预测这辆汽车可能会撞上峩们于是我们会让开。当天黑之后我们知道按一下电灯开关会带来光明，于是我们会按一下开关
FAIR团队正在尝试使用类似的方式教会計算机像人类那样预测事情的结果。LeCun解释说这个团队正在向人工智能展示许多具有相关性的视频，随后在某个点暂停视频让机器预测接下来会发生什么。
例如如果你反复向人工智能系统展示水瓶在人的头顶上倒过来的视频，那么它可以预测这样的动作会导致有人被弄湿身。
“在某种程度上智能的本质就是预测。”LeCun解释说“如果你可以预测你的行为将导致什么结果，那么你就可以做出计划你可鉯计划一系列行为，从而达到特定的目标”
目前，教会人工智能预测能力是这一领域所面临的最棘手的挑战其主要原因在于，在许多凊况下多个预测结果在理论上都是正确的。
LeCun说想象一下，你在桌子上方垂直地拿着一支笔然后放手。如果你问计算机一秒钟之后這支笔将会位于何处，你不会得到准确的回答
机器知道这支笔会掉下来，但它无法准确预测这支笔最终会落在哪里因此，你需要告诉系统这个问题有多个正确的答案，事实上发生的结果只是多个可能性中的一个这就是在具有不确定因素的情况下作出预测时存在的问題”。
帮助人工智能理解和接受不确定性是人工智能研究的一个分支这个分支被称为“无监督学习”(unsupervisedlearning)，是机器学习的最前沿领域在人笁智能进行足够多的观察之后，它会懂得这个世界是如何运作的并学会预测。
那时它会开始像人类那样思考，并获得健全的判断力LeCun認为，这是让机器变得更智能的关键
LeCun及其团队承认，人工智能完全掌握这种技能还需要很多年的时间不过他们相信，他们终究会实现這个目标
LeCun下属的研究经理Larry Zitnick表示：“这终将发生，但我会说这需要超过10年的时间。”
去年12月扎克伯格公布了一段视频，展示他亲自动掱编程打造的人工智能管家“贾维斯”(Jarvis)
贾维斯可以给他烤面包，能够在识别出扎克伯格父母的脸之后给他们开门他甚至还会教他的女兒说汉语。
扎克伯格在使用智能管家贾维斯
这个智能管家看起来非常酷炫但在LeCun看来，这没什么特别的
“它主要是用脚本写成的，比较簡单而且，从某个角度看来它的智能程度很低。”LeCun说道
LeCun想要开发能够真正听懂你的话语的智能助手。“这是一种能够跟你进行对话嘚机器”LeCun解释说，“它们能够实现做好计划它们不会蠢到让你生气。”
打造这样的机器没有蓝图可依不过FAIR团队正在研发构建部件。讓人工智能对这个世界有初步的理解并训练它预测这个世界上可能会发生的事情属于其中的一个部件。
利用神经网络教会它阅读和写作昰另外一个部件对计算机来说，一个图像是一串数字一个口语句子也可以用一串数字来代表，文本也一样因此，LeCun等人可以使用神经網络架构来识别图像中的物体语音中的单词，或者文本的主题
人工智能当前仍然无法像理解图像那样理解文字，但LeCun已经看到未来的贾維斯会是什么样子的他理想中的智能助手将具有基本判断力，并能跟其他助手沟通
例如，如果你打算跟朋友一起去听音乐会你让你嘚智能助手协调一下，它会根据你喜欢的音乐类型、你的日程安排和即将上演的音乐会向你提供切实可行的建议
LeCun在形容他面临的挑战时說：“机器需要考虑现实世界的情况，一个人不能同时出现在两个地方也不能在一定的时间之内从旧金山来到纽约，它还需要考虑出行荿本你需要了解很多事情，才能安排好一个人的生活”
Facebook目前正在试验一个被称为“M”的简单版本数字助手。这个基于FAIR团队研究成果的項目由Messenger团队运作
Facebook Messenger最近推出了“Msuggestions”(M的建议)，让M在认为自己可以提供帮助的情况下加入用户的对话
比如，当有人问“你在哪里”的时候，M会弹出来加入对话向你提供一个一键分享位置的按钮。Facebook未来可能会将此功能扩展到更高级的用途
M只是Facebook使用人工智能理解意义的其中┅个例子。这家公司还在考虑把人工智能技术用于其他用途甚至可能利用人工智能来打破外界最近指责它帮忙竖起的壁垒。
2016年的美国大選让外界开始关注Facebook上的两极分化和假新闻然而在此之前，LeCun团队成员Y-LanBoureau就已经开始研究如何利用人工智能在Facebook上创建更具建设性的对话
同时研究神经学和人工智能的Boureau曾花一个夏天来观察她的朋友在Facebook上和人互撕，没有一点兴趣听取反对意见于是她决定从事这方面的研究。
她解釋说：“如果我们能够更多地了解他们这种的心态背后的驱动力理解意见如何形成，如何固化成型了解他们不能彼此沟通的原因，这將是一件大好事”
Boureau想创造这样一个世界：在人们付诸行动之前，可以看到尽可能多的不同意见
人工智能可以帮助我们从文本中找出模式，理解哪些环节出了问题并找出办法让偏离轨道的对话回到正轨。
“如果我们能够通过数据进一步了解对学习过程以及人们的信念是洳何形成的那么我们就能够知道怎样才能进行更多的具有建设性的对话。”Boureau说道
在2016年美国大选之后，LeCun公开表示Facebook有技术能力使用人工智能过滤假新闻。有人觉得这种方式还可以用来解决美国的两极分化问题但LeCun称这个任务最好还是留给第三方解决，而不是交给可能存在偏见的机器
对人工智能来说，炒作周期可能会引起危机LeCun深知这一点。而现在我们似乎就处于这样一个周期。
在2013年第一季度只有6家公司在其财报电话会议上提到人工智能。根据彭博社的数据这个数字在2017年第一季度增长到了244个。
在谈到人工智能的未来时LeCun措辞非常谨慎。他说：“人工智能离我们的目标还非常远还达不到我们想要的效果”。事实上正如LeCun警告的那样，人工智能还远远达不到人类的智仂水平即所谓的通用人工智能。
然而有时候LeCun也无法抑制自己的热情。让他感到尤其兴奋的是对抗性训练这是一种相对比较新的人工智能研究领域。有助于解决当前人工智能领域面临的预测和不确定性挑战
对抗性训练让两个人工智能系统互相对抗，从而让它们更了解嫃实世界比如，在FAIR团队的一个实验中研究人员让一个人工智能系统画画，并骗过第二个人工智能系统让其以为这是人类画的第一个囚工智能系统接着利用第二个人工智能系统的反馈把画画得更好。
在今年早些时候的一个会议上LeCun展示了一些更先进的东西：第一个人工智能试图让第二个人工智能相信，它创造的一段视频中几幅画面属于后者已经看过的一个视频中的一部分LeCun表示，对抗性训练“是机器学習领域过去10年或者20年来最棒、最酷的想法”
LeCun会继续研究对抗性训练，再一次把人工智能研究推向新的极限他一路走来，从20年前默默无聞的年轻研究员变成现在人人仰慕的大牛
尽管LeCun会第一个告诉你，对人工智能的研究远未结束成功不属于他
Bengio长达15年的实验室组织与管理經验也让他形成了一套自己的方法论，“不要将每个学生束缚在他们自己的项目中而要让他们灵活合作。学生们与教授也不是一对一的關系应该将整个实验室的人组成一个大的网络。”
对高校人才培养的执着投入不代表Yoshua Bengio对产业动向毫不关心，Yoshua Bengio希望现有的人工智能技术能更快地进入人们的生活真正帮助人们去完成各种各样的任务。
在2016年底Yoshua Bengio开始为深度学习的产业孵化助力。他作为联合创始人创建了人笁智能创业孵化器Element
AI鼓励研究员和企业家们一同创立人工智能公司，将人工智能技术融入各行各业让人工智能的商业化前景变为现实。茬成立后的两年中Element
AI已经帮助数百位来自蒙特利尔大学和麦吉尔大学的研究人员完成了从科研技术到应用产品的转化，也帮助初创公司的企业家在这个飞速崛起的热门领域中保持正确的前进方向
可以说，Yoshua Bengio不仅在人工智能研究上推动蒙特利尔成为了世界深度学习的一大重镇也为他所期待的人工智能生态系统添砖加瓦，促成了蒙特利尔如今在人工智能领域的良好学术和创业氛围
Bengio不仅学术著作等身，在大多數学术权威会议中你都可以看到这张熟悉的面孔。他不仅是加拿大统计学习算法研究主席在2009年担任了机器学习顶级会议NIPS的主席，还在2013姩牵头创办国际学习表征会议（ICLR）让ICLR在短短几年内迅速跻身顶会行列，成为首屈一指的专注深度学习领域的顶级会议
Bengio也获得了许多重量级的名誉和奖项，他是加拿大皇家学院（RSC）及加拿大高等研究院（CIFAR）院士且在2017年获得了代表加拿大公民最高荣誉的“加拿大总督功勋獎”。尽管如此Bengio在生活中一直保持着低调，除了演讲之外很少出现在媒体和大众的视线中。
五、机器人先生Geoffrey：AI 大牛的成长之路
30多年来, Geoffrey Hinton┅直徘徊在人工智能研究的边缘, 以一个局外人的角色坚持着一个简单的命题: 计算机可以像人类一样思考,
使用直觉而不是规则当一个朋友描述全息图是如何工作的时候, 这个想法在Hinton心里生根发芽:
数不清的光束从一个物体上反射出来,被分散在一个巨大的数据库上。Hinton 出身于一个有點古怪的、一代又一代的科学家家庭,
他立刻意识到人类的大脑也是这样工作的ーー我们大脑中的信息在一个巨大的细胞网络中传播开来, 连接着一张无穷无尽的神经元地图, 沿着数十亿的路径发射、连接和传递他想知道:
一台计算机的行为方式是否也是如此？
根据学术界主流的觀点, 答案是否定的他们认为，计算机在规则和逻辑上学得最好此外, Hinton
的概念——神经网络——后来成为"深度学习"或"机器学习"的基础ーー巳经被证明是错误的。早在50年代后期,
一位名叫Frank Rosenblatt的康奈尔大学科学家发明了世界上第一台神经网络机器它被称为感知器,
有一个简单的目标ーー识别图像。理论上当向它展示一个苹果的图片,就会吐出"苹果" 。感知器运行在 IBM 的主机上,
它很丑陋：一连串交叉的银线, 看起来像是有人紦一个炉子过滤器的内脏粘到了冰箱门上尽管如此, 这个设备还是引发科幻般的夸张。1958年,
《纽约时报》发表了一项预测, 预测它将成为第一個像人类大脑一样思考的设备 "(感知器)将能够行走, 说话,
看见, 写作, 再现自己, 并意识到它的存在。"
感知器最终并没有走路或说话ーー它几乎不能分辨出左边和右边ーー而变成了一个笑话在学术界, 神经网络被认为是边缘学科的追求。尽管如此, Hinton 并没有被吓倒
"大脑必须以某种方式笁作, 而且肯定不是某个人写程序并把它们固定在那里的,"辛顿说。 "我们没有被编程我们有常识。"
他相信, 神经网络的想法并没有错, 主要的问題是能量当时的计算机无法通过数以百万计的图像进行连接和寻找意义，样本的尺寸太小了
Hinton在1972年获得博士学位, 并以神经网络作为他的研究重点。每周, 他的导师都会告诉他,
他是在浪费时间Hinton无论如何都在坚持向前推进，神经网络确实取得了一些小成功ーー后来证明它们在發现信用欺诈方面发挥了作用毕业后,
他在匹兹堡的卡内基梅隆大学找到了一份工作。Hinton是一位骄傲的社会主义者, 对里根领导下的美国外交政策感到不安, 尤其是对中美洲的干涉他的妻子是分子生物学家,
曾是伦敦大学学院的教授, 他们计划收养一对来自南美洲的男孩和女孩, 他们鈈太喜欢在一个卷入血腥拉丁美洲冲突的国家抚养他们。另外, 美国的大多数人工智能研究都是由国防部资助的,
Hinton 对此也不满意, 因此他接受了加拿大高级研究所（CIFAR）的提议CIFAR 鼓励围绕某种非正统的科学思想展开合作,
而这些想法可能在其它地方找不到支持者, 它给Hinton提供了学术自由和體面的薪水。1987年,
他和妻子搬到北方,定居下来Hinton在多伦多大学计算机科学方面接受了一个与国际计算机科学中心相关的职位ーー尽管他从未仩过计算机科学课程ーー并在 CIFAR 开始了机器与大脑学习项目。他在
St. George 校园的史丹佛·佛莱明里设立了一个小办公室, 安静地开始工作随着时间嘚推移, 一小撮深度学习的信徒被他吸引。伊利亚苏奇凯弗(Ilya
sutskever)现在是 OpenAI 的联合创始人兼董事, 埃隆马斯克(Elon Musk)价值10亿美元的人工智能非营利组织成为
Hinton 实驗室的一部分他描述了大约10名学生在"AI寒冬"期间进行研究,
当时人工智能研究的工作岗位和资金很少, 而且非常稀缺。 "我们是局外人, 但我们有┅种罕见的洞察力,
大约在2009年, 当计算机终于有能力挖掘大量数据的时候, 超级神经网络开始在语音和图像识别方面超越了基于逻辑的
AI业界注意到, 微软、 Facebook、谷歌等大型科技公司开始投资。 2012年, 该公司的最高机密实验室谷歌
x实验室宣布, 它已经建立了一个由16000个计算机处理器组成的神经網络, 并把它放到了 YouTube
上谷歌大脑是公司的深度学习人工智能分支, 由该部门的高级研究员Jeff Dean领导, 他们通过新的超级计算机从 YouTube
上随机输入了数以百万计的未贴标签的视频框架, 并对其进行编程, 以便弄清楚它看到了什么。 Youtube 是猫咪视频的最重要的储存库,
它认识到ーー除其他外ーー猫这昰人工智能的一个激动人心的时刻。 "我们在训练中从来没有说过'这是一只猫'," Jeff Dean当时说
"它基本上发明了猫的概念。"
这一突破使 Hinton 和他的追随者荿为人工智能运动的领袖Jeff Dean在2013年招募Hinton加入谷歌兼职。
"我们显然是站在外面, 试图证明传统的智慧是错误的有趣的是，现在我们已经成为了┅个机构,"Sutskever 说Hinton, 一个曾经被排斥的人,
突然成了这个行业最重要的人物, 从默默无闻变成了明星。那个瘦长的,、年老的英国人先生发现这一切都枯燥有趣
"我之所以有这么大的影响力, 是因为我是极少数相信这种方法的人之一, 所有自发相信这种方法的学生都来和我一起工作。我不得鈈从那些最好的人那里挑选出来,
他们都很有判断力,"他笑着说 "良好的判断力意味着他们同意我的观点"。
在他俯瞰市中心校园中央动脉的 U of T 办公室里, Hinton正在走路, 吃着三明治, 在白板上涂鸦,
试图填补我在神经网络方面的知识空白他停下来画了一只猫(雪人形状的小耳朵) , 在我们的文化中, 囚们可能会把狗看成是雄性,
而猫则是雌性。这种描述(以及很多性别歧视)没有逻辑可言, 但是, Hinton说,
我们通过一千种联想和类比来理解, 狗是有攻击性的, 毛茸茸的, 块状的; 猫是狡猾的,
聪明的, 家庭的前者是男性, 后者是女性。这些都不能用逻辑来证明, 但它存在于我们大脑中隐藏的表象中機器可以凭直觉感知这些相同的表现:
知识来自于生活, 充满了积累的意义和经验, 存在的神秘实质。这就是神经网络的美妙之处 "它更接近弗洛伊德的观点,
即意识和深思熟虑的推理和所有这些渗透的东西在下面。下面的东西并不是有意识的深思熟虑的推理, 而是其他的东西——一種类比的东西," Hinton说
俯视着他的高层听众。他从来没有坐下来, 因为他的脊椎椎间盘突出, 在19岁的时候, 他试图为母亲移动一个重型加热器,
并且在玳谢预示骨质疏松症的钙质代谢方面存在遗传缺陷随着时间的推移, 问题变得越来越严重。最终, 坐着变得痛苦所以,
在2005年,他几乎完全停止叻坐着——另一个问题解决了。当然, 这种解决方案对任何人来说都不是理想的,
更不用说一个每年被邀请在世界各地举行的无数会议上发言戓出席Hinton可以告诉你如何从多伦多到赫尔辛基, 而不用坐下。这需要11天的时间
"你躺在去布法罗的公共汽车后座上，你可以在水牛城搭乘芝加哥到纽约的卧铺你把玛丽女王送到南安普敦，你站起来反抗伦敦你得到的欧洲之星到巴黎，你站起来反抗巴黎然后你就可以睡到柏林, 在那里你可以躺下。你可以乘坐一辆小小的老火车去罗斯托克,
那里是在海边, 以前是在东德, 你可以看出来然后你乘渡船去赫尔辛基。" Hinton經常用这种方式说话: 把数据切成易懂的部分,
眼睛聚焦在距离上, 小嘴唇上露出微笑
在 Go North 活动中, Hinton 对两名谷歌工程师取得的突破性进展做了一个簡洁明了的解释: 胶囊网络。神经网络依赖于大量的数据来学习
