MIT高赞深度学习教程：一文看懂CNN、RNN等7种范例（TensorFlow教程）

我们不久前介绍了 MIT 的深度学习基础系列课程，由 MIT 学术研究员 Lex Fridman 开讲，将介绍使用神经网络解决计算机视觉、自然语言处理、游戏、自动驾驶、机器人等领域问题的基础知识。ySg安检之家

作为讲座的一部分，Lex Fridman 撰文概述了 7 种架构范例的深度学习，每个范例都提供了 TensorFlow 教程的链接。以下是麻省理工学院课程 6.S094 的深度学习基础课程第一课的视频：ySg安检之家

ySg安检之家
 ySg安检之家

深度学习是表示学习 (representation learning)：从数据中自动形成有用的表示。我们如何表示世界，可以让复杂的东西对我们人类和我们构建的机器学习模型来说都显得更简单。ySg安检之家

对于前者，我最喜欢的例子是哥白尼于 1543 年发表的日心说，日心说认为太阳是宇宙的中心，完全推翻了之前把地球放在中心的地心说。在最好的情况下，深度学习可以让我们自动完成这一步，从 “特征工程” 过程中去掉哥白尼 (即，去掉人类专家)。ySg安检之家
 ySg安检之家

ySg安检之家

在高级别上，神经网络可以是编码器，可以是解码器，也可以是两者的组合：ySg安检之家

编码器在原始数据中找到模式，以形成紧凑、有用的表示 (representations)。ySg安检之家

解码器从这些表示中生成高分辨率数据。生成的数据可以是新的示例，也可以是描述性知识。ySg安检之家

其余的则是一些聪明的方法，可以帮助我们有效地处理视觉信息、语言、音频 (第 1–6项)，甚至可以在一个基于这些信息和偶尔的奖励的世界中采取行动 (第 7 项)。下面是一个总体的图示：ySg安检之家

 ySg安检之家

ySg安检之家

在下面的部分中，我将简要描述这 7 种架构范例，并提供每个范例的演示性TensorFlow 教程的链接。请参阅最后的 “基础拓展” 部分，该部分讨论了深度学习的一些令人兴奋的领域，不完全属于这七个类别。ySg安检之家

TensorFlow 教程地址：ySg安检之家
https://github.com/lexfridman/mit-deep-learning/blob/master/tutorial_deep_learning_basics/deep_learning_basics.ipynbySg安检之家
ySg安检之家
 ySg安检之家

 ySg安检之家

ySg安检之家

前馈神经网络 (Feed Forward Neural Networks, FFNNs) 的历史可以追溯到 20 世纪 40年代，这是一种没有任何循环的网络。数据以单次传递的方式从输入传递到输出，而没有任何以前的 “状态记忆”。从技术上讲，深度学习中的大多数网络都可以被认为是FFNNs，但通常 “FFNN” 指的是其最简单的变体：密集连接的多层感知器 (MLP)。ySg安检之家

密集编码器用于将输入上已经很紧凑的一组数字映射到预测：分类 (离散) 或回归 (连续)。ySg安检之家

TensorFlow 教程：请参阅我们的深度学习基础教程的第 1 部分，其中有一个用于波士顿房价预测的 FFNNs 示例，它是一个回归问题：ySg安检之家
 ySg安检之家

 ySg安检之家

ySg安检之家

ySg安检之家

CNN(又名 ConvNets) 是一种前馈神经网络，它使用一种空间不变性技巧来有效地学习图像中的局部模式，这种方法在图像中最为常见。空间不变性 (Spatial-invariance ) 是指，比如说，一张猫脸的图像上，左上角的猫耳与图像右下角的猫耳具有相同的特征。CNN 跨空间共享权重，使猫耳以及其他模式的检测更加高效。ySg安检之家

CNN 不是只使用密集连接的层，而是使用卷积层 (卷积编码器)。这些网络用于图像分类、目标检测、视频动作识别以及任何在结构上具有一定空间不变性的数据 (如语音音频)。