训练神经网络主要围绕以下四个方面。
‰ 层，多个层组合成网络（或模型）。
‰ 输入数据和相应的目标。
‰ 损失函数，即用于学习的反馈信号。
‰ 优化器，决定学习过程如何进行。

层：深度学习的基础组件

我们在第 2 章中介绍过，神经网络的基本数据结构是层。层是一个数据处理模块，将一个或多个输入张量转换为一个或多个输出张量。有些层是无状态的，但大多数的层是有状态的，即层的权重。权重是利用随机梯度下降学到的一个或多个张量，其中包含网络的知识。

不同的张量格式与不同的数据处理类型需要用到不同的层。例如，简单的向量数据保存在形状为 (samples, features) 的 2D 张量中，通常用密集连接层［densely connected layer，也叫全连接层（fully connected layer）或密集层（dense layer），对应于 Keras 的 Dense 类］来处理。序列数据保存在形状为 (samples, timesteps, features) 的 3D 张量中，通常用循环层（recurrent layer，比如 Keras 的 LSTM 层）来处理。图像数据保存在 4D 张量中，通常用二维卷积层（Keras 的 Conv2D）来处理。

在 Keras 中，构建深度学习模型就是将相互兼容的多个层拼接在一起，以建立有用的数据变换流程。这里层兼容性（layer compatibility）具体指的是每一层只接受特定形状的输入张量，并返回特定形状的输出张量。

模型：层构成的网络

深度学习模型是层构成的有向无环图。最常见的例子就是层的线性堆叠，将单一输入映射为单一输出。
一些常见的网络拓扑结构如下。
‰ 双分支（two-branch）网络
‰ 多头（multihead）网络
‰ Inception 模块

损失函数与优化器：配置学习过程的关键

损失函数（目标函数）

在训练过程中需要将其最小化。它能够衡量当前任务是否已成功完成。

优化器

决定如何基于损失函数对网络进行更新。它执行的是随机梯度下降（SGD）的某个变体。