在本章，我们学习了多层人工神经网络中最重要的一些概念，神经网络是当前机器学习理论研究领域最热门的话题。在第2章，从单个神经元入手开启了机器学习之旅，而在本章，我们将多个神经元连接为一个功能强大的神经网络，它可以解决诸如手写数字识别等复杂问题。本章还揭秘了流行的反向传播算法，它是众多神经网络模型的基石之一，这些模型可用于构建深度网络。在学习了反向传播算法后，通过对权重更新的实践完成了对神经网络的训练。其中，也做了一些有益的修改，例如加入子批次学习和自适应学习速率等，以更高效地训练神经网络。