完整的神经网络训练营：理论与应用 | The Complete Neural Networks Bootcamp: Theory, Applications

PyTorch深度学习和神经网络理论与应用！包括变形金刚、BERT和GPT！
讲师：Fawaz Sammani

双语资源中英文字幕学习课程，独家翻译制作，提供全部配套课程资料。全网最低价享受高品质课程资源，无限分享下载。

你将会学到什么？

• 了解神经网络的工作原理（理论和应用）
• 了解卷积网络的工作原理（理论和应用）
• 了解循环网络和LSTM的工作原理（理论和应用）
• 深入学习如何使用PyTorch
• 了解反向传播算法的工作原理
• 理解神经网络中的损失函数
• 了解体重初始化和规则化技术
• 使用Numpy从头开始编写神经网络
• 将迁移学习应用于CNN
• CNN可视化
• 了解当今广泛使用的CNN架构
• 深入了解残差网络
• 深入了解YOLO目标检测
• 神经网络学习过程的可视化
• 学习如何保存和加载训练好的模型
• 学习具有注意力机制的序列建模
• 用注意力构建聊天机器人
• 变压器
• 使用Transformers构建聊天机器人
• 伯特
• 构建图像字幕模型

课程要求

• 一些基本的Python经验更可取
• 一些高中数学

课程说明

本课程是深度学习和神经网络的综合指南。这些理论得到了深入而友好的解释。之后，我们将进行实践环节，学习如何在PyTorch中编写神经网络代码，PyTorch是一个非常先进和强大的深度学习框架！

本课程包括以下部分：

第1节-神经网络和反向传播的工作原理

在本节中，您将以友好的方式深入了解神经网络和反向传播算法的工作原理。我们将通过一个例子逐步进行计算。我们还将讨论神经网络中使用的激活函数，以及它们的优缺点！

第2节-损失函数

在本节中，我们将介绍在深度学习和神经网络中使用的著名损失函数。我们将介绍何时使用它们以及它们是如何工作的。

第3节-优化

在本节中，我们将讨论神经网络中用于达到最优点的优化技术，包括梯度下降、随机梯度下降、动量、RMSProp、Adam、AMSGrad、权重衰减和解耦权重衰减、LR调度器等。

第4节-重量初始化

在本节中，我们将向您介绍神经网络中权重初始化的概念，并讨论一些权重初始化技术，包括Xavier初始化和He范数初始化。

第5节-正则化技术

在本节中，我们将向您介绍神经网络中的正则化技术。我们将首先介绍过拟合，然后介绍如何使用正则化技术来防止过拟合，包括L1、L2和Dropout。我们还将讨论规范化以及批规范化和层规范化。

第6节-PyTorch简介

在本节中，我们将介绍我们将在本课程中使用的深度学习框架，即PyTorch。我们将向您展示如何安装它，它是如何工作的，为什么它很特别，然后我们将对一些PyTorch张量进行编码，并向您展示对张量的一些操作，以及在代码中向您展示Autograd！

第7节-PyTorch中的实用神经网络-应用1

在本节中，您将应用所学知识构建前馈神经网络来对手写数字进行分类。这是我们将展示的前馈网络的第一个应用。

第8节-PyTorch中的实用神经网络-应用2

在本节中，我们将构建一个前馈神经网络来对一个人是否患有糖尿病进行分类。我们将在大型糖尿病数据集上训练网络！

第9节-可视化学习过程

在本节中，我们将可视化神经网络是如何学习的，以及它们在分离非线性数据方面有多好！

第10节-用Python和Numpy从头开始实现神经网络

在本节中，我们将在不使用任何深度学习库的情况下理解和编码神经网络（从头开始只使用python和numpy）。这对于理解底层结构是如何工作的是必要的。

第11节-卷积神经网络

在本节中，我们将向您介绍用于图像的卷积网络。我们将首先向您展示与前馈网络的关系，然后我们将逐一介绍卷积网络的概念！

第12节PyTorch中的实用卷积网络

在本节中，我们将应用卷积网络对手写数字进行分类。这是我们将首次应用CNN。

第13节深入CNN：改进和策划

在本节中，我们将改进我们在上一节中构建的CNN，并向您展示如何绘制训练和测试的结果！此外，我们将向您展示如何通过网络对自己的手写图像进行分类！

第14节-CNN架构

在本节中，我们将介绍在所有深度学习应用中广泛使用的CNN架构。这些架构是：AlexNet、VGG网络、Inception网络、残差网络和密集连接网络。我们还将讨论一些对象检测架构。

第15节-剩余网络

在本节中，我们将深入探讨残差网络的细节和理论，然后我们将在PyTorch中从头开始构建残差网络！

第16节-PyTorch中的迁移学习-图像分类

在本节中，我们将在残差网络上应用迁移学习，对蚂蚁和蜜蜂进行分类。我们还将向您展示如何使用自己的数据集并应用图像增强。完成本节后，您将能够对任何您想要的图像进行分类！

第17节-卷积网络可视化

在本节中，我们将可视化神经网络输出的内容，以及它们真正学习的内容。我们将观察每一层网络的特征图！

第18节-YOLO目标检测（理论）

在本节中，我们将学习最著名的目标检测框架之一：YOLO！！本节深入探讨了YOLO的理论。

第19节-自动编码器和变分自动编码器

在本节中，我们将介绍自动编码器和去噪自动编码器。然后，我们将看到他们面临的问题，并学习如何使用变分自编码器来缓解它。

第20节-循环神经网络

在本节中，我们将向您介绍循环神经网络及其所有概念。然后，我们将讨论随时间的反向传播、消失梯度问题，最后讨论解决RNN问题的长短期记忆（LSTM）。

第21节-单词嵌入

在本节中，我们将讨论如何将单词表示为特征。然后，我们将向您展示一些单词嵌入模型。我们还将向您展示如何在PyTorch中实现单词嵌入！

第22节PyTorch中的实用循环网络

在本节中，我们将在PyTorch中使用LSTM应用递归神经网络来生成类似于《爱丽丝梦游仙境》故事的文本！你可以用你想要的任何其他文本替换这个故事，RNN将能够生成类似的文本！

第23节-序列建模

在本节中，我们将学习序列到序列建模。我们将了解Seq2Seq模型的工作原理及其应用。我们还将讨论注意力机制，看看它们是如何工作的。

第24节-PyTorch中的实用序列建模-构建聊天机器人

在本节中，我们将应用我们所学到的序列建模知识，并构建一个具有注意力机制的聊天机器人。

第25节-保存和加载模型

在本节中，我们将向您展示如何在PyTorch中保存和加载模型，以便您可以将这些模型用于以后的测试或恢复培训！

第26节-变压器

在本节中，我们将介绍Transformer，这是NLP和语言建模任务的最新模型。我们将检查变压器的每个组件。

第27节-使用Transformers构建聊天机器人

在本节中，我们将实施上一节中学习到的所有内容，使用Transformers构建聊天机器人。

此课程面向哪些人？

• 任何对学习神经网络和深度学习感兴趣的人