国科大 深度学习 复习题

一．名词解释（每个2分，共10分）
深度学习，稀疏自编码器，正则化，集成学习，Dropout

二．简答题（每题5分，共30分）
1．请简述你对误差反向传播算法的理解。
2．请列出卷积神经网络的主要结构模块，以及各个模块完成的功能。
3．请简述你对LSTM的理解，并解释为什么它能够解决长时依赖问题。
4．请简述深度学习中常见的避免过拟合的方法。
5．请简述你对生成对抗网络的理解，并简述其训练过程。
6．请简述你对胶囊网络的理解。
三．计算题（每题10分，共20分）
1．请使用卷积神经网络中的Full卷积、Same卷积和Valid卷积分别计算下图所示输入矩阵和卷积核对应的特征图，卷积步长为1，激活函数采用ReLU。


2．多分类任务中，某个样本的期望输出为（0，0，0，1），两个模型A和B都采用交叉熵作为损失函数，针对该样本的实际输出分别为（In20，In40，In60，In80）、（In10，In30，ln50，In90），采用Softmax 函数对输出进行归一化并计算两个模型的交叉熵，说明哪个模型更好。提示：lg2≈0.301，lg3≈0.477。
四．设计题（每题20分，共40分）
1．请给出对大量图像进行目标检测的设计方案，要求有自己的新思路和新观点。
2．请给出机器阅读理解模型的设计方案，要求有自己的新思路和新观点。
深度学习2021
一.名词解释（每个2分，共10分）
卷积神经网络，循环神经网络，奇异值外解，交叉熵，深度信念网络

二、简答题（每题5分，共30分）
1. 请简述反向传播算法的思想，并用图和公式说明其过程。
2. 什么是过拟合和欠拟合？如何解决这两种问题？
3. 请简述 Yolo 算法的主要思想和实现过程。
4. 请简述GRU网络的主要思想，并用图和公式表达其计算过程.
5. 请简述胶囊网络的主要思想，并用图和公式表达其计算过程。
6. 请简述生成对抗网络的主要原理，并用公式表达其目标函数.
三，计算题（每题10分，共20分）
1， 请使用卷积神经网络中的Full卷积、Same卷积和Valid卷积分别计算下图所示输入矩阵和卷积核对应的特征图，卷积步长为1，激活函数采用ReLU.


2. 二分类任务中，样本（5个）的期望输出（类标签）如下图左侧矩阵所示，对应的实际输出下图右侧矩阵所示，模型采用交叉熵作为损失函数，计算：


（1） 模型的交叉熵损失；
（2） 模型的焦点损失（Focal loss），其中y= 2， a = 0.4.
提示：Ig2≈0.301，Ig3≈0.477.

四．设计题（每题20分，共40分）
1．请给出姿态估计模型的设计方案，要求有自己的新思路和新观点。