首页 > 自考
题目内容 (请给出正确答案)
[单选题]

训练一个RNN网络,如果权重与激活值都是NaN,下列选项中,哪一个是导致这个问题的最有可能的原因()。

A.梯度消失

B.梯度爆炸

C.ReLU函数作为激活函数g(.),在计算g(z)时,z的数值过大了

D.Sigmoid函数作为激活函数g(.),在计算g(z)时,z的数值过大了

查看答案
答案
收藏
如果结果不匹配,请 联系老师 获取答案
您可能会需要:
您的账号:,可能还需要:
您的账号:
发送账号密码至手机
发送
安装优题宝APP,拍照搜题省时又省心!
更多“训练一个RNN网络,如果权重与激活值都是NaN,下列选项中,…”相关的问题
第1题
你正在训练一个RNN网络,你发现你的权重与激活值都是“NaN”,下列选项中,哪一个是导致这个问题的最有可能的原因()

A.梯度消失

B.梯度爆炸

C.eLU函数作为激活函数g(.),在计算g(z)时,z的数值过大了

D.Sigmoid函数作为激活函数g(.),在计算g(z)时,z的数值过大了

点击查看答案
第2题
关于卷积神经网络CNN与循环神经网络RNN,下面说法正确的有:()

A.CNN和RNN都属于神经网络,因此二者的训练方式完全一致,均采用BP算法。

B.CNN和RNN都采用了权值共享机制以减少网络中的参数量。

C.在同一个网络中,CNN结构和RNN结构不能同时使用。

D.CNN适用于图像处理,而RNN适用于序列数据处理。

点击查看答案
第3题
假设你正在训练一个LSTM网络,你有一个10,000词的词汇表,并且使用一个激活值维度为100的LSTM块,在每一个时间步中,Γu的维度是多少()。

A.1

B.100

C.300

D.10000

点击查看答案
第4题
以下哪一项不属于ReLU系列的激活函数相对于Sigmoid和Tanh激活函数的优点?()

A.ReLU的单侧抑制提供了网络的稀疏表达能力。

B.ReLU在其训练过程中会导致神经元死亡的问题。

C.从计算的角度上,Sigmoid和Tanh激活函数均需要计算指数,复杂度高,而ReLU只需要一个阈值即可得到激活值。

点击查看答案
第5题
为什么RNN网络的激活函数要选用双曲正切而不是sigmod呢()。

A.使用sigmod函数容易出现梯度消失

B.sigmod的导数形式较为复杂

C.双曲正切更简单

D.sigmoid函数实现较为复杂

点击查看答案
第6题
以下哪个是AlexNet的创新点()?

A.共享权重

B.dropout

C.Relu激活函数和重叠池化

D.双GPU训练(分组卷积)

点击查看答案
第7题
下列关于深度学习说法错误的是()

A.LSTM在一定程度上解决了传统RNN梯度消失或梯度爆炸的问题

B.CNN相比于全连接的优势之一是模型复杂度低,缓解过拟合

C.只要参数设置合理,深度学习的效果至少应优于随机算法

D.随机梯度下降法可以缓解网络训练过程中陷入鞍点的问题

点击查看答案
第8题
关于梯度消失和梯度消失,以下说法正确的是:()。

A.根据链式法则,如果每一层神经元对上一层的输出的偏导乘上权重结果都小于1的话,那么即使这个结果是0.99,在经过足够多层传播之后,误差对输入层的偏导会趋于0

B.可以采用ReLU激活函数有效的解决梯度消失的情况

C.根据链式法则,如果每一层神经元对上一层的输出的偏导乘上权重结果都大于1的话,在经过足够多层传播之后,误差对输入层的偏导会趋于无穷大

D.可以通过减小初始权重矩阵的值来缓解梯度爆炸

点击查看答案
第9题
假设在一个深度学习网络中批处理梯度下降花费了太多的时间来找到一个值的参数值,该值对于成本函数J(W[1],b[1],…,W[L],b[L])来说是很小的值。以下哪些方法可以帮助找到J值较小的参数值()

A.尝试使用Adam算法

B.尝试对权重进行更好的随机初始化

C.尝试调整学习率α

D.尝试mini-batch梯度下降

点击查看答案
第10题
下面关于免费AP报文的作用描述错误的是()。

A.在VRP备份组中用来通告主备发生变换

B.用于通告一个新的现AC地址:发送方更换网卡,AC地址发生改变,为了能够在AP表项老化前通告所有主机,发送方可以发送一个免费ARP

C.用于检查重复的IP地址:正常情况下不会收到ARP回应,如果收到,则表明本网络中存在与自身P地址重复的地址

D.免费ARP报文用来在主机空闲时与网关设备保持激活

点击查看答案
第11题
防止神经网络中过度拟合的最常用方法的是()

A.获取更多训练数据

B.减少网络容量

C.添加权重正规化

D.添加dropout

点击查看答案
退出 登录/注册
发送账号至手机
密码将被重置
获取验证码
发送
温馨提示
该问题答案仅针对搜题卡用户开放,请点击购买搜题卡。
马上购买搜题卡
我已购买搜题卡, 登录账号 继续查看答案
重置密码
确认修改