首页 / 智能数码 / 正文

tanh函数的导数范围

时间:2024-08-05 07:01:26

激活函数选择

sigmoid函数不是0中心对称,输出均大于0

tanh函数的导数值范围为 (0,1],相对范围较大,但仍会导致梯度消失

tanh函数是0中心对称,可以使网络收敛的更好

ReLU函数的左侧导数为0,右侧导数恒为1,避免了小数的连乘,但反向传播中仍有权值的累乘。

《tanh函数的导数范围》不代表本网站观点,如有侵权请联系我们删除

广州她氧信息科技有限公司 她氧网版权所有 粤ICP备2023058637号网站地图 网站地图2