手机浏览器扫描二维码访问
第14章 一不小心站在了技术发展的最前沿（第1页）
2014年，人工智能领域正处于深度学习的快速发展时期，但在训练深层神经网络时，仍存在一些无法绕过的核心难题，其中“梯度消失”和“梯度爆炸”问题尤其突出。
当马库斯和林枫的对话逐渐转向这些人工智能瓶颈时，他们自然聊到了这个话题。
对于人工智能涉及到的梯度消失和梯度爆炸这个问题，对于前世就从事人工智能方面工作的林枫来说，他自然是不陌生。
梯度消失和梯度爆炸是神经网络训练中常见的问题。
了解梯度消失和梯度爆炸首先要了解神经网络。
简单说，神经网络是一种模仿人脑工作原理的计算模型。
它由很多“神经元”组成，这些神经元分成多层，数据会从一层传到另一层，最终得到一个结果。
训练神经网络的过程就是不断调整这些神经元之间的“连接强度”，让网络的输出越来越接近我们想要的结果。
为了调整神经网络中的这些连接强度，我们需要用到一种叫“梯度”的东西。
简单来说，梯度就是用来指引我们“往哪里走”的方向，就像你爬山时要知道往哪边是上坡、哪边是下坡。
我们通过“梯度”来知道哪些参数需要调整，从而让网络的表现变得更好。
那“梯度消失”和“梯度爆炸”又是什么呢？
假设你在玩一个滑滑梯，当你站在滑梯的最高处，往下滑时，你能很快感受到速度在增加，因为坡度很大。
但是，如果滑到快要到底部的地方，坡度变得很小，你几乎就感觉不到滑动的速度了。
这里的“坡度”就像是“梯度”——当坡度变小，滑动的速度也变小。
在神经网络中，类似的事情也会发生。
如果我们给网络很多层，它们之间的梯度会越来越小，传到前面几层时，梯度几乎“消失”了。这就是“梯度消失”问题。
梯度太小，无法有效调整那些神经元的连接强度，网络的训练就会变得非常困难。
想象你在爬一个大山，山的坡度越来越平，最终你几乎感受不到自己在上升了，这时你很难再判断该怎么继续往上爬。
在神经网络里，梯度消失的问题就是这种感觉，网络不知道该如何继续改进。
而梯度爆炸又是另外的一个极端。
假设这次你站在一座非常陡的悬崖边，一不小心就滚下去了！
因为坡度太陡了，你的速度变得非常快，失控了。
在神经网络中，这种情况也被称为“梯度爆炸”
老婆请转身沈浪苏妙涵 琪亚娜的万界之旅 红颜情殇之宫阙风云 我携山河画卷，穿越古今追光 和闺蜜穿七零，带着婆婆一起离 假千金撬了男主他墙角 我在快穿游戏里玩儿嗨了 重生之都市极品天尊 春花秋月李三妮 血虹剑 你帅，我靓，咱俩日子过得旺 一穿越就成断案高手 鞠怡以的神影 百岁躺进棺材中，让我攻略女帝 神耳偷仙，诡变求存 倚天：我从双修开始修炼成仙 被道侣分手后，系统终于来了！ 妖月悬空，开局觉醒双星核 穿越后我在异世界娱乐圈爆红 碎婚
我的乌鸦嘴被满朝文武听见了
叶省心穿成了女扮男装的状元郎，每天醒来除了上朝，还要防备自己身份被发现。好在她有系统。但失去记忆的系统并不知道它给叶省心点满了乌鸦嘴技能，更不知道它和叶省心的心声被满朝文武听见了。看着趁人不注意悄悄放屁通肠的徐大人，叶省心蹲坑蹲到让皇帝派人去送厕纸的徐大人看着满口谎言的某世子，叶省心两次被天雷劈晕过去的某...
八荒战神
八荒战神简介emspemsp关于八荒战神七年前，君莫离被人污蔑，如过街老鼠人人喊打。七年后，君莫离已成八荒战神。战神归来，却不料夕阳西下，昔日的妻子与他人并肩而行，就连孩子都能够打酱油了。七年不见，莫非妻子竟已嫁为他人妻...
踏上巅峰
踏上巅峰简介emspemsp关于踏上巅峰当远古诸神陨落，大陆进入了各种族属于自己的辉煌。一个走到哪里就将鲜血与不幸带到哪里的弱冠少年，一头贪吃却又与主角生死相依的魔兽，他们的出现彻底改变了大陆原本还算和平的格局。珍爱的家人，结义的兄弟，生死的朋友，刻骨铭心的至爱，强大的仇敌，每一张面孔的出现都让主角在踏上巅峰的道路上，洒下一片腥风血雨。在强者林立的世界，面对仿佛被众神戏弄般的不幸命运，少年对着苍天竖起了鄙视的中指。命运定数又怎样！天煞...
悠闲小木匠
我是一个小木匠，木工本领强，我要把那新房子，盖得更漂亮做完椅子，做张床，凿子锯子飞舞忙哎哟，看那后花园，变得更漂亮！如果您喜欢悠闲小木匠，别忘记分享给朋友...
别样情深：总裁宠妻无下限
别样情深总裁宠妻无下限简介emspemsp初见时，顾皓说你心里住着一个生死未卜的前男友，我也有一个和别人远走高飞的前女友，你我心中都藏着一个不可能的人，一场商业联姻，谁都不会付出真心却又互惠互利，岂不是最合适不过？苏卿想了想好像是那...
开局被雷劈，风水我为王
黄皮子索命，阎王爷勾魂。我一出生就命犯死劫，村里半仙说我活不过九岁。我却不信邪，偏要逆天改命，与老天爷斗一斗！我这一生经历祸事无数，每一件都恐怖至极。人皮棺材，九女转运，阴兵借道，狐狸娶亲，件件要人命。美女蛇，人面疮，鬼面蜈蚣，猫脸老太太，物物断人魂。我本无意阴阳路，意外踏入风水门！...