专家有料 | 人工智能入门:如何最快下山? 让梯度下降算法告诉你

[复制链接]
发表于 : 2019-5-9 14:54:06 最新回复:2019-05-09 14:54:23
242 1
Becky_2019
Becky_2019  管理员

作者:

华为人工智能架构师 张志峰 

华为人工智能高级培训讲师 刘洁


信息化社会,人工智能逐渐渗透到我们生活每个角落,彻底改变了我们的生活、工作和娱乐方式。在日常生活中,人工智能应用亦无处不在:支付时所用的人脸识别,能给人带来财产安全保障;扫地机器人运用自带的传感器扫描垃圾并自动打扫卫生,是我们的家务小帮手;学习型机器人为孩子背唐诗、讲故事,对话等,陪伴孩子成长……


人工智能在各行各业的广泛应用,也使得人工智能人才炙手可热 。


想不想成为人工智能人才?从梯度下降算法开始,带你入门人工智能技术,去人工智能技术的浩瀚知识海洋领略无限风光。


在介绍梯度下降算法之前,我们首先思考一个问题:假如我们身处一片连绵起伏的山脉,在最低的山谷处有宝藏;但是我们被蒙着眼睛看不到山脉的全貌并且不知道自己在哪里,不论走到哪都只知道自己当前所处位置的高度;那么该如何最快速度找到宝藏呢?要找到宝藏,我们需要走向最低的位置,看不到全貌的我们怎么走到最低的位置呢,最简单的策略就是走一步看一步。走下一步要解决两个问题:方向和步长,方向决定向哪走,步长决定走多远。如何决定下一步方向呢?要找最低的地方,最简单的策略就是在当前所处的位置上去感受哪个方向是“最陡”的,最陡向下的方向就是我们下一步要走的方向。决定了方向后该如何选择“步长”?因为我们不知道山脉的全貌,山脉又有很多高高低低的山峰和山谷,走的步子太大会很冒险而错过最低的低谷;走的步子太小又浪费时间,因此我们要根据经验来选择一个适中的步长走下一步。就这样走一步决定一步,一步一步走到最低的低谷,我们就可以获得宝藏,可以简称这个策略为“最陡方向下降”。


那么什么是梯度下降算法呢?知识源自生活,这个寻找宝藏的例子中我们用的就是梯度下降算法。通俗来讲,“梯度下降算法”中所谓的“梯度”就是上文中“最陡的方向”的概念,“梯度下降算法”实际上就是上文所述的“最陡方向下降”。


那么梯度下降算法在数学中是如何定义的呢?我们将上述例子抽象成一个数学问题,就可以很清楚的理解梯度下降算法的数学表示。假定山的高度H是由参数经度L_1和纬度L_2定义的函数,即H=f(L_1,L_2 ),我们目标是找到使得高度H最小的一组经度l_1和纬度l_2,因此也将H=f(L_1,L_2 )称为目标函数。我们的起始位置在随机一组经度和纬度上,那么在决定下一步如何走之前需要确定两个问题:方向和步长,方向是由目前所处位置的“最陡方向”决定的,在数学中函数在某一点的最陡的方向是由梯度的方向,函数H=f(L_1,L_2 )对参数经度L_1和纬度L_2在该处求导即可获取梯度;步长是由经验获取的,可以在尝试过程中不断调整;确定了方向和步长之后,从当前的经度和纬度走到新的经度和纬度。重复这个过程直到满足设定的步数或时间或高度H连续下降幅度小于设定阈值,我们认为最终的经度L_1和纬度L_2就是使得高度H的最小的一组值。


通过上面的了解,我们可以看到梯度下降算法原理简单,并且易于计算机实现,因此成为求解优化问题的最重要的策略算法之一。

 

机器学习以及深度学习中大部分的问题最终都可以归结为求解函数最优值的问题,梯度下降算法作为求解最优化问题的最重要的策略之一,其在机器学习和深度学习中都占有其重要的地位。例如在深度学习中,神经网络模型中有众多参数,我们的目标是希望能够通过调整这些参数的值来寻找到最优的模型,模型优劣性是通过评估样本的预测值与样本的真实值的不一致程度得到的,不一致程度是通过损失函数来数值化来定义,我们的目标就是寻找一组参数使得损失函数达到最小,也就是得到在一定程度上达到最优的模型,而寻找一组参数值使得损失函数尽可能小所使用的方法大多数情况下都是用梯度下降算法。


当然,任何策略方法伴随其优点共存的是其缺点和不足。我们把目标函数想象成这连绵起伏的山峰有多个谷底,当我们蒙着眼睛下山的时候,常常会由于最开始所处位置的不同而走向不同的谷底;又或者下山过程中步子太大,可能会越过谷底,步子太小又会很耗时,因此梯度下降的结果也会受到启发式策略选取的影响。为了改善这些问题,后续又出现了随机梯度下降,小批量梯度下降以及其他众多的优化算法,使得目标函数的优化更加高效和精准。


你想更深入了解梯度下降算法吗?在华为AI认证的课程中,我们将深入浅出地讲解深度学习所需的方方面面的知识,让你学到人工智能的扎实理论并应用到实践中。


华为AI认证,按照深度学习、开源框架(TensorFlow、MindSpore等)和华为AI解决方案(EI、HiAI、Ascend等)这三个中心,定位于通用知识、应用实践、技术精华, 由浅入深,层层递进,让你逐步进阶为AI专家。目前华为已推出HCIA-AI、HCIP-AI  HiAI Developer、HCIP-AI EI Developer认证,HCIE级别的AI认证将于今年12月推出。


快人一步,开启你的人工智能学习之旅吧!跟随华为AI认证,你将在人工智能领域大展身手,获得无限可能。


关于华为人工智能认证及其知识点,你有什么想问想说的?欢迎在下方评论区留言,华为专家将亲自为你解答。

  • x
  • 常规:

点评 回复

跳转到指定楼层
Becky_2019
Becky_2019  管理员 发表于 2019-5-9 14:54:23 已赞(0) 赞(0)

欢迎了解!
  • x
  • 常规:

点评 回复

发表回复
您需要登录后才可以回帖 登录 | 注册

警告 内容安全提示:尊敬的用户您好,为了保障您、社区及第三方的合法权益,请勿发布可能给各方带来法律风险的内容,包括但不限于政治敏感内容,涉黄赌毒内容,泄露、侵犯他人商业秘密的内容,侵犯他人商标、版本、专利等知识产权的内容,侵犯个人隐私的内容等。也请勿向他人共享您的账号及密码,通过您的账号执行的所有操作,将视同您本人的行为,由您本人承担操作后果。详情请参看“隐私声明
如果附件按钮无法使用,请将Adobe Flash Player 更新到最新版本!
登录参与交流分享

登录参与交流分享

登录