深度学习笔记6：神经网络优化算法之从SGD到Adam-低调大师

深度学习笔记6：神经网络优化算法之从SGD到Adam

2018-09-05 662

1

从前面的学习中，笔者带大家一起学会了如何手动搭建神经网络，以及神经网络的正则化等实用层面的内容。这些都使得我们能够更深入的理解神经网络的机制，而并不是初次接触深度学习就上手框架，虽然对外宣称神经网络是个黑箱机制，但是作为学习者我们极度有必要搞清楚算法在每个环节到底都干了些什么。

今天笔者需要讲的是深度学习的一个大的主题——优化算法。采用何种方式对损失函数进行迭代优化，这是机器学习的一大主题之一，当一个机器学习问题有了具体的模型和评估策略，所有的机器学习问题都可以形式化为一个最优化问题。这也是为什么我们说优化理论和凸优化算法等学科是机器学习一大支柱的原因所在。从纯数学的角度来看，所有的数学模型尽管形式不一，各有头面，但到最后几乎到可以归约为最优化问题。所以，有志于奋战在机器学习和深度学习领域的各位，学好最优化，责无旁贷啊。

要说机器学

微信关注我们

原文链接：https://yq.aliyun.com/articles/636277

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

类似gitbook的wiki选择

一直以来，都使用xwiki作为团队内部的文档管理工具，但一直想换一个比较轻量级的系统。团队成员普遍对gitbook风格有好感，于是先后试用了mdwiki、dokuwiki、hexo、mindoc、wikitten。 mdwiki：纯粹用AJAX写的，部署最简单，但是目录只能两级； dokuwiki：PHP写的，没有数据库，有不少插件。一直在这个和wikitten中犹豫，最后还是选择了wikitten，主要还是界面风格，wikitten比较简洁； hexo：采用node.js开发的，也是因为这个才知道wikitten。因为服务器上已经有PHP的环境了，不想再增加node.js，所以放弃了，否则是很好的选择； mindoc：golang开发的，这个其实也不错，但我只要一本书，他却提供了一个书柜； wikitten：PHP写的，没有数据库，没有插件，文档也少。但界面一眼看中了，就这样了。到github下载，解压。网上说PHP需要fileinfo组件，其实还需要json组件，这个需要注意了。由于我使用nginx，并且没法安装到站点根目录下，所以一直有问题。 location ~* ^/sta...

2018-09-06

1174

背景在企业发展初期，企业使用的系统很少，通常一个或者两个，每个系统都有自己的登录模块，运营人员每天用自己的账号登录，很方便。但随着企业的发展，用到的系统随之增多，运营人员在操作不同的系统时，需要多次登录，而且每个系统的账号都不一样，这对于运营人员来说，很不方便。于是，就想到是不是可以在一个系统登录，其他系统就不用登录了呢？这就是单点登录要解决的问题。单点登录英文全称Single Sign On，简称就是SSO。它的解释是：在多个应用系统中，只需要登录一次，就可以访问其他相互信任的应用系统。如图所示，图中有4个系统，分别是Application1、Application2、Application3、和SSO。Application1、Application2、Application3没有登录模块，而SSO只有登录模块，没有其他的业务模块，当Application1、Application2、Application3需要登录时，将跳到SSO系统，SSO系统完成登录，其他的应用系统也就随之登录了。这完全符合我们对单点登录（SSO）的定义。技术实现在说单点登录（SSO）的技术实现之前...

2018-09-06

591

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。