Ian Goodfellow：生成对抗网络 GAN 的公式是怎样推导出来的-低调大师

Ian Goodfellow：生成对抗网络 GAN 的公式是怎样推导出来的

2018-05-16 667

昨天，谷歌大脑研究科学家、《深度学习》的作者之一Ian Goodfellow在Twitter推荐了他最喜欢的两个机器学习“黑魔法”（Theory Hack）。Ian Goodfellow还是生成对抗网络GAN的提出者，利用这两个技巧，他在著名的GAN论文中推导了一个公式。

很多时候，我们想用代数/微积分来分析神经网络的最优行为。神经网络模型通常非常复杂，用代数方法来实现权重衰减或许可行，但想用代数方法来解决神经网络中大多数函数的参数优化问题就会太过复杂。

为了得到一个不那么复杂的模型，一个常见的直觉方法是使用线性模型。线性模型很好，因为它能很好的解决凸优化问题。但线性模型也有缺点：它过于简单，很多神经网络能做的事情线性模型不能做。这样，解决方法就简化了。

Theory Hack＃1：将神经网络建模为一个任意函数（因此可以优化所有函数f的

微信关注我们

原文链接：https://yq.aliyun.com/articles/593612

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

云计算史上的第一次开箱直播阿里云神龙技术架构首次全方位曝光

5月16日，阿里云目前最先进的自研弹性计算技术架构“神龙（X-Dragon）”首次全方位曝光，这种新型的计算架构打破了过去物理机和虚拟机的隔阂，既保留了物理机的性能优势和硬件级隔离，又具备虚拟机的弹性资源、分钟级交付、全自动运维的优势。知名科技作家张广彬（狒哥）参与了云计算史上首次开箱直播，真刀真枪“扒光”了一台服务器，并现场演示了如何快速创建和部署云服务。图1：科技大咖狒哥现场直播神龙“开箱”点此查看精彩直播回顾自研核心技术融合物理机和虚拟机的神龙架构传统的物理机虽然性能强大，但部署麻烦、扩展性是硬伤，虚拟化则有一部分性能损耗，选物理机还是选虚拟机成为企业部署IT时面临的难题。去年10月，阿里云发布了首个同时融合物理机和虚拟机特性的“跨界”云服务器，解决了这一难题，其背后的技术就是神龙架构。图2：阿里云自研神龙技术架构之MOC卡

2018-05-17

587

简介在一个monolithic应用程序中，组件彼此调用是通过语言级别的方法或函数调用完成的。相反地，一个基于微服务的应用程序是运行在多台机器上的分布式系统。每个服务实例通常是一个独立的进程。因此，如图3-1所示，服务之间需要使用一种 IPC 机制来进行交互。在我们讨论具体的 IPC 技术之前，让我们先来看看各种交互设计思路。 Interaction Styles 当为一个服务选择 IPC 机制时，首先应该思考服务之间是如何进行交互的。存在很多客户端-服务器交互方式。可以从两个维度来划分交互方式。第一个维度，交互是一对一还是一对多的： One-to-one：每个客户端请求只被一个服务实例处理 One-to-many：每个客户端请求被多个服务实例处理第二个考虑维度，交互是异步的还是同步的：• Synchronous–Theclientexpectsatimelyresponsefromtheserviceandmighteven block while it waits• Asynchronous – The client doesn’t block while waiting f...

2018-05-17

544

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。