Ian Goodfellow：生成对抗网络 GAN 的公式是怎样推导出来的-低调大师

Ian Goodfellow：生成对抗网络 GAN 的公式是怎样推导出来的

2018-05-16 711

昨天，谷歌大脑研究科学家、《深度学习》的作者之一Ian Goodfellow在Twitter推荐了他最喜欢的两个机器学习“黑魔法”（Theory Hack）。Ian Goodfellow还是生成对抗网络GAN的提出者，利用这两个技巧，他在著名的GAN论文中推导了一个公式。

很多时候，我们想用代数/微积分来分析神经网络的最优行为。神经网络模型通常非常复杂，用代数方法来实现权重衰减或许可行，但想用代数方法来解决神经网络中大多数函数的参数优化问题就会太过复杂。

为了得到一个不那么复杂的模型，一个常见的直觉方法是使用线性模型。线性模型很好，因为它能很好的解决凸优化问题。但线性模型也有缺点：它过于简单，很多神经网络能做的事情线性模型不能做。这样，解决方法就简化了。

Theory Hack＃1：将神经网络建模为一个任意函数（因此可以优化所有函数f的

微信关注我们

原文链接：https://yq.aliyun.com/articles/593612

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

云计算史上的第一次开箱直播阿里云神龙技术架构首次全方位曝光

5月16日，阿里云目前最先进的自研弹性计算技术架构“神龙（X-Dragon）”首次全方位曝光，这种新型的计算架构打破了过去物理机和虚拟机的隔阂，既保留了物理机的性能优势和硬件级隔离，又具备虚拟机的弹性资源、分钟级交付、全自动运维的优势。知名科技作家张广彬（狒哥）参与了云计算史上首次开箱直播，真刀真枪“扒光”了一台服务器，并现场演示了如何快速创建和部署云服务。图1：科技大咖狒哥现场直播神龙“开箱”点此查看精彩直播回顾自研核心技术融合物理机和虚拟机的神龙架构传统的物理机虽然性能强大，但部署麻烦、扩展性是硬伤，虚拟化则有一部分性能损耗，选物理机还是选虚拟机成为企业部署IT时面临的难题。去年10月，阿里云发布了首个同时融合物理机和虚拟机特性的“跨界”云服务器，解决了这一难题，其背后的技术就是神龙架构。图2：阿里云自研神龙技术架构之MOC卡

2018-05-16

635

简介在一个monolithic应用程序中，组件彼此调用是通过语言级别的方法或函数调用完成的。相反地，一个基于微服务的应用程序是运行在多台机器上的分布式系统。每个服务实例通常是一个独立的进程。因此，如图3-1所示，服务之间需要使用一种 IPC 机制来进行交互。在我们讨论具体的 IPC 技术之前，让我们先来看看各种交互设计思路。 Interaction Styles 当为一个服务选择 IPC 机制时，首先应该思考服务之间是如何进行交互的。存在很多客户端-服务器交互方式。可以从两个维度来划分交互方式。第一个维度，交互是一对一还是一对多的： One-to-one：每个客户端请求只被一个服务实例处理 One-to-many：每个客户端请求被多个服务实例处理第二个考虑维度，交互是异步的还是同步的：• Synchronous–Theclientexpectsatimelyresponsefromtheserviceandmighteven block while it waits• Asynchronous – The client doesn’t block while waiting f...

2018-05-16

599

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。