谷歌开源 TensorFlow 的简化库 JAX
谷歌开源了一个 TensorFlow 的简化库 JAX。
JAX 结合了 Autograd 和 XLA,专门用于高性能机器学习研究。
凭借 Autograd,JAX 可以求导循环、分支、递归和闭包函数,并且它可以进行三阶求导。通过 grad,它支持自动模式反向求导(反向传播)和正向求导,且二者可以任何顺序任意组合。
得力于 XLA,可以在 GPU 和 TPU 上编译和运行 NumPy 程序。默认情况下,编译发生在底层,库调用实时编译和执行。但是 JAX 还允许使用单一函数 API jit 将 Python 函数及时编译为 XLA 优化的内核。编译和自动求导可以任意组合,因此可以在 Python 环境下实现复杂的算法并获得最大的性能。
demo:
import jax.numpy as np from jax import grad, jit, vmap from functools import partial def predict(params, inputs): for W, b in params: outputs = np.dot(inputs, W) + b inputs = np.tanh(outputs) return outputs def logprob_fun(params, inputs, targets): preds = predict(params, inputs) return np.sum((preds - targets)**2) grad_fun = jit(grad(logprob_fun)) # compiled gradient evaluation function perex_grads = jit(vmap(grad_fun, in_axes=(None, 0, 0))) # fast per-example grads
更深入地看,JAX 实际上是一个可扩展的可组合函数转换系统,grad 和 jit 都是这种转换的实例。
项目地址:https://github.com/google/JAX
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
滴滴开源小程序框架 Mpx ,致力于提高小程序开发体验
滴滴WebApp团队近日宣布开源 Mpx ,这是一款致力于提高小程序开发体验的增强型小程序框架。通过 Mpx ,开发者能够以最先进的 web 开发体验 (Vue + Webpack) 来开发生产性能深度优化的小程序。 Mpx 具有以下一些优秀特性: 数据响应特性 (watch/computed) 增强的模板语法(动态组件/样式绑定/类名绑定/内联事件函数/双向绑定等) 深度性能优化(原生自定义组件/基于依赖收集和数据变化的 setData ) Webpack 编译( npm/循环依赖/Babel/ESLint/css 预编译/代码优化等) 单文件组件开发 状态管理( Vuex 规范/多实例/可合并) 跨团队合作 (packages) 逻辑复用能力 (mixins) 脚手架支持 小程序自身规范的完全支持 支付宝小程序的支持 开发团队表示,目前业界主流的小程序框架主要有 WePY、mpvue 和 Taro,这三者都是将其他的语法规范转译为小程序语法规范,我们称其为转译型框架。不同于上述三者,Mpx 是一款基于小程序语法规范的增强型框架,使用 Vue 中优秀的语法特性增强了小程序,而不是让用...
- 下一篇
腾讯加入专利保护社区 OIN
14日,腾讯宣布加入专利保护社区 OIN 。 OIN 是史上最大的专利保护社区,支持开源软件关键元素 Linux 的自由开发环境,OIN 专利许可和会员的专利交叉许可对所有 OIN 社区会员免费开放。核心技术专利保护是 OSS 内部的文化规范,因此只有加入 OIN 社区,才能知道社区里的行为诚信与否。OIN 成立时获得了谷歌、IBM、NEC、飞利浦、Red Hat、索尼、SUSE 和丰田等业内企业的大力支持,拥有 2800 多个会员和 1300 多项全球专利与应用。 OIN 首席执行官 Keith Bergelt 表示:“腾讯是‘微信/WeChat’和‘QQ’等创新型数字技术解决方案的行业领导者和全球先驱。它既尽力推动开源项目,也在其业务中利用开源软件。对于腾讯加入 OIN 并兑现其在开源领域进行创新和不侵犯专利的承诺,我们非常欣赏。” 腾讯知识产权部总经理徐炎表示:“腾讯致力于提供优质互联网服务,从社交、游戏和数字内容,到移动支付、云服务、互联网金融服务和智能零售解决方案等等。Linux 和开源是我们为提供这些服务而开发技术的关键元素。通过吸收企业加入 OIN,我们展示了自身对创新的...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- 设置Eclipse缩进为4个空格,增强代码规范
- CentOS8安装Docker,最新的服务器搭配容器使用
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- CentOS关闭SELinux安全模块
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- SpringBoot2整合Redis,开启缓存,提高访问速度
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2初体验,简单认识spring boot2并且搭建基础工程