首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://yq.aliyun.com/articles/161250

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

基于Mesos的当当作业云Elastic Job Cloud

作业在互联网电商行业中是很常见的技术手段。当当具有成千上万的作业规模,大致分为业务类,归档类,监控类和大数据类。 当当原有的作业解决方案是Elastic Job,以下称为Elastic Job 1.X。主要关注以下4个方面: 高可用。这里高可用指主从热备。主节点提供服务的同时从节点处于等待状态。一旦主节点失效,其中一个从节点通过选举成为主节点继续提供服务,原来的主节点再次生效后,作为从节点继续等待选举机会。线性扩展。可理解为高可用的高阶功能。既然多节点参与服务提供,若从节点只负责热备,难免造成资源浪费,将主备调整为分片,则可大幅提升处理能力。中心化分布 式服务基本都是提供独立的调度中心和执行节点,调度中心提供主备,执行节点可以弹性的线性扩展。Elastic Job1.X采用无中心化架构,并无调度中心,而是各个执行节点通过Zookeeper选举主节点进行分片、清理等动作,作业调度由执行节点自行触发。Elastic Job 1.X通过分片进行线性扩展,每个执行节点负责处理被分配到的分片项,应用开发者负责分片项和业务逻辑的对应关系。代码示例:public class MyElasticJob...

大数据应用不是一次机遇,而成为标配

从技术上看,大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理,必须采用分布式计算架构。它的特色在于对海量数据的挖掘,但它必须依托云计算的分布式处理、分布式数据库、云存储和虚拟化技术。在人工智能时代,大数据不再只是一次机遇,而是成为了标配。大规模存储和计算平台支撑了大数据挖掘和机器学习的复杂而耗费资源的算法和处理。云计算已成为推动智能时代诸多企业创新及信息产业发展的引擎。 一. 云计算、移动互联网与社交网络是大数据的三大推进器 在过去不到20年的时间里,个人计算设备生成的数据量呈现出惊人的增长态势。而要想处理好这些激增的数据,就需要强大的云存储与计算平台。而当大数据和云遇见深度学习,这一计算机科学家朝思暮想了数十载的科技终于不再是无本之木。随着深度学习技术的潜能被充分释放,弈棋程序的胜利以及我们在图像识别、语音识别等领域的连番突破也就是顺理成章的事。 二.大数据应用已成为标配(介绍大数据应用) 1、图像识别技术史=人脸数据库+计算能力的扩张史! 手机这种设备支持某些看起来很酷很智能的功能,比如人脸检测、根据面孔特征实现身份识别和分类编目等,若没有...

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册