首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/209577

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Flink 流批一体在字节跳动的探索与实践

背景 字节跳动旗下拥有今日头条、抖音等多款产品,每天服务着数亿用户,由此产生的数据量和计算量也是很大的: EB 级别海量的存储空间 每天平均 70PB 数据的增量 每秒钟百万次数的实时推荐请求 超过 400 万核的流式计算资源、500 万核的批式计算资源 这对我们的整个架构,包括计算架构和存储架构都带来了巨大的挑战。 业务困境 如上图所示,左边是一个非常典型,业界应用也很多的数据链路图。这个数据链路是一个典型的 Lamda 架构,整个数据链路分为批式计算链路和流式计算链路。 在字节跳动内部,通常需要批式计算和流式计算两条链路共同服务于下游的应用。 在批式计算链路中,我们主要应用 Spark 引擎,通过 Spark 引擎在批式存储中拿到数据,经过 ETL 的计算后,存入下游的存储,从而服务下游的应用。 流式计算链路,也是我们整个实时推荐、实时信息流的核心链路。我们会通过消息中心件把实时数据进行缓存存入,然后运用 Flink 实时计算引擎进行处理,处理后经过消息中间件的缓存传输存入下游的存储,来服务下层的应用。 整个计算架构分成两条链路,带来了两个比较严重的问题: 计算不同源 维护成本高。...

Bootstrap v5.2.1 发布

Bootstrap v5.2.1 现已发布,这是一个补丁版本,主要包含了一些错误修复、文档更新和依赖性更新。 Key changes 更新了 calc() 函数,以解决 postcss-values-parser 中的一个明显的 bug,该 bug 导致源 Sass 文件在使用 React 和 PostCSS 构建时无法正常编译。解决方法是颠倒在 calc() 函数中的乘法顺序。用户可能需要根据自己的自定义进行类似的修改。 还解决了一些长期存在的关于 button focus 和 active styling 的问题,特别是对于复选框和单选按钮。在移动设备上,input-based buttons难以摆脱其 focus styles。这个问题在 v5.2.1 中得到了解决,开发团队将 .btns 的 :focus 改为 :focus-visible。现在,复选框和单选按钮在 :focus-visible 时不再改变它们的背景颜色,它们也不会收到 :hover styling。常规的 .btns 仍然有它们熟悉的 hover 和 focus styles。 Highlights 除了上述...

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。