MaxCompute 费用暴涨之存储压缩率降低导致SQL输入量变大
现象：同样的SQL，每天处理的数据行数差不多，但是费用突然暴涨甚至会翻数倍。
分析：
我们先明确MaxCompute SQL后付费的计费公式：一条SQL执行的费用=扫描输入量 ️ SQL复杂度 ️ 0.3(￥/GB)。
变量主要是输入量和复杂度，如果SQL没有变更的情况下复杂度度也没有变化，那么费用上涨主要原因就是输入量增加，因此我们侧重从输入量去排查是什么环节导致来了输入量的增加。
排查：
挑两个job的Logview查看输入量，推荐用MaxCompute Studio的作业对比功能查看，作业对比功能使用方式可以参考《MaxCompute Studio使用心得系列7——作业对比》。输入量如下：
如上图，数据行数差别没有翻倍，但是大小(bytes)翻倍，基本可以排除是因为数据量暴增导致。那么数据行数增量不大，但是数据大小翻倍，无疑翻倍的这些数
关注公众号 低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有，本站原创内容转载请注明来源。
- 上一篇
X-Pack Spark对接阿里云日志服务LogHub
概述 X-Pack Spark分析引擎是基于Spark提供的复杂分析、流式处理、机器学习的能力。Spark分析引擎可以对接阿里云的多种数据源，例如：云HBase数据库、MongoDB、Phoenix等，同时也支持对接阿里云日志服务LogHub。阿里云日志服务（Log Service，简称LOG）是针对实时日志数据的一站式服务，提供日志类数据采集、消费、投递及查询分析功能，全面提升海量日志处理和分析能力。 场景介绍 某一款销售平台的APP，针对用户在APP中打开首页、搜索、商品详细页以及最终下订单购买商品等操作，操作所产生的事件均记录到阿里云日志系统中。现需要对APP的用户的行为数据做一些统计分析，每天、每周出详细的运营数据、以及给用户提供在线查询账单等。 如何实现 通过阿里云的日志服务+X-Pack Spark+云HBase完成这些诉求。先
- 下一篇
突破Java面试(14)-分布式搜索引擎的架构
以下用ES表Elastic Search 0 Github 1 面试题 说说ES的分布式架构原理 2 考点分析 在搜索这块，曾经lucene 是最流行的搜索库.几年前业内一般都问，你了解 lucene 吗？你知道倒排索引的原理吗？但现在不问了,因为现在项目基本都是采用基于 lucene 的分布式搜索引擎—— ElasticSearch. 现在分布式搜索基本已经成为互联网系统的标配，其中尤为流行的就是 ES，前几年一般用 solr。但是最近基本大部分企业和项目都开始转向 ES. 所以互联网面试，肯定会跟你聊聊分布式搜索引擎，就一定会聊到ES! 如果面试官问你第一个问题，确实一般都会问你 es 的分布式架构设计能介绍一下么？就看看你对分布式搜索引擎架构的一个基本理解。 3 详解 ES的设计理念就是分布式搜索引擎，底层其实还是基于 lucene 的.核心思
相关文章
文章评论
共有0条评论来说两句吧...
微信收款码
支付宝收款码