首页 文章 精选 留言 我的

精选列表

搜索[官方镜像],共10000篇文章
优秀的个人博客,低调大师

ES shrink ——一般是结合rollover一起使用的,一开始没有看懂官方shrink文档,当看了这个之后就明白了

rollover Elasticsearch 从 5.0 开始,为日志场景的用户提供了一个很不错的接口,叫 rollover。其作用是:当某个别名指向的实际索引过大的时候,自动将别名指向下一个实际索引。 因为这个接口是操作的别名,所以我们依然需要首先自己创建一个开始滚动的起始索引: # curl -XPUT 'http://localhost:9200/logstash-2016.11.25-1' -d '{ "aliases":{ "logstash":{} } }' 然后就可以尝试发起 rollover 请求了: # curl -XPOST 'http://localhost:9200/logstash/_rollover' -d '{ "conditions":{ "max_age":"1d", "max_docs":10000000 } }' 上面的定义意思就是:当索引超过 1 天,或者索引内的数据量超过一千万条的时候,自动创建并指向下一个索引。 这时候有几种可能性: 条件都没满足,直接返回一个 false,索引和别名都不发生实际变化; { "old_index":"logstash-2016.11.25-1", "new_index":"logstash-2016.11.25-1", "rolled_over":false, "dry_run":false, "acknowledged":false, "shards_acknowledged":false, "conditions":{ "[max_docs: 10000000]":false, "[max_age: 1d]":false } } 还没满一天,满了一千万条,那么下一个索引名会是:logstash-2016.11.25-000002; 还没满一千万条,满了一天,那么下一个索引名会是:logstash-2016.11.26-000002。 shrink Elasticsearch 一直以来都是固定分片数的。这个策略极大的简化了分布式系统的复杂度,但是在一些场景,比如存储 metric 的 TSDB、小数据量的日志存储,人们会期望在多分片快速写入数据以后,把老数据合并存储,节约过多的 cluster state 容量。从 5.0 版本开始,Elasticsearch 新提供了 shrink 接口,可以成倍数的合并分片数。 注:所谓成倍数的,就是原来有 15 个分片,可以合并缩减成 5 个或者 3 个或者 1 个分片。 整个合并缩减的操作流程,大概如下: 先把所有主分片都转移到一台主机上; 在这台主机上创建一个新索引,分片数较小,其他设置和原索引一致; 把原索引的所有分片,复制(或硬链接)到新索引的目录下; 对新索引进行打开操作恢复分片数据。 (可选)重新把新索引的分片均衡到其他节点上。 准备工作 因为这个操作流程需要把所有分片都转移到一台主机上,所以作为 shrink 主机,它的磁盘要足够大,至少要能放得下一整个索引。 最好是一整块磁盘,因为硬链接是不能跨磁盘的。靠复制太慢了。 开始迁移: # curl -XPUT 'http://localhost:9200/metric-2016.11.25/_settings' -d ' { "settings":{ "index.routing.allocation.require._name":"shrink_node_name", "index.blocks.write":true } }' shrink 操作 curl-XPOST'http://localhost:9200/metric-2016.11.25/_shrink/oldmetric-2016.11.25'-d' { "settings": { "index.number_of_replicas": 1, "index.number_of_shards": 3 }, "aliases": { "metric-tsdb": {} } }' 这个命令执行完会立刻返回,但是 Elasticsearch 会一直等到 shrink 操作完成的时候,才会真的开始做 replica 分片的分配和重均衡,此前分片都处于 initializing 状态。 注意:Elasticsearch 有一个硬编码限制,单个分片内的文档总数不得超过 2147483519 个。一般来说这个限制在日志场景下是不太会触发的,但是如果做 TSDB 用,则需要多加注意! 本文转自张昺华-sky博客园博客,原文链接:http://www.cnblogs.com/bonelee/p/8136708.html,如需转载请自行联系原作者

优秀的个人博客,低调大师

【阿里云一周要闻第三期】:阿里云全球市场份额增长近一倍;AnalyticDB数据库登上TPC榜首;阿里云PHP Composer全量镜像正式...

---------------------------------【一周要闻】--------------------------------- Gartner:阿里云全球市场份额增长近一倍!【阅读详情】权威研究机构Gartner发布全球云计算市场数据:阿里云全球市场份额增长近一倍,在全球市场“坐三望二”,以战略级研发投入撬动市场高速增长。数据显示,2018年全球云计算市场向头部厂商进一步集中,3A厂商占据七成市场份额。其中,阿里云保持3A军团中最快增长,年增长速度为93%,同期AWS增速为27%,微软Azure增速为61%。 阿里云AnalyticDB数据库登上TPC榜首 【阅读详情】近日,全球最知名的数据管理系统评测标准化TPC组织公布了数据库领域分析性能基准测试最新排名,阿里云超大规模分析型数据库AnalyticDB登上榜首,是

优秀的个人博客,低调大师

【阿里云一周要闻第二期】杭州云栖大会敲定,9月正式揭幕;MIT官方点名阿里云是全球最聪明的公司之一;阿里AI再出神器,“你是什么垃圾”一拍便...

---------------------------------【一周要闻】--------------------------------- 杭州云栖大会【阅读详情】 作为开发者领域的第一科技盛会,杭州云栖大会Apsara Conference将于今年9月25日在杭州云栖小镇开幕。大会将继续探索人类科技演进的脉搏,面向未来20年展示基础科学、创新性技术和应用的重大突破。大会官网已经露出了部分其中包括与人工智能比拼的游戏项目。吐槽大会辩手还将举办首届工程师吐槽大会。 阿里AI再出神器,“你是什么垃圾”一拍便知【阅读详情】 相信魔都的小伙伴已经要被垃圾分类逼疯了,面临灵魂拷问:“你是什么垃圾?”不用担心,想人之所想,急人之所急,阿里AI懂你。经过阿里志愿者48小时紧急开发,AI智能识别垃圾功能(测试版)在手机淘宝上线,这款功能通过阿里云搭

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。