首页 文章 精选 留言 我的

精选列表

搜索[数据脱敏],共10000篇文章
优秀的个人博客,低调大师

Python数据增强(data augmentation)库--Augmentor 使用介绍

Augmentor 使用介绍 原图 1.random_distortion(probability, grid_height, grid_width, magnitude) 最终选择参数为 p.random_distortion(probability=0.8, grid_height=3, grid_width=3, magnitude=6) 其他参数效果: magnitude和grid_width,grid_height越大,扭曲程度越大 p.random_distortion(probability=0.6, grid_height=6, grid_width=6, magnitude=5) p.random_distortion(probability=0.6, grid_height=6, grid_width=6, magnitude=9) p.random_distortion(probability=0.6, grid_height=10, grid_width=10, magnitude=5) 2.random_erasing(probability, rectangle_area) rectangle_area表示覆盖区域的比例,值越大比例越大。但是设置为1的时候并不是全覆盖,不知道为什么,反正也没必要弄清楚 p.random_erasing(1,1) 3.zoom_random(probability, percentage_area) 放大图片,然后按照percenta_area的比例对图片进行crop。 p.zoom_random(probability=1, percentage_area=0.2) p.zoom_random(probability=1, percentage_area=0.8) 4.zoom(probability, min_factor, max_factor) p.zoom(probability=1, min_factor=1.1, max_factor=1.5) p.zoom(probability=1, min_factor=2, max_factor=2) 组合操作 p.rotate_random_90(probability=0.8) p.random_distortion(probability=0.8, grid_height=3, grid_width=3, magnitude=6) p.random_erasing(0.3, 0.2) p.zoom(probability=0.4, min_factor=1.1, max_factor=1.5) p.sample(6) MARSGGBO原创 2018-4-1

优秀的个人博客,低调大师

数据||zookeeper来实现HDFS自动故障转移

namenode启动都是standby。 利用zookeeper来选举一个为active ZooKeeper客户端ZKFC: ZKFailoverController 给namenode添加失效备缓监控器(ZKFC: ZKFailoverController),131和132 NN HA 自动故障转移原理图 Zookeeper FC对Namenode进行生命状态监控 原理图 zookeeper集群 通过配置文件实现故障转移 启用故障转移(hdfs-site.xml) <property> <name>dfs.ha.automatic-failover.enabled</name> <value>true</value> </property> 故障转移依赖zookeeper集群 <property> <name>ha.zookeeper.quorum</name> <value>hadoop-senior.beifeng.com:2181,hadoop-senior02.beifeng.com:2181,hadoop-senior03.beifeng.com:2181</value> </property> 自动故障转移启动 关闭所有HDFS 服务 sbin/stop-dfs.sh(131节点)停止顺序:namenode->datanode->journalnode 向子节点(132/133)同步core-site.xml和hdfs-site.xml 命令:scp -r etc/hadoop/core-site.xml etc/hadoop/hdfs-site.xml root@hadoop-senior02.beifeng.com:/opt/app/hadoop-2.5.0/etc/hadoop/ 启动Zookeeper 集群 bin/zkServer.sh start (131,132,133) 初始化 HA 在Zookeeper中状态 bin/hdfs zkfc -formatZK 对ha在zookeeper中的状态进行初始化 在zookeeper服务器上创建一个目录(hadoop-ha) 通过zookeeper客户端可以看一下这个过程。 查看:bin/zkCli.sh -server 192.168.57.131:2181 注意添加ip要不然就会报错。 命令执行前服务器目录结构 前 命令执行后 zookeeper client 启动HDFS服务 sbin/start-dfs.sh启动顺序 namenode-->datanode-->journalnode-->zkfc 131为active 干掉131看一下是否可以自动切换到132的namenode 131namenode服务器 132namenode编程active zookeeper集群死掉后不影响hdfs文件系统,只是不能够故障自动转移了。 在各个NameNode节点上启动DFSZK Failover Controller,先在那台机器启动, 那个机器的NameNode就是Active NameNode sbin/hadoop-daemon.sh start zkfc

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册