首页 文章 精选 留言 我的

精选列表

搜索[学习],共10000篇文章
优秀的个人博客,低调大师

Hadoop概念学习系列之谈hadoop/spark里为什么都有,YARN呢?(四十一)

在Hadoop集群里,有三种模式: 1、本地模式 2、伪分布模式 3、全分布模式 在Spark集群里,有四种模式: 1、local单机模式 结果xshell可见: ./bin/spark-submit --class org.apache.spark.examples.SparkPi --master local[1] ./lib/spark-examples-1.3.1-hadoop2.4.0.jar 100 这里写local,就是local[1] 2、standalone集群模式 需要的配置项 1, slaves文件 spark002 spark003 2, spark-env.sh export JAVA_HOME=/usr/soft/jdk1.7.0_71 export SPARK_MASTER_IP=spark001 export SPARK_MASTER_PORT=7077 export SPARK_WORKER_CORES=1 export SPARK_WORKER_INSTANCES=1 export SPARK_WORKER_MEMORY=1g 3、standalone集群模式 之client模式: 结果xshell可见: ./bin/spark-submit --class org.apache.spark.examples.SparkPi --master spark://spark001:7077 --executor-memory 1G --total-executor-cores 1 ./lib/spark-examples-1.3.1-hadoop2.4.0.jar 100 3、standalone集群模式之cluster模式: 结果spark001:8080里面可见! ./bin/spark-submit --class org.apache.spark.examples.SparkPi --master spark://spark001:7077 --deploy-mode cluster --supervise --executor-memory 1G --total-executor-cores 1 ./lib/spark-examples-1.3.1-hadoop2.4.0.jar 100 --supervise是进程监控 4、Yarn集群模式 需要的配置项 1, spark-env.sh export HADOOP_CONF_DIR=$HADOOP_INSTALL/etc/hadoop export YARN_CONF_DIR=$HADOOP_INSTALL/etc/hadoop export SPARK_HOME=/usr/hadoopsoft/spark-1.3.1-bin-hadoop2.4 export SPARK_JAR=/usr/hadoopsoft/spark-1.3.1-bin-hadoop2.4/lib/spark-assembly-1.3.1-hadoop2.4.0.jar export PATH=$SPARK_HOME/bin:$PATH 2, ~/.bash_profile 配置好hadoop环境变量 4、Yarn集群模式client模式: 结果xshell可见: ./bin/spark-submit --class org.apache.spark.examples.SparkPi --master yarn-client --executor-memory 1G --num-executors 1 ./lib/spark-examples-1.3.1-hadoop2.4.0.jar 100 4、Yarn集群模式cluster模式: 结果spark001:8088里面可见! ./bin/spark-submit --class org.apache.spark.examples.SparkPi --master yarn-cluster --executor-memory 1G --num-executors 1 ./lib/spark-examples-1.3.1-hadoop2.4.0.jar 100 hadoop/spark里为什么都有,YARN呢? 答:普通OS(操作系统)的功能主要是为处理器管理、存储器管理、设备管理、文件管理、作业管理和用户接口。 在集群环境下,HDFS已经负责了文件管理,而设备概念较弱,故YARN主要负责统一管理集群内服务器的计算资源(主要包括CPU和内存资源)、作业调度和用户接口。 本文转自大数据躺过的坑博客园博客,原文链接:http://www.cnblogs.com/zlslch/p/6092539.html,如需转载请自行联系原作者

优秀的个人博客,低调大师

将旗下的深度学习平台免费开放,美团云到底是怎么考虑的?

随着人工智能和大数据的火热,与二者紧密相连的云服务也成为一片热土;除了从一开始就扎根于云服务行业的垂直厂商,更有不少具有一定体量的互联网公司跨界而入,BAT 如此,网易如此,京东亦如此。 实际上,连起家于团购和外卖行业的美团也已经趁势入局。 左手 Intel,右手 NVIDIA 10 月 31 日,美团点评旗下的云服务美团云,以“赋能 AI 共生共赢”为主题,在北京举行了 2017 年美团云人工智能峰会,这也是美团云首次举办面向行业的此类峰会。 在此次峰会上,美团云总经理李爽率先展示了美团云在硬件上的新动向,新增了两款高性能的 AI 云主机;一款基于 Intel Xeon Phi,另一台基于NVIDIA的 Tesla V100。 据雷锋网了解,采用最新 Intel Xeon Ph 的云主机在性能、虚拟化、灵活性等方面有着大幅提升,将极大

优秀的个人博客,低调大师

最近一个多月我学习的关于数据双活的文章与书籍

image.png 一、Mysql数据库双活 1、Mysql binlog介绍 官网:https://dev.mysql.com/doc/refman/5.5/en/binary-log.html 中文: http://www.cnblogs.com/Richardzhu/p/3225254.html http://www.cnblogs.com/martinzhang/p/3454358.html 2、阿里数据库同步工具Canal 官网:https://github.com/alibabatech/canal/ 使用介绍: 阿里巴巴开源项目: canal 基于mysql数据库binlog的增量订阅&消费 利用Canal完成Mysql数据同步Redis 搭建: canal部署与实例运行 MySQL增量订阅&消费组件Canal POC 分布式集群项目中同步DB数据的解决方案之Canal Canal源码分析---模拟Slave同步binlog 用 Canal 监控mysql数据变化 使用 Binlog 和 Canal 从 MySQL 抽取数据 3、Mysql数据双活 sql高可用架构方案之中的一个(keepalived+主主双活) 大话数据中心双活 二、Oracle双活 1、Kettle实现数据同步 在Kettle里使用时间戳实现变化数据捕获(CDC) kettle参数、变量详细讲解 实时同步,增量ETL方案分享(源表含时间戳,做逻辑删除) Kettle Spoon 表输入组件报“无效的列索引”错误解决方案 关于Kettle的推荐书籍如下: image.png 2、使用Databus实现数据库同步 LinkedIn实时低延迟数据抓取系统Databus开源 Databus中文教程 Databus项目开源地址 3、Oracle日志数据同步 基于Oracle Logminer数据同步 OGG实现两台Oracle数据库的同步 基于OGG的Oracle与Hadoop集群准实时同步介绍 ORACLE 几种同步灾备手段(OGG,ADG,DSG,高级复制,流复制,logmnr) Oracle11gR2下搭建DataGuard主备同步详解

优秀的个人博客,低调大师

深度学习之经典卷积神经网络的技术浅析 | 硬创公开课预告

卷积神经网络(Convolutional Neural Networks)是人工神经网络的重要分支,目前已经成为语音和图像识别领域的一大研究热点。特别是在图像识别领域,由于其特有的权值共享网络结构,大大降低了模型复杂度,减少了权值数量,因此可以直接将多维图像作为输入数据展开训练,有效避免了传统识别算法中复杂的特征提取和数据重建过程。 逐本溯源,卷积结构最早出现于 1984 年的神经认知机(NeoCognitron)。发展到 1998 年,诞生了第一代经典卷积神经网络 LeNet,但随着支持向量机 SVM(Support Vector Machine)的出现,卷积神经网络一度归于沉寂。后来,随着 ReLu(Rectified Linear Units)和 Dropout 等激活函数的提出,以及 GPU 和大数据带来的历史机遇,卷积神经

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册