首页 文章 精选 留言 我的

精选列表

搜索[自动化部署],共10005篇文章
优秀的个人博客,低调大师

部署Mahout

一、Mahout简介 Mahout是ApacheSoftwareFoundation(ASF)旗下的一个开源项目,提供一些可扩展的机器学习领域经典算法的实现,旨在帮助开发人员更加方便快捷地创建智能应用程序。ApacheMahout项目已经发展到了它的第三个年头,目前已经有了三个公共发行版本。Mahout包含许多实现,包括集群、分类、推荐过滤、频繁子项挖掘。此外,通过使用ApacheHadoop库,Mahout可以有效地扩展到云中。 (就是他,骑在象头上的那个Mahout) 在Mahout实现的机器学习算法: 算法类 算法名 中文名 分类算法 Logistic Regression 逻辑回归 Bayesian 贝叶斯 SVM 支持向量机 Perceptron 感知器算法 Neural Network 神经网络 Random Forests 随机森林 Restricted Boltzmann Machines 有限波尔兹曼机 聚类算法 Canopy Clustering Canopy聚类 K-means Clustering K均值算法 Fuzzy K-means 模糊K均值 Expectation Maximization EM聚类(期望最大化聚类) Mean Shift Clustering 均值漂移聚类 Hierarchical Clustering 层次聚类 Dirichlet Process Clustering 狄里克雷过程聚类 Latent Dirichlet Allocation LDA聚类 Spectral Clustering 谱聚类 关联规则挖掘 Parallel FP Growth Algorithm 并行FP Growth算法 回归 Locally Weighted Linear Regression 局部加权线性回归 降维/维约简 Singular Value Decomposition 奇异值分解 Principal Components Analysis 主成分分析 Independent Component Analysis 独立成分分析 Gaussian Discriminative Analysis 高斯判别分析 进化算法 并行化了Watchmaker框架 推荐/协同过滤 Non-distributed recommenders Taste(UserCF, ItemCF, SlopeOne) Distributed Recommenders ItemCF 向量相似度计算 RowSimilarityJob 计算列间相似度 VectorDistanceJob 计算向量间距离 非Map-Reduce算法 Hidden Markov Models 隐马尔科夫模型 集合方法扩展 Collections 扩展了java的Collections类 方法一、Mahout安装、配置 一、下载Mahout http://archive.apache.org/dist/mahout/ 二、解压 tar -zxvfmahout-distribution-0.9.tar.gz 三、配置环境变量 3.1、配置Mahout环境变量 # set mahout environment export MAHOUT_HOME=/home/yujianxin/mahout/mahout-distribution-0.9 export MAHOUT_CONF_DIR=$MAHOUT_HOME/conf export PATH=$MAHOUT_HOME/conf:$MAHOUT_HOME/bin:$PATH 3.2、配置Mahout所需的Hadoop环境变量 # set hadoop environment export HADOOP_HOME=/home/yujianxin/hadoop/hadoop-1.1.2export HADOOP_CONF_DIR=$HADOOP_HOME/conf export PATH=$PATH:$HADOOP_HOME/bin export HADOOP_HOME_WARN_SUPPRESS=not_null 四、验证Mahout是否安装成功 执行命令mahout。若列出一些算法,则成功,如图: 五、使用Mahout 之入门级使用 5.1、启动Hadoop 5.2、下载测试数据 http://archive.ics.uci.edu/ml/databases/synthetic_control/链接中的synthetic_control.data 5.3、上传测试数据 hadoop fs -put synthetic_control.data/user/root/testdata 5.4 使用Mahout中的kmeans聚类算法,执行命令: mahout -core org.apache.mahout.clustering.syntheticcontrol.kmeans.Job 花费9分钟左右完成聚类 。 5.5 查看聚类结果 执行hadoop fs -ls /user/root/output,查看聚类结果。 方法二、Mahout安装与配置 Mahout是Hadoop的一种高级应用。运行Mahout需要提前安装好Hadoop。Hadoop的安装网上很多,并不复杂,这里不再讲述,接下来阐述怎么安装Mahout。1:下载二进制解压安装。到http://labs.renren.com/apache-mirror/mahout/0.7下载,我选择下载二进制包,直接解压及可。 hadoop@ubuntu:~$tar-zxvfmahout-distribution-0.7.tar.gz 2:配置环境变量:在/etc/profile,/home/hadoop/.bashrc中添加如下红色信息#set java environmentMAHOUT_HOME=/home/hadoop/mahout-distribution-0.7PIG_HOME=/home/hadoop/pig-0.9.2HBASE_HOME=/home/hadoop/hbase-0.94.3HIVE_HOME=/home/hadoop/hive-0.9.0HADOOP_HOME=/home/hadoop/hadoop-1.1.1JAVA_HOME=/home/hadoop/jdk1.7.0PATH=$JAVA_HOME/bin:$PIG_HOME/bin:$MAHOUT_HOME/bin:$HBASE_HOME/bin:$HIVE_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/conf:$PATHCLASSPATH=.:$JAVA_HOME/lib/dt.jar:$HBASE_HOME/lib:$MAHOUT_HOME/lib:$PIG_HOME/lib:$HIVE_HOME/lib:$JAVA_HOME/lib/tools.jarexport MAHOUT_HOMEexport PIG_HOMEexport HBASE_HOMEexport HADOOP_HOMEexport JAVA_HOMEexport HIVE_HOMEexport PATHexport CLASSPATH3:启动hadoop,也可以用伪分布式来测试4:mahout --help #检查Mahout是否安装完好,看是否列出了一些算法5:mahout使用准备a.下载一个文件synthetic_control.data,下载地址http://archive.ics.uci.edu/ml/databases/synthetic_control/synthetic_control.data,并把这个文件放在$MAHOUT_HOME目录下。b.启动Hadoop:$HADOOP_HOME/bin/start-all.shc.创建测试目录testdata,并把数据导入到这个tastdata目录中(这里的目录的名字只能是testdata) hadoop@ubuntu:~/$hadoopfs-mkdirtestdata# hadoop@ubuntu:~/$hadoopfs-put/home/hadoop/mahout-distribution-0.7/synthetic_control.datatestdata d.使用kmeans算法(这会运行几分钟左右) hadoop@ubuntu:~/$hadoopjar/home/hadoop/mahout-distribution-0.7/mahout-examples-0.7-job.jarorg.apache.mahout.clustering.syntheticcontrol.kmeans.Job e.查看结果 hadoop@ubuntu:~/$hadoopfs-lsroutput 如果看到以下结果那么算法运行成功,你的安装也就成功了。clusteredPoints clusters-0 clusters-1 clusters-10 clusters-2 clusters-3 clusters-4 clusters-5 clusters-6 clusters-7 clusters-8 clusters-9 data

优秀的个人博客,低调大师

TOMCAT部署

# java下载地址:https://www.oracle.com/technetwork/java/javase/downloads/index.html [root@kazihuo ~]# mkdir -pv /usr/java [root@kazihuo ~]# tar -axvf jdk-8u151-linux-x64.tar.gz -C /usr/java/ [root@kazihuo ~]# vim /etc/profile.d/java.sh #创建文件并添加以下信息; JAVA_HOME=/usr/java/jdk1.8.0_151 PATH=$JAVA_HOME/bin:$PATH CLASSPATH=$JAVA_HOME/jre/lib/ext:$JAVA_HOME/lib/tools.jar export PATH JAVA_HOME CLASSPATH [root@kazihuo ~]# source /etc/profile.d/java.sh [root@kazihuo ~]# java -version java version "1.8.0_151" Java(TM) SE Runtime Environment (build 1.8.0_151-b12) Java HotSpot(TM) 64-Bit Server VM (build 25.151-b12, mixed mode) JAVA_HOME=/usr/java/jdk1.7.0_55 PATH=$JAVA_HOME/bin:$PATH export JAVA_HOME [root@kazihuo ~]# wget -P /usr/local/http://mirrors.tuna.tsinghua.edu.cn/apache/tomcat/tomcat-8/v8.5.24/bin/apache-tomcat-8.5.24.tar.gz [root@kazihuo /usr/local]# tar -axvf apache-tomcat-8.5.24.tar.gz CATALINA_BASE=/usr/local/tomcat PATH=$CATALINA_BASE/bin:$PATH export CATALINA_BASE ------------------------------------------------------------- 作者: 罗穆瑞 出处: http://www.cnblogs.com/kazihuo/ 转载请保留此段声明,且在文章页面明显位置给出原文链接,谢谢! ------------------------------------------------------------------------------ 如果觉得这篇文章对你有小小的帮助的话,记得在右下角点个“推荐”哦,博主在此感谢! ------------------------------------------------------------------------------

优秀的个人博客,低调大师

Zabbix部署

Zabbix框架 server端:zabbix-server zabbix-server-mysql zabbix-get web端:zabbix-web zabbix-web-mysql agent端:zabbix-sender zabbix-agent 前提: 配好本地yum源,以便安装时自动解决依赖 环境: server:192.168.10.11 agent:192.168.10.12 mysql:192.168.10.10 配置本地域名解析 # cat /etc/hosts 192.168.10.11 node1.kazihuo.com node1 192.168.10.12 node2.kazihuo.com node2 配置HOSTNAME [root@node1 ~]# cat /etc/sysconfig/network node1.kazihuo.com [root@node1 ~]# cat /etc/hostname node1.kazihuo.com [root@node2 ~]# cat /etc/sysconfig/network node2.kazihuo.com [root@node2 ~]# cat /etc/hostname node2.kazihuo.com 说明: 因虚拟机环境有限,故zabbix-server也作为一台zabbix-agent使用,当其需要监控起来时要按照agent端进行配置,及修改对应的zabbix_agent.conf文件! 服务端配置: # wget https://mirrors.aliyun.com/zabbix/zabbix/3.4/rhel/7/x86_64/zabbix-release-3.4-2.el7.noarch.rpm # yum -y install zabbix-release-3.2-1.el7.noarch.rpm # yum -y install zabbix zabbix-server zabbix-server-mysql zabbix-get zabbix-web zabbix-web-mysql zabbix-agent #安装完成后自动生成以下目录及文件 [root@node1 /etc/zabbix]# tree . ├── web │ └── maintenance.inc.php ├── zabbix_agentd.conf ├── zabbix_agentd.d │ └── userparameter_mysql.conf └── zabbix_server.conf 2 directories, 4 files [root@node1 /etc/httpd/conf.d]# ls zabbix.conf [root@node1 /usr/share/doc/zabbix-server-mysql-3.2.10]# ls AUTHORS ChangeLog COPYING create.sql.gz NEWS README [root@node1]# mysql -uroot -p<root_password> mysql> create database zabbix character set utf8 collate utf8_bin; mysql> grant all privileges on zabbix.* to zabbix@'%' identified by 'zabbix'; [root@node1]# zcat /usr/share/doc/zabbix-server-mysql-3.2.*/create.sql.gz | mysql -uzabbix -p zabbix [root@node1 ~]# cat /etc/zabbix/zabbix_server.conf|grep DB DBName=zabbix DBUser=zabbix DBHost=192.168.10.10 DBPassword=000000 [root@node1 ~]# cat /etc/php.ini [zabbix] php_value max_execution_time 300 php_value memory_limit 128M php_value post_max_size 16M php_value upload_max_filesize 2M php_value max_input_time 300 php_value always_populate_raw_post_data -1 # php_value date.timezone Europe/Riga date.timezone = Asia/Shanghai #此配置也可在zabbix_server.conf的配置文件中配置,默认以包含,根据需求修改时区即可 [root@node1 ~]# systemctl start httpd.service [root@node1 ~]# systemctl start zabbix-server 客户端配置: [root@node2 ~]# yum -y install zabbix-sender zabbix-agent [root@node2 ~]# cat /etc/zabbix/zabbix_agentd.conf PidFile=/var/run/zabbix/zabbix_agentd.pid LogFile=/var/log/zabbix/zabbix_agentd.log LogFileSize=0 Server=192.168.10.11 ListenPort=10050 ServerActive=192.168.10.11 Hostname=node2.kazihuo.com [root@node2 ~]# systemctl start zabbix-agent 页面初始化 # 浏览器输入192.168.10.11/zabbix ,进入欢迎页面 # 检查所需插件是否OK # 配置zabbix连接的数据库 # 细节设置 # 安装完成 # zabbix初始化页面设置后生成对应的配置文件:/etc/zabbix/web/zabbix.conf.php # 默认的登录名及密码:Admin/zabbix ------------------------------------------------------------- 作者: 罗穆瑞 出处: http://www.cnblogs.com/kazihuo/ 转载请保留此段声明,且在文章页面明显位置给出原文链接,谢谢! ------------------------------------------------------------------------------ 如果觉得这篇文章对你有小小的帮助的话,记得在右下角点个“推荐”哦,博主在此感谢! ------------------------------------------------------------------------------

优秀的个人博客,低调大师

docker部署

环境:ubuntu-14.04.4-server-amd64 1、更换阿里云源 备份源配置文件: $ sudo cp /etc/apt/sources.list /etc/apt/sources.list_backup $ sudo vim /etc/apt/sources.list 删除文件内容,更新为: deb http://mirrors.aliyun.com/ubuntu trusty main restricted deb-src http://mirrors.aliyun.com/ubuntu trusty main restricted ## Major bug fix updates produced after the final release of the ## distribution. deb http://mirrors.aliyun.com/ubuntu trusty-updates main restricted deb-src http://mirrors.aliyun.com/ubuntu trusty-updates main restricted ## N.B. software from this repository is ENTIRELY UNSUPPORTED by the Ubuntu ## team. Also, please note that software in universe WILL NOT receive any ## review or updates from the Ubuntu security team. deb http://mirrors.aliyun.com/ubuntu trusty universe deb-src http://mirrors.aliyun.com/ubuntu trusty universe deb http://mirrors.aliyun.com/ubuntu trusty-updates universe deb-src http://mirrors.aliyun.com/ubuntu trusty-updates universe ## N.B. software from this repository is ENTIRELY UNSUPPORTED by the Ubuntu ## team, and may not be under a free licence. Please satisfy yourself as to ## your rights to use the software. Also, please note that software in ## multiverse WILL NOT receive any review or updates from the Ubuntu ## security team. deb http://mirrors.aliyun.com/ubuntu trusty multiverse deb-src http://mirrors.aliyun.com/ubuntu trusty multiverse deb http://mirrors.aliyun.com/ubuntu trusty-updates multiverse deb-src http://mirrors.aliyun.com/ubuntu trusty-updates multiverse ## N.B. software from this repository may not have been tested as ## extensively as that contained in the main release, although it includes ## newer versions of some applications which may provide useful features. ## Also, please note that software in backports WILL NOT receive any review ## or updates from the Ubuntu security team. deb http://mirrors.aliyun.com/ubuntu trusty-backports main restricted universe multiverse deb-src http://mirrors.aliyun.com/ubuntu trusty-backports main restricted universe multiverse deb http://security.ubuntu.com/ubuntu trusty-security main restricted deb-src http://security.ubuntu.com/ubuntu trusty-security main restricted deb http://security.ubuntu.com/ubuntu trusty-security universe deb-src http://security.ubuntu.com/ubuntu trusty-security universe deb http://security.ubuntu.com/ubuntu trusty-security multiverse deb-src http://security.ubuntu.com/ubuntu trusty-security multiverse 执行如下命令刷新: $ sudo apt-get clean $ sudo apt-get update 2、检查内核版本: $ uname -r 4.2.0-27-generic 3、更新包信息确保APT工作于https模式并且安装好CA证书: $ sudo apt-get update $apt-get install apt-transport-https ca-certificates 4、增加一个新GPG密钥: $ sudo apt-key adv --keyserver hkp://p80.pool.sks-keyservers.net:80 --recv-keys 58118E89F3A912897C070ADBF76221572C52609D 5、新建docker.list文件并加入相关内容: $ sudo vim /etc/apt/sources.list.d/docker.list deb https://apt.dockerproject.org/repo ubuntu-trusty main 更新APT软件包索引: $ atp-get update 假如存在旧的repo则清除: $ apt-cache policy docker-engine 验证APT是否从正确的库中获取: $ apt-get purge lxc-docker 此命令下载一个测试图像并运行于一个容器中,它将打印一份欣喜然后自动退出。 6、安装linux-image-extra kernel package $ sudo apt-get update $ sudo apt-get install linux-image-extra-$(uname -r) 检查是否有安装apparmor $ whereis apparmor 没有的话 $ apt-get install -y apparmor $ sudo reboot 7、进入docker安装阶段 $ sudo apt-get update 安装docker $ sudo apt-get install docker-engine 启动docker服务 $ sudo service docker start 验证docker安装是否OK $ sudo docker run hello-world 8、创建一个docker组并加入当前用户 $ sudo usermod -aG docker ubuntu 验证 $ docker run hello-world 9、调整内存和交换分区 当运行docker出现如下报错: WARNING: Your kernel does not support cgroup swap limit. WARNING: Your kernel does not support swap limit capabilities. Limitation discarded. 需要做如下操作: $ sudo vim /etc/default/grub 设置GRUB_CMDLINE_LINUX="cgroup_enable=memory swapaccount=1" $ sudo update-grub $ sudo reboot 10、开启UFW转发 检查UFW是否安装并启动 $ sudo ufw status $ sudo vim /etc/default/ufw 设置DEFAULT_FORWARD_POLICY="ACCEPT" 重启UFW服务并使用新的配置 $ sudo ufw reload 放行2375端口 $ sudo ufw allow 2375/tcp 11、配置DNS服务器 当用台式机启动容器时报错: WARNING: Local (127.0.0.1) DNS resolver found in resolv.conf and containers can't use it. Using default external servers : [8.8.8.8 8.8.4.4] $ sudo vim /etc/default/docker 设置DOCKER_OPTS="--dns 8.8.8.8 --dns 8.8.4.4" 重启docker守护进程 $ sudo restart docker 关闭dnsmasq $ sudo vim /etc/NetworkManager/NetworkManager.conf 注释掉dns=dnsmasq 保存后重启NetworkManager和Docker $ sudo restart network-manager $ sudo restart docker 12、Ubuntu14.04.4版本安装docker后会将其服务设为开机自启动。 升级docker $ sudo apt-get upgrade docker-engine 卸载docker包 $ sudo apt-get purge docker-engine $ sudo apt-get autoremove --purge docker-engine 删除镜像、容器、卷 $ rm -rf /var/lib/docker 同时你需要手动删除用户生成的配置文件,此略!!!

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

用户登录
用户注册