首页 文章 精选 留言 我的

精选列表

搜索[linux],共10000篇文章
优秀的个人博客,低调大师

linux内核中的服务器模式

广义上讲,内核本身就是一个服务器,为所有的用户模式进程提供服务,但是狭义上讲只有在真的有请求的时候内核采取的对策才叫做服务,比如注册-执行模式下的time以及hrtimer等等,用户空间的程序或者内核空间的执行绪可以随意注册一个timer之后就不管了,timer到期以后内核会执行之,这就相当于timer的创建者请求了内核的一项服务,就是执行timer,不光是这个,在内核中处处都是服务执行者,比如工作队列,软中断...我们可以看到的是,所有这些几乎都是使用一个全局的链表,服务的请求者创建请求之后只需要将请求插入这个全局的链表就可以了,而内核执行的方式往往是串行的执行,也就是遍历链表的请求,一个接一个的执行,这个服务方式和用户空间的大大不同。 在用户空间中,服务器的架构方式多种多样,比如多线程,多进程,消息映射等等,为何在内核不用这些方式呢?首先看一下用户空间的这些方式的机制是谁提供的,正是内核本身,内核是什么,现代的内核就是提供多个多线程的用户上下文,然而谁为内核提供这些机制呢?除非有了专有的硬件,这只是其一,另外,内核的原则就是怎样效率高就怎样,其实内核中也是可以创建线程的,比如内核线程,但是对一些小的请求创建一个线程将是一笔很大的开销,并且没有人为之买单,用户空间的每请求一线程的服务方式可以让内核进行优化,如果该操作系统实在不适合每请求一线程那么可以尝试使用多进程模型,apache的mpm就是这么做的,但是在内核中有必要搞得这么花哨吗?硬件几乎不会用不同的策略来适应软件,因此一切都要内核自己来权衡。在用户空间,并发量是不确定的,负载也不确定,确定的是峰值,比如再好的PC也不适合单独做web服务器,这是因为有系统内核和硬件在下面兜着呢,到了内核,一切变得没有了底线,如果谁触底了,那么这个系统内核将被淘汰,这样的情况对于硬件也是显然的,应用程序可以设计出自己独特的架构以适应需求,往往操作系统内核可以以不同的方式去提供这种支撑,如果内核本身也设计出了独特的架构,硬件往往不会委屈自己去适应内核,毕竟内核也是一个服务者,一切都要听应用的,顾客就是上帝,应用程序是终极顾客,虽然内核相对于硬件也是顾客,但是这个顾客的权力被应用程序削弱了很多。 本文转自 dog250 51CTO博客,原文链接:http://blog.51cto.com/dog250/1273353

优秀的个人博客,低调大师

解决linux下网络丢包问题处理

最近业务上老有问题,查看发现overruns值不断增加,学习了一下相关的知识。 发现数值也在不停的增加。G 了一下,发现这些 errors, dropped, overruns 表示的含义还不大一样。 eth2 Link encap:Ethernet HWaddr 00:8C:FA:F1:DA:78 inet addr:10.249.2.112 Bcast:10.249.2.255 Mask:255.255.255.0 UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 RX packets:26191508237 errors:0 dropped:0 overruns:45732243 frame:0 TX packets:20141298524 errors:0 dropped:0 overruns:0 carrier:0 collisions:0 txqueuelen:1000 RX bytes:4684832167216 (4.2 TiB) TX bytes:4670328443919 (4.2 TiB) Memory:c7200000-c7280000 RX errors: 表示总的收包的错误数量,这包括 too-long-frames 错误,Ring Buffer 溢出错误,crc 校验错误,帧同步错误,fifo overruns 以及 missed pkg 等等。 RX dropped: 表示数据包已经进入了 Ring Buffer,但是由于内存不够等系统原因,导致在拷贝到内存的过程中被丢弃。 RX overruns: 表示了 fifo 的 overruns,这是由于 Ring Buffer(aka Driver Queue) 传输的 IO 大于 kernel 能够处理的 IO 导致的,而 Ring Buffer 则是指在发起 IRQ 请求之前的那块 buffer。很明显,overruns 的增大意味着数据包没到 Ring Buffer 就被网卡物理层给丢弃了,而 CPU 无法即使的处理中断是造成 Ring Buffer 满的原因之一,上面那台有问题的机器就是因为 interruprs 分布的不均匀(都压在 core0),没有做 affinity 而造成的丢包。 RX frame: 表示 misaligned 的 frames。 1、先查看硬件情况 一台机器经常收到丢包的报警,先看看最底层的有没有问题: # ethtool eth2 | egrep 'Speed|Duplex' Speed: 1000Mb/s Duplex: Full # ethtool -S eth2 | grep crc rx_crc_errors: 0 Speed, Duplex, CRC 之类的都没问题,基本可以排除物理层面的干扰。 2、通过 ifconfig 可以看到 overruns 字段在不停的增大: for i in `seq 1 100`; do ifconfig eth2 | grep RX | grep overruns; sleep 1; done 这里一直增加 RX packets:26191785302 errors:0 dropped:0 overruns:45732243 frame:0 3、查看buffer大小 找了一些国外的文章,可以通过ethtool来修改网卡的buffer size ,首先要网卡支持,我的服务器是是INTEL 的1000M网卡,我们看看ethtool说明 -g –show-ringQueries the specified ethernet device for rx/tx ring parameter information. -G –set-ringChanges the rx/tx ring parameters of the specified ethernet device. 查看当前网卡的buffer size情况ethtool -g eth0 Ring parameters for eth0: Pre-set maximums: RX: 4096RX Mini: 0 RX Jumbo: 0 TX: 4096 Current hardware settings: RX: 256 RX Mini: 0 RX Jumbo: 0 TX: 256 4、修改buffer size大小 ethtool -G eth2 rx 2048 ethtool -G eth2 tx 2048 查看丢包 [root@appserver1 network-scripts]# cat /proc/net/dev | column -t Inter-| Receive | Transmit face |bytes packets errs drop fifo frame compressed multicast|bytes packets errs drop fifo colls carrier compressed lo:1697064305645 4937104295 0 0 0 0 0 0 1697064305645 4937104295 0 0 0 0 0 0 eth0:72829268758 343814516 0 21338 0 0 0 9764241 74743576507 418943369 0 0 0 0 0 0 eth1:5826509023 48719872 0 0 0 0 0 11358883 127451707 1107964 0 0 0 0 0 0 eth2:4684766978372 26191366713 0 0 45732243 0 0 278436828 4670300836866 20141168183 0 0 0 0 0 0 eth3: 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 bond0: 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 [root@appserver1 network-scripts]# netstat -i | column -t Kernel Interface table Iface MTU Met RX-OK RX-ERR RX-DRP RX-OVR TX-OK TX-ERR TX-DRP TX-OVR Flg eth2 1500 0 26191244868 0 0 45732243 20141056331 0 0 0 BMRU lo 16436 0 4937053994 0 0 0 4937053994 0 0 0 LRU 问题:接受队列溢出产生错误,当抵达的包多于内核可以处理的包时,计算机会产生漫溢(overruns)。输入队列达到其上限(max_backlog)时,多抵达的那些包会全部被丢弃掉。

优秀的个人博客,低调大师

Linux的企业-Hadoop的多节点配置

一.配置环境 redhat6.5 server1 172.25.29.1 hadoop master nfs server2 172.25.29.2 nfs server3 172.25.29.3 nfs server4 172.25.29.4 nfs server5 172.25.29.5 高可用备机 nfs 使用 nfs 共享同步配置文件 二.Hadoop单点配置 1.安装hadoop和jdk 使用hadoop用户运行 2.配置hadoop在java上的运行环境 3.算法模块测试 output生成的数据 4.配置单点hadoop 5.给hadoop设置用户密码,设置主机之间免密 6.设置储存节点为1个 7.格式化hdfs 8.启动hadoop 9.设置查看进程的java的命令jps的运行路径 10.查看节点运行状态,测试 11.以文本模式查看结果 创建目录 四.多节点hadoop配置 使用 nfs 共享同步配置文件 1.server1配置nfs服务 2.在server2至server5安装nfs,并新建hadoop用户,并启动rpcbind 3.建立主机之间免密 4.hadoop集群配置 5.格式化hdfs 6.启动hadoop集群 查看节点2,3和状态 7.登陆web 172.25.29.1:50070 8.启动集群管理资源模块 本文转自一百个小排 51CTO博客,原文链接:http://blog.51cto.com/anfishr/1975948,如需转载请自行联系原作者

优秀的个人博客,低调大师

linux安装lrzsz实现上传下载

lrzsz官网 https://ohse.de/uwe/software/lrzsz.html 下载 lrzsz-0.12.20.tar.gz 上传到/usr/local目录下 tar zxvf lrzsz-0.12.20.tar.gz 进入到lrzsz-0.12.20目录 配置安装路径 ./configure --prefix=/usr/local/lrzsz 编译 make 安装 make install 上面安装过程安装到在 /usr/local/lrzsz 路径下,但是不能使用,下面创建软链接,并命名为rz/sz cd /usr/bin ln -s /usr/local/lrzsz/bin/lrz rz ln -s /usr/local/lrzsz/bin/lsz sz (如果/usr/bin下已存在,删除,一般情况下刚买的ECS实例是没有的) 执行上传 rz 执行下载 sz filename 邮箱:ithelei@sina.cn GoodLuck

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册