背景

操作系统：Ubuntu12.04_x64

运行业务：公司业务系统，爬虫程序，数据队列。

服务器托管在外地机房。

突然，频繁收到一组服务器ping监控不可达邮件，赶紧登陆zabbix监控系统查看流量状况。

可见流量已经达到了800M左右，肯定不正常，马上尝试SSH登陆系统，不幸的事，这种情况是很难登录系统操作的。该怎么办？

1、排查问题

第一反应是想马上切断外部网络，通过内网连接查看。可是这样一来流量就会消失，但也很难查找***源了。

于是联系机房协助解决，授权机房技术登录到系统，先通过w命令查看是否有异常用户在登录，再看看登录日志/var/log/auth.log，预料之中，日志已经清空；最后使用工具找出那个连接占用流量大，我使用了iftop工具。

机房技术给我拍了照，看到本地一直通过http方式向104.31.225.6这个ip发送数据包，而且持续不断。

那好，先把这个ip给屏蔽了试试：

iptables –A OUTPUT –d 104.31.225.6 –j DROP

哇塞！奇迹出现了，流量下去了，能正常连接了，面部逐渐露出笑容。

过一会儿，不幸的事情发生了，流量又上来了，擦！什么情况！心情顿时紧张起来。

又赶紧联系机房技术，执行上次的操作。

傻眼了，目的ip变了，这可咋搞，不可能一个个封吧！

静下心来，仔细想了下，本地向外发包，那本地肯定会有程序来发！这可咋找啊？

2、查找***源

先通过netstat工具过滤端口，查看运行的进程ID：

netstat –atup |grep 15773

什么都没有啊，再换个端口试试，同样的效果！

让机房技术观察了下连接状态，原来是短连接，会很快的释放端口，所以才看不到端口的连接状态。

正常长连接来说，可以使用lsof –i :15773这样方式找到PID，再lsof –p PID找到打开的相关文件。

我想静静~。

好吧！决定先切断外部网络，内网SSH进入系统，先找到这个发包的程序，走起！

先通过netstat –antup 查看有无开放可疑的端口或者连接。

再通过ps –ef查看有无可疑的进程。

仔细看了看，都没有发现可疑的。

难道是植入了rootkit***程序，说不好，试试看吧！

想要判断系统有没有植入了rootkit可以使用md5sum校验执行文件判断，先找个同版本操作系统，获取到这个工具执行文件的md5值，再获取可疑的工具执行文件md5值，比较两个值是否相同，如果相同说明这个工具是可信任的，如果不相同很有可能是被替换的。另外，一般工具可执行文件大小都在几十K到几百K。

其实我没有用md5方式来判断工具是否可信任，因为完全相同版本操作系统不好找，稍微有点差别，工具就有可能已被更新，md5值不同。我直接使用du –sh /bin/lsof查看，发现大小1.2M，明显有问题。

所以直接下载正常系统里的netstat、ps等工具上传到被黑的系统里使用，再将不可用的替换掉。

3、清理***程序

果然，奇迹出现了，执行ps –ef后，发下最下面有几行可疑程序。在这里，本想截图的，可惜SSH客户端给关了，没留下截图。

记忆中，大概是这样的：

pid /sbin/java.log

pid /usr/bin/dpkgd/ps –ef

pid /usr/bin/bsd-port/getty

pid /usr/bin/.sshd

看到这几个，感觉很奇怪，怎么会有个java.log的执行文件在运行呢，经过找同事核实有没有运行这样的，他们说没有，那好先杀掉并删除再说。

紧接着怎么会有我执行的命令呢，ps –ef，命令的路径不是/bin/ps，引起了我的怀疑，马上进入此目录下查看。

擦，还有几个，初步判断是工具被替换了。

还有一个怎么叫getty呢，再正常系统里面对比进程，发现没有这个。估计又是***留下的，劳资怒了，宁可错杀一百，也不放过一个！

杀掉进程，删除目录。

.sshd进程？明显很可疑，难道是ssh后门，先杀掉删除再说！

再执行ps –ef命令看下，奇怪，java.log进程又起来了，难道有自启动设置？于是到了/etc/init.d下查看，有个异常脚本，在正常系统的也没有，打开看了下，果然是启动***程序的脚本。把脚本删除，再删除一次java.log，不再出现了。

删除了/sbin/java.log文件过一会又出现了，怎么回事？估计是getty趁搞的鬼，同样清除，不再自动生成了。

好了，可以开启外网了，观察了一会网络流量不再飙升了，心情有如看到美女一样的愉快！

博客地址：http://lizhenliang.blog.51cto.com

4、事件总结

ls /usr/bin/dpkgd/   #替换的工具，系统自带的工具正常不会在这个目录下，并且也不可用

netstat lsof ps ss

/sbin/java.log  #判断是发包程序，删除后会自动生成

/usr/bin/bsd-port #判断是自动生成java.log或着后门程序

/usr/sbin/.sshd  #判断是后门程序

***代码程序下载地址：http://pan.baidu.com/s/1b3yOVW

小心，直接执行java.log可能会导致linux瞬间基本上无法连接~！

如果还有其他***程序怎么办？如果是XSS***，应用层漏洞***怎么办？

针对这些问题，从我们公司角度来说，尽量不重装系统，业务太复杂。找出***点，跑的程序多，***面多，很棘手。先这样吧！兵来将挡，水来土掩。~

让***趁机***的原因：

1. 运维对网络安全实施落实力度低

2. 没有相关安全测试人员，不能及时发现应用层漏洞

等等...

针对这次***，总结了下防护思路：

1. linux系统安装后，启用防火墙，只允许信任源访问指定服务，删除不必要的用户，关闭不必要的服务等。

2. 收集日志，包括系统日志，登录日志，程序日志等，及时发现潜在风险。

3. 针对用户登录实时收集，包括登录时间，密码重试次数以及用户执行命令记录等。

4. 对敏感文件或目录变化进行事件监控，如/etc/passwd、/etc/shadow、/web、/tmp（一般上传文件提权用）等。

5. 进程状态监控，对新增或可疑进程做好记录并通知。

6. 对上线的服务器系统、Web程序进程安全漏洞扫描。

还是那句话，没有绝对的安全，只有尽可能减少***面，提供系统防护能力。

网络安全，从我做起！