使用 pinpoint 进行微服务数据统计

1,关于pinpoint

Pinpoint 是用 Java 编写的 APM(应用性能管理)工具,用于大规模分布式系统。Pinpoint 提供了一个解决方案,以帮助分析系统的总体结构以及分布式应用程序的组件之间是如何进行数据互联的。

能够非常方便的查询分布式系统之间的调用。比如常用的dubbo服务,grpc服务。支持大多数的java调用框架。

pinpoint 有以下几个特点:

分布式事务跟踪,跟踪跨分布式应用的消息

自动检测应用拓扑,帮助你搞清楚应用的架构

水平扩展以便支持大规模服务器集群

提供代码级别的可见性以便轻松定位失败点和瓶颈

2,以docker方式安装

2.1,安装hbase

按照docker的方式安装hbase
hbase最新的稳定版本是:1.2.6
下载hbase dockerfile:

FROM docker.io/java:8-jre-alpine

RUN echo -e "http://mirrors.aliyun.com/alpine/latest-stable/main\n\
http://mirrors.aliyun.com/alpine/latest-stable/community" > /etc/apk/repositories


RUN apk update && apk add tzdata bash && \
    ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && \
    echo "Asia/Shanghai" > /etc/timezone


ADD hbase /opt/hbase

COPY docker-entrypoint.sh /opt/docker-entrypoint.sh
COPY replace-hostname.sh /opt/replace-hostname.sh

# REST API
EXPOSE 8080
# REST Web UI at :8085/rest.jsp
EXPOSE 8085
# Thrift API
EXPOSE 9090
# Thrift Web UI at :9095/thrift.jsp
EXPOSE 9095
# HBase's Embedded zookeeper cluster
EXPOSE 2181
# HBase Master web UI at :16010/master-status;  ZK at :16010/zk.jsp
EXPOSE 16010

VOLUME /data
WORKDIR  /opt

ENV PATH=$PATH:/opt/hbase/bin

ENTRYPOINT ["/opt/docker-entrypoint.sh"]

hbase的配置文件:

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
        <name>hbase.zookeeper.quorum</name>
        <value>hbase-docker</value>
    </property>
    <property>
        <name>hbase.rootdir</name>
        <value>file:////data/hbase</value>
    </property>
    <property>
        <name>hbase.zookeeper.property.dataDir</name>
        <value>/data/zookeeper</value>
    </property>
    <property>
        <name>hbase.master.info.bindAddress</name>
        <value>hbase-docker</value>
    </property>
    <property>
        <name>hbase.regionserver.info.bindAddress</name>
        <value>hbase-docker</value>
    </property>
</configuration>

hbase的zookeeper 配置文件:

clientPort=2181
clientPortAddress=hbase-docker
server.1=hbase-docker:2181

在启动之前要替换掉 hbase-docker 的参数,修改成docker自己的主机名称。

declare -a files=(
        '/opt/hbase/conf/hbase-site.xml'
        '/opt/hbase/conf/zoo.cfg'
)

for file in "${files[@]}"; do
        if [ -f "${file}.bak" ]; then
                cp "${file}.bak" "${file}"
        else
                cp "${file}" "${file}.bak"
        fi
        sed -i "s/hbase-docker/${HOSTNAME}/g" "${file}"
done

最后启动hbase服务:docker-entrypoint.sh

#!/bin/sh

set -e

logs_dir=/data/logs

mkdir -p $logs_dir /data/hbase /data/run

# Thrift server (background)
# Ports: 9090 API and 9095 UI
echo "hbase thrift start logging to $logs_dir/hbase-thrift.log"
hbase thrift start > $logs_dir/hbase-thrift.log 2>&1 &

# REST server (background)
# Ports: 8080 API
echo "hbase rest start logging to $logs_dir/hbase-rest.log"
hbase rest start > $logs_dir/hbase-rest.log 2>&1 &

# Master server (Foreground) that also starts the region server
# Ports: Master: 16000 API, 16010 UI; 2181 ZK;  Region: 16020 API, 16030 UI
echo "hbase master start logging to $logs_dir/hbase-master.log"
exec hbase master start 2>&1 | tee $logs_dir/hbase-master.log

只要hbase启动成功了后面的配置就简单多了。

2.2,安装collector

collector 直接从 pinpoint的下载war包,然后解压缩即可。
下载一个tomcat8的二进制,拷贝collector到ROOT下面即可。

FROM docker.io/java:8-jre-alpine

RUN echo -e "http://mirrors.aliyun.com/alpine/latest-stable/main\n\
http://mirrors.aliyun.com/alpine/latest-stable/community" > /etc/apk/repositories


RUN apk update && apk add tzdata bash && \
    ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && \
    echo "Asia/Shanghai" > /etc/timezone

ADD tomcat8 /tomcat8

COPY pinpoint-collector /tomcat8/webapps/ROOT

ENV HBASE_IP localhost
ENV HBASE_HOST hbase-name

EXPOSE 8080
EXPOSE 9994
EXPOSE 9995
EXPOSE 9996

COPY start.sh /start.sh

ENTRYPOINT ["/start.sh"]

需要特殊说明的就是环境变量参数是hbase的主机名称和ip。
hbase是通过主机名称访问的。

start.sh :

#!/bin/sh
LOGS_DIR="/data/logs"
if [ ! -d $LOGS_DIR ]; then
    mkdir -p ${LOGS_DIR}
fi
echo "${HBASE_IP} ${HBASE_HOST}" >> /etc/hosts
/tomcat8/bin/catalina.sh run  > $LOGS_DIR/tomcat.log 2>&1

要修改 pinpoint-collector/WEB-INF/classes/ 下的hbase.properties 和 pinpoint-collector.properties
两个文件中的hbase地址。

这里需要特别注意的是collector的端口一共有3个。
9994是tcp端口9995,9996是udp端口。要保证这些是通的。
在haproxy是不支持udp的。要使用其他方式如ku8-proxy等进行代理。

2.3,安装web

和安装collector类似,都放到tomcat的ROOT目录下面。

FROM docker.io/java:8-jre-alpine

RUN echo -e "http://mirrors.aliyun.com/alpine/latest-stable/main\n\
http://mirrors.aliyun.com/alpine/latest-stable/community" > /etc/apk/repositories


RUN apk update && apk add tzdata bash && \
    ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && \
    echo "Asia/Shanghai" > /etc/timezone

ADD tomcat8 /tomcat8

COPY pinpoint-web /tomcat8/webapps/ROOT

ENV HBASE_IP localhost
ENV HBASE_HOST hbase-001

COPY start.sh /start.sh
EXPOSE 8080

ENTRYPOINT ["/start.sh"]

要修改 pinpoint-collector/WEB-INF/classes/ 下的hbase.properties 和 pinpoint-web.properties
两个文件中的hbase地址。

启动脚本也是一样的。要启动hbase,
再执行 hbase shell init-hbase.txt 创建hbase表。
然后再启动collector,web就可以访问了。
docker的方式构建脚本,搭建环境还是非常的方便的。尤其是用alpine,打成的镜像都很小。

2.4,构建agent

下载 pinpoint-agent zip。然后修改启动参数:
比如将pinpoint-agent 放到了 /opt/pinpoint 目录下了。

JAVA_OPTS=" -Duser.timezone=\"Asia/Shanghai\" -Djava.awt.headless=true -Djava.net.preferIPv4Stack=true"

PINPOINT_OPTS=" -javaagent:/opt/pinpoint/pinpoint-bootstrap-*.jar -Dpinpoint.agentId=store-demo-agent01 \
    -Dpinpoint.applicationName=store-demo"

java -jar ${JAVA_OPTS} ${PINPOINT_OPTS} /opt/store-demo-*.jar

设置好pinpoint.agentId 和pinpoint.applicationName 两个参数。
再自动就可以了。

启动之前要替换pinpoint collector的ip:

sed -i -e "/profiler.collector.ip/ s/=.*/=$PINPOINT_COLLECTOR_IP/" /opt/pinpoint/pinpoint.config
sed -i -e "/profiler.collector.span.ip/ s/=.*/=$PINPOINT_COLLECTOR_IP/" /opt/pinpoint/pinpoint.config
sed -i -e "/profiler.collector.stat.ip/ s/=.*/=$PINPOINT_COLLECTOR_IP/" /opt/pinpoint/pinpoint.config
sed -i -e "/profiler.collector.tcp.ip/ s/=.*/=$PINPOINT_COLLECTOR_IP/" /opt/pinpoint/pinpoint.config

PINPOINT_COLLECTOR_IP 是collector的ip。要保证能访问 9994 的tcp,和 9995 9996 的udp端口。
否则只能注册而不能看到数据。udp端口是负责收集数据的。

3,数据收集效果

对于微服务框架来说,pinpoint还是非常的能直观的表现出调用的拓扑图。
并且开可以查看调用成功失败的情况。能实时的展示。

4,总结

本文的原文连接是: http://blog.csdn.net/freewebsys/article/details/75365049 未经博主允许不得转载。
博主地址是:http://blog.csdn.net/freewebsys

构建pinpoint的麻烦的地方在于搭建起hbase。
使用docker的方式能大大的减少搭建的工作量。hbase搭建好了,pinpoint搭建就方便多了。启动两个tomcat就行。一负责收集,一个负责web的展示。两个互不影响。

pinpoint的页面还是非常的酷炫的。对于分布式的微服务管理监控起来非常的方便。
hbase也能很好的支持海量的日志数据。算是一个比较成熟的解决方案。

项目是开源的,而且是比较友好的 Apache License 2.0 开源协议。
如果想做二次开发直接修改web 就可以改界面。

SouthEast

优秀的个人博客,低调大师

微信关注我们

原文链接:https://yq.aliyun.com/articles/138309

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

相关文章

发表评论

资源下载

更多资源
优质分享Android(本站安卓app)

优质分享Android(本站安卓app)

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle Database,又名Oracle RDBMS

Oracle Database,又名Oracle RDBMS

Oracle Database,又名Oracle RDBMS,或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统,系统可移植性好、使用方便、功能强,适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Eclipse(集成开发环境)

Eclipse(集成开发环境)

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。幸运的是,Eclipse 附带了一个标准的插件集,包括Java开发工具(Java Development Kit,JDK)。

Sublime Text 一个代码编辑器

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。