现有CDP-DC集群启用Auto-TLS-低调大师

现有CDP-DC集群启用Auto-TLS

2020-07-20 581

文档编写目的

本文主要介绍如何在现有的 CDP-DC 集群上启用 TLS 。

内容概述

1) TLS概述

2) Level-0：基础TLS/SSL配置（在CM server主机上进行）

3) Level-1：为集群启用加密

测试环境

1) CM和Cloudera Runtime版本为7.1.1

2) Redhat7.7

3) 拥有Cloudera Manager的管理员账号

4) 集群未启用Kerberos和LDAP认证

TLS概述

背景

部署了Kerberos之后，CM会提示有安全隐患，至少需要一级TLS加密。

介绍

传输层安全性（ TLS ）在 ClouderaManager 服务器和代理之间的通信中提供加密和身份验证。加密可防止通信侦听，并且身份验证有助于防止恶意服务器或代理在群集中引起问题。 Cloudera Manager 支持三种级别的 TLS 安全性，三种必须逐级配置。

级别1（好） - 此级别仅配置浏览器和ClouderaManager之间以及代理和ClouderaManager服务器之间的加密通信。请参阅仅为Cloudera Manager配置TLS加密，然后按照级别1：为Cloudera Manager代理配置TLS加密，以获取说明。 1级加密可以防止对代理和Cloudera Manager之间的通信进行窥探。
级别2（更好） - 此级别包括代理和服务器之间的加密通信，以及代理对Cloudera Manager服务器证书的强大验证。请参阅第2级：由代理配置ClouderaManager服务器的TLS验证。级别2通过验证由Cloudera Manager服务器提供的证书的信任，为代理提供额外的安全级别。
级别3（最佳） - 代理和服务器之间的加密通信。3级TLS包括代理和服务器之间的加密通信，由代理对Cloudera Manager服务器证书进行强大的验证，并使用自签名或CA签名的证书将代理验证到Cloudera Manager服务器。请参阅第3级：将代理的TLS验证配置到Cloudera Manager服务器。级别3解决了不受信任的网络场景，您需要防止群集服务器被主机上运行的不受信任的代理人欺骗。 Cloudera建议您在启用Kerberos身份验证之前，为不受信任的网络环境配置3级TLS加密。这提供了Cloudera Manager服务器和集群中经过验证的代理之间的keytab的安全通信。

Cloudera 强烈建议您在开始配置 Cloudera Manager 服务器和代理使用 TLS 之前，设置完整功能的 CDH 群集和 Cloudera Manager 。 Cloudera Manager 将继续接收端口 7180 上的 HTTP 请求（默认值），但一旦启用 TLS ，它将立即将客户端重定向到端口 7183 以进行 HTTPS 连接。

一旦配置了 3 级 TLS ，如果要添加运行代理的新主机，则必须手动部署适用于您的平台的 ClouderaManager 代理和守护程序软件包，为主机发出新的证书，配置 / etc / cloudera - scm -agent/config.ini 使用 SSL / TLS ，然后使主机联机。相反，您可以禁用 TLS 添加主机，配置 TLS 的新主机，然后重新启用适当的配置。任何一种方法都是有效的，根据您的需要。

对于运行代理的所有主机， Cloudera 建议您首先使用 Java 创建密钥库，然后使用 openSSL 导出密钥和证书以供代理或色相使用。

工具概述

Java Keytool和OpenSSL是密钥管理工具，可让您创建TLS / SSL所需的安全工件。除了下面的两个简短概述之外，有关更多信息，请参见 “ 如何为 TLS / SSL 证书和密钥转换文件编码（ DER ， JKS ， PEM ） ”。

Java Keytool

Oracle Java keytool是Oracle JDK附带的实用程序，用于创建和管理加密密钥和证书。在针对Cloudera Manager集群配置TLS / SSL的过程中，您将创建私有密钥对、密钥库、证书签名请求，并使用此软件工具创建供集群特定使用的信任库，如本指南中各个步骤所述。

Cloudera Manager TLS / SSL配置的Java Keytool要求

对于使用Java Keytool的任何步骤，请确保：

• 使用Oracle Java keytool而非OpenJDK之类的工具。

• 使用从Oracle下载的JDK或Cloudera Manager服务器主机上此默认路径中的Cloudera提供的Oracle JDK：

/usr/java/jdk1.8.0_232-cloudera/bin/jre/lib/security

• 所有步骤均使用相同版本的Java keytool。如果主机上安装了多个JDK，请设置PATH 变量，以便首先调用Oracle JDK，如本例所示：

export JAVA_HOME=/usr/java/jdk1.8.0_232-cloudera

export PATH=$JAVA_HOME/bin:$PATH

• 在任何调用-keypass 和-storepass两个选项的命令中，请使用和相同的密码。Cloudera Manager要求密钥及其密钥库使用相同的密码。

OpenSSL

OpenSSL是一种开放源代码加密和TLS / SSL工具包，自1999年成立以来已被广泛使用。与Java Keytool一样，OpenSSL允许您创建私钥，证书请求和密钥库，并提供用于验证证书的选项。

在RPC客户端和服务器通信期间，Cloudera Manager Agent主机充当Cloudera Manager Server主机的客户端。代理主机、Hue、Impala和其他基于Python的服务需要PEM格式的密钥和证书（PKCS＃8），这就是为什么以下步骤包括使用此工具转换一些JKS工件的原因。有关更多信息，请参见“如何为TLS / SSL证书和密钥转换文件编码（DER，JKS，PEM）”。

如何将自签名证书用于TLS

自签名证书不应用于生产部署。自签名证书将在密钥生成过程中创建并存储在指定的密钥库中，并且应替换为已签名证书。使用自签名证书要求生成和分发证书，并为证书建立显式信任。

但是，使用自签名证书可以轻松获取用于TLS / SSL配置的证书，并且可能适用于非生产或测试设置。有关更多信息，请参阅为手动配置加密。

在下面的命令中为您的系统替换路径，文件名，别名和其他示例。

1) 创建证书目录：

mkdir -p /opt/cloudera/security/x509/ /opt/cloudera/security/jks/

向Cloudera Manager授予对目录的访问权限，设置正确的权限，然后更改为目录：

sudo chown -R cloudera-scm:cloudera-scm /opt/cloudera/security/jkssudo umask 0700cd /opt/cloudera/security/jks

2) 生成密钥对和自签名证书，并使用与密钥库和storepass相同的密码将所有内容存储在密钥库中，如下所示。将当前主机的FQDN用于CN，以避免引发 java.io.IOException : HTTPS hostname wrong 异常。用适合您的环境的条目替换OU，O，L，ST和C的值：

keytool -genkeypair -alias cmhost -keyalg RSA -keysize 2048 -dname "cn=cm01.example.com, ou=Department,o=Company, l=City, st=State, c=US" -keypass password -keystore example.jks -storepass password

[root@ip-10-0-0-168 jks]# keytool -genkeypair -alias cmhost -keyalg RSA -keysize 2048 -dname "cn=ap-southeast-1.compute.internal, ou=ipausers,> o=Cloudera, l=Shanghai, st=Shanghai, c=CN" -keypass cloudera -keystore example.jks -storepass cloudera
Warning:The JKS keystore uses a proprietary format. It is recommended to migrate to PKCS12 which is an industry standard format using "keytool -importkeystore -srckeystore example.jks -destkeystore example.jks -deststoretype pkcs12".[root@ip-10-0-0-168 jks]#

3) 将默认的Java信任库（ cacerts ）复制到备用系统信任库（ jssecacerts ）：

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdksource /etc/profilesudo cp $JAVA_HOME/jre/lib/security/cacerts $JAVA_HOME/jre/lib/security/jssecacerts

4) 从密钥库（ example.jks ）导出证书。

keytool -export -alias cmhost -keystore example.jks -rfc -file selfsigned.cer

[root@ip-10-0-0-168 jks]# keytool -export -alias cmhost -keystore example.jks -rfc -file selfsigned.cerEnter keystore password:  Certificate stored in file <selfsigned.cer>
Warning:The JKS keystore uses a proprietary format. It is recommended to migrate to PKCS12 which is an industry standard format using "keytool -importkeystore -srckeystore example.jks -destkeystore example.jks -deststoretype pkcs12".[root@ip-10-0-0-168 jks]#

5) 将自签名证书（ selfsigned.cer ）复制到 /opt/ cloudera /security/x509/ 目录中。

cp selfsigned.cer /opt/cloudera/security/x509/cmhost.pem

6) 将公共密钥导入备用系统信任库（ jssecacerts ），以便在此计算机上使用Java运行的任何进程都将信任该密钥。Java信任库的默认密码为 changeit 。不要使用在步骤2中为密钥库创建的密码。

$ keytool -import -alias cmhost -file /opt/cloudera/security/jks/selfsigned.cer-keystore $JAVA_HOME/jre/lib/security/jssecacerts -storepass changeit
[root@ip-10-0-0-168 jks]# keytool -import -alias cmhost -file /opt/cloudera/security/jks/selfsigned.cerEnter keystore password:  Re-enter new password:Owner: CN=ap-southeast-1.compute.internal, OU=ipausers, O=Cloudera, L=Shanghai, ST=Shanghai, C=CNIssuer: CN=ap-southeast-1.compute.internal, OU=ipausers, O=Cloudera, L=Shanghai, ST=Shanghai, C=CNSerial number: 33f6581eValid from: Sun Jul 19 06:07:24 UTC 2020 until: Sat Oct 17 06:07:24 UTC 2020Certificate fingerprints:     MD5:  41:C5:94:8B:32:D2:95:67:1D:A2:12:75:6E:05:22:E0     SHA1: 8B:BE:F7:7F:75:A0:9B:55:0E:A7:6C:6E:2D:CD:32:CB:79:41:9C:EF     SHA256: 54:ED:FE:C2:FA:89:27:DC:3B:06:27:5C:EA:FB:93:2A:8B:A4:6B:27:4A:6E:13:DF:36:DB:76:E9:DE:33:10:55Signature algorithm name: SHA256withRSASubject Public Key Algorithm: 2048-bit RSA keyVersion: 3
Extensions:
#1: ObjectId: 2.5.29.14 Criticality=falseSubjectKeyIdentifier [KeyIdentifier [0000: 6F C9 8E D3 60 A8 EA 33   BB 44 01 C8 34 5C 14 B1  o...`..3.D..4..0010: E9 CF 6D 1C                                       ..m.]]
Trust this certificate? [no]:  yesCertificate was added to keystore[root@ip-10-0-0-168 jks]#

重要

在群集中的每个主机上重复此过程。

7) 重命名密钥库：

mv /opt/cloudera/security/jks/example.jks /opt/cloudera/security/jks/cmhost-keystore.jks

8) 您还可以删除证书，因为它已在步骤5中复制到相应的路径。

rm /opt/cloudera/security/jks/selfsigned.cer

9) 自签名证书设置完成。

CM配置更新

通过CM管理主页面->管理->安全

点击Enable Auto-TLS，进入Auto-TLS的配置页面

填写配置信息

点击下一步：

按照提示，登陆到Cloudera-Manager server的服务器上，然后重启Cloudera Manager Server服务。

systemctl restart cloudera-scm-server

待CM Server的服务重启后，继续使用原来的登陆端口登陆，浏览器会自动跳转到7183端口。

点击高级

点击继续前往…链接，进入到CM的主页面

从主页面可以看到，有很多过期配置。点击过期配置需要重启按钮，进行服务重启（集群和CMS服务都需要重启）

如果有更新TLS Certificates信息，则点击Rotate TLS Certificates

总结

通过Auto-TLS,可以简单的启动整个集群的TLS，减少了手工配置的复杂度。

参考：https://docs.cloudera.com/cloudera-manager/7.1.1/security-how-to-guides/topics/cm-security-how-to-obtain-server-certs-tls.html

https://blog.cloudera.com/auto-tls-in-cloudera-data-platform-data-center/

https://docs.cloudera.com/cloudera-manager/7.1.2/security-encrypting-data-in-transit/topics/cm-security-self-signed-tls.html#sg_self_signed_tls

本文分享自微信公众号 - 大数据杂货铺（bigdataGrocery）。
如有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。

微信关注我们

原文链接：https://my.oschina.net/bigdatagrocery/blog/4410122

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Netty组件之Channel注册

前言本文将分析EventLoopGroup初始化、EventLoop的选择策略以及Channel是如何通过EventLoop注册到Selector上的。一、EventLoopGroup类图概览在客户端示例代码中的中实例化了NioEventLoopGroup，接下来分析下该实例化过程。 EventLoopGroup workerGroup = new NioEventLoopGroup();Bootstrap b = new Bootstrap();b.group(workerGroup); 从以下类图结构io.netty.util.concurrent.AbstractEventExecutorGroup分支主要负责多线程任务的处理；io.netty.channel.EventLoopGroup分支主要负责Channel相关的注册。MultithreadEventExecutorGroup与MultithreadEventLoopGroup分别继承和实现了上面AbstractEventExecutorGroup和EventLoopGroup，将其负责的功能进行融合。二、构造函...

2020-07-20

778

近年来，全球开源产业链已经形成，中国企业对开源技术的接受程度也逐年增高，超八成的企业认可开源技术，国内已经应用了开源技术的企业占比达到 86.7%，开源软件人才已经成为软件企业的核心竞争力。 2020年，Linux基金会将培训落地中国，成立Linux Foundation开源软件大学（官网地址：training.linuxfoundation.cn），而由Linux Foundation开源软件大学主办的开源技术日系列活动期望能通过不同嘉宾、技术大咖的分享，让开发者深入了解开源技术，走进开源的世界。本次开源技术日将聚焦Linux基金会2020年人才培养新蓝图，以云原生、区块链两个热门行业的人才就业、开发者个人职业发展为切入点，深入剖析2020年开源人才就业环境，热门开源软件的发展现状，并详细介绍Linux基金会的多个热门国际认证。区块链被纳入新基建范围，众享比特作为Hyperledger培训合作伙伴 (HTP) & Hyperledger认证服务供应商(HCSP)将在本次活动中与大家分享Hyperledger的主要应用途径，考取认证对开发者职业的重要性。 Linux基金会授...

2020-07-20

596

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。