自建Hive数据仓库跨版本迁移到阿里云E-MapReduce-低调大师

自建Hive数据仓库跨版本迁移到阿里云E-MapReduce

2020-01-07 690

最佳实践概述

应用场景

客户在IDC或者公有云环境自建Hadoop集群，数据集中保存在HDFS文件系统，同时借助Hive进行常见的ETL任务。客户在决策上云之后，会将自建Hadoop集群的数据迁移到阿里云自建Hadoop或者EMR。

技术架构

本实践方案基于如下图所示的技术架构和主要流程编写操作步骤。

方案优势

易用性
您可以简单选择所需ECS机型（CPU、内存）与磁盘，并选择所需的软件，进行自动化部署。
经济性
您可以按需创建集群，即离线作业运行结束就可以释放集群，还可以在需要时动态地增加节点。
深度整合
E-MapReduce与阿里云其它产品（例如，OSS、MNS、RDS 和 MaxCompute 等）进行了深度整合，支持以这些产品作为Hadoop/Spark计算引擎的输入源或者输出目的地。
安全
E-MapReduce整合了阿里云RAM资源

微信关注我们

原文链接：https://yq.aliyun.com/articles/742076

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

如何在系统内直接抓容器的网络报文

排查过很多次pod网络有问题的场景，一直没太弄明白，pod内的网络报文怎么抓，今天遇到一个liveness健康检查失败的问题，liveness是kubelet去访问pod（发生get请求）来确认的，那么对应的访问日志在pod内是可以看到的，因此可以尝试抓包排查，但是pod并不能简简单单的使用tcpdump抓包即可，docker/kubectl cp 一个tcpdump进去也不好使，那么，pod内的包怎么抓呢？容器的网络隔离使用的是linux的network namespace ，因此我们到对应的ns里面抓包即可，下面演示1.查看指定 pod 运行在哪个宿主机上拿到宿主机的信息，然后登陆上去 cn-shenzhen.192.168.0.178 # kubectl get pods -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE busybox-5fc755d7d9-nc8bz 1/1 Running 2 5d5h 172.20.2.21 cn-shenzhen.192.168.0.178 <none>...

2020-01-08

616

云栖号：https://yqh.aliyun.com第一手的上云资讯，不同行业精选的上云企业案例库，基于众多成功案例萃取而成的最佳实践，助力您上云决策！ AI技术发展的三大支柱：“算法＋大数据＋计算能力”，算法是人工智能发展的核心关键之一，很多技术环节和系统功能的实现都依赖于算法的精准度，算法的优劣直接影响了人工智能的发展方向。那么我们当下感受到的人工智能生活服务，运用了哪些AI算法呢？跟随OFweek编辑一起来看看吧。 1．人工神经网络人工神经网络（ANN）以大脑处理机制作为基础，开发用于建立复杂模式和预测问题的算法。该类型算法在语音、语义、视觉、各类游戏等任务中表现极好，但需要大量数据进行训练，且训练要求很高的硬件配置。 ANN在图像和字符识别中起着重要的作用，手写字符识别在欺诈检测甚至国家安全评估中有很多应用。ANN 的研究为深层神经网络铺平了道路，是「深度学习」的基础，现已在计算机视觉、语音识别、自然语言处理等方向开创了一系列令人激动的创新。 2．决策树在机器学习中，决策树是一个预测模型，他代表的是对象属性与对象值之间的一种映射关系。其采用一种树形结构，其中每个内部节点表示...

2020-01-08

621

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。