《Flume日志收集与MapReduce模式》一2.3　从“Hello World”开始-低调大师

《Flume日志收集与MapReduce模式》一2.3　从“Hello World”开始

2017-05-01 562

本节书摘来自华章出版社《Flume日志收集与MapReduce模式》一书中的第2章，第2.3节，作者［美］史蒂夫·霍夫曼（Steve Hoffman）斯里纳特·佩雷拉（Srinath Perera），更多章节内容可以访问云栖社区“华章计算机”公众号查看

2.3　从“Hello World”开始

每一本技术图书都会有一个“Hello World”示例。下面是我们将会使用的配置文件：

968a0c93886b012ea39e8b02c9db4c3b2bd00bfc

这里定义了一个名为agent的代理，它有一个名为s1的源、一个名为c1的通道，以及一个名为k1的接收器。
源s1的类型为netcat，它只是打开一个Socket监听事件（每个事件一行文本）。它需要两个参数，分别是一个绑定IP与一个端口号。该示例使用0.0.0.0作为绑定地址（表示监听任何地址的Java约定）以及端口号12345。源配置还有一个名为channe

微信关注我们

原文链接：https://yq.aliyun.com/articles/107464

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Apache Spark机器学习.1.7　机器学习工作流示例

1.7　机器学习工作流示例为了进一步了解学习机器学习的工作流，在这里让我们学习一些例子。本书后续章节会研究风险建模、欺诈检测、客户视图、流失预测和产品推荐。对于诸如此类的项目，目标往往是确定某些问题的原因，或者建立一个因果模型。下面是使用工作流建立一个因果模型的一个例子。 1.检查数据结构，以确保更好地理解数据：数据是横截面数据吗？是隐含着时间信息的合并数据吗？是否使用了分类变量？ 2.检查缺失值：不知道或者忘记了一个答案可能会被记录为一个中立或特殊的类别一些变量可能有很多缺失值根据需要重新记录一些变量 3.进行一些描述性研究，开始讲故事：使用比较方法和交叉列表检查一些关键变量的变异性（标准差和方差） 4.ind变量（外生变量）的选择组：作为问题原因的候选 5.基本描述性统计：所有变量的均值、标准差和频率 6.测量工作：研究一些测量值的规模（

2017-05-02

542

《Storm技术内幕与大数据实践》一9.4 实时意图和搜索

本节书摘来异步社区《Storm技术内幕与大数据实践》一书中的第9章，第9.4节，作者：陈敏敏 , 黄奉线 , 王新春责编：杨海玲，更多章节内容可以访问云栖社区“异步社区”公众号查看。 9.4 实时意图和搜索在PC互联网时代，谷歌2005年就推出了个性化搜索服务，因为引发公众对隐私的担忧，没有太商业化，如今移动互联网时代，去哪儿、京东等电商，慢慢都推出了个性化搜索，无论消费者登录与否，通过追踪客户的搜索行为来判断其消费喜好，即便用户退出登录，也会根据Cookie、设备号等信息，给用户返回个性化的搜索内容。当然搜索引擎本身的爬虫/反爬虫等异常检测、对搜索关键字分词后进行同义词/反义词/全半角/简繁体等自动扩展以及错别字的纠正都可以在实时计算中进行数据清洗。例如，eBay应用Jetstream流处理技术，对海量的用户行为进行了实时的数据清洗。要让个性化的搜索内容更加精准，需要打通外部用户画像和不断更新着的商家的服务、商品等。在电商的搜索系统中，为了解决搜索的并发和性能，往往有内存中的实时分布式索引和硬盘中的全量索引，热门商品信息直接从内存中读取，当内存中不存在时，才从硬盘中读全量索引...

2017-05-02

511

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。