《Hadoop与大数据挖掘》——2.6　TF-IDF算法原理及Hadoop MapReduce实现-低调大师

《Hadoop与大数据挖掘》——2.6　TF-IDF算法原理及Hadoop MapReduce实现

2017-07-02 514

本节书摘来自华章计算机《Hadoop与大数据挖掘》一书中的第2章，第2.6节，作者张良均樊哲位文超刘名军许国杰周龙焦正升，更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.6　TF-IDF算法原理及Hadoop MapReduce实现

2.6.1　TF-IDF算法原理

原理：在一份给定的文件里，词频（Term Frequency，TF）指的是某一个给定的词语在该文件中出现的次数。这个数字通常会被正规化，以防止它偏向长的文件（同一个词语在长文件里可能会比在短文件里有更高的词频，而不管该词语重要与否）。逆向文件频率（Inverse Document Frequency，IDF）是一个词语普遍重要性的度量。某一特定词语的IDF可以由总文件数目除以包含该词语的文件的数目，再将得到的商取对数得到。某一特定文件内的高词语频率

微信关注我们

原文链接：https://yq.aliyun.com/articles/119238

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Facebook工程师在测试中主动干掉一个数据中心

摘要：在 @Scale 年度会议上，Facebook 工程副总裁 Jay Parikh 说，拆散一个数据中心比将其重新组装起来更容易，而该公司 SWAT（代表灾难特种武器和战术团队）团队执行的定期压力测试正让该公司软件工程师在重新组装这部分变得更好。 Jay Parikh将这项工作称为 Project Storm，始于2012年的 Sandy 飓风，Sandy 飓风威胁到了2个Facebook数据中心，虽然最终飓风没有对数据中心造成损害，但这一事件促使该公司的工程团队考虑突然损失一个或多个数据中心的情况下Facebook全球服务受到的影响。该公司召集了一个SWAT团队去寻找答案。2014年， Project Storm进行了一项真实世界的测试：干掉一个数据中心观察流量是否能顺利转移。本文转自d1net（转载）

2017-07-03

493

这年头，凡事不和大数据挂钩，都不好意思出门了。网络安全也是，但是这次不仅是挂钩这么简单，人家还是有调查数据显示两者之间的关系的。 8月，为了了解网络安全大数据分析的现状、基于网络安全应用的Apache hadoop1与网络安全大数据分析之间的关系，安全研究中心 Ponemon Institute发布了一份《大数据网络安全分析研究报告》，该研究项目由大数据公司Cloudera出资赞助。在这项研究中，Ponemon Institute采访了592位美国IT及IT安全从业人士，10位网络安全技术高管，他们所在的企业和组织都已经建立了Apache Hadoop应用。所有受访者都是某种形式的大数据分析工具的使用者，部分参与者是Apache Hadoop平台的用户。 Apache Hadoop是一套用于在由通用硬件构建的大型集群上运行应用程序的框架。它实现了Map/Reduce编程范型，计算任务会被分割成小块(多次)运行在不同的节点上。除此之外，它还提供了一款分布式文件系统(HDFS)，数据被存储在计算节点上以提供极高的跨数据中心聚合带宽。 Ponemon Institute的创始人Larry...

2017-07-03

505

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。