《R语言数据挖掘》——2.6 高性能算法-低调大师

《R语言数据挖掘》——2.6 高性能算法

2017-05-01 604

本节书摘来自华章出版社《R语言数据挖掘》一书中的第2章，第2.6节，作者［哈萨克斯坦］贝特·麦克哈贝尔（Bater Makhabel），李洪成许金炜段力辉译，更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.6　高性能算法

伴随着数据集规模的增长，对高性能关联/模式挖掘算法的要求也随之增加。
随着Hadoop和其他类MapReduce平台的提出，满足这些需求成为可能。相关内容将于后续章节中进行介绍。根据数据集的大小，可以对某些算法进行调整以防止算法循环调用导致的栈空间不足问题，这也给我们将这些算法转化到MapReduce平台时带来了挑战。

微信关注我们

原文链接：https://yq.aliyun.com/articles/89752

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

揭秘 IFTTT 每天处理几十亿事件数据的基础结构

揭秘 IFTTT 每天处理几十亿事件数据的基础结构数据对于IFTTT至关重要。我们的 BD 和营销团队依靠数据来做出关键的业务决策。产品团队依靠数据来测试来了解用户是如何时候我的产品的，以做产品决策。数据团队本身依靠数据建立产品，比如Recipe推荐系统和垃圾邮件检测工具。此外，我们的合作伙伴依靠数据来实时获取Channels的性能。因为数据对于IFTTT如此关键，并且我们的服务每天处理几十亿事件，所以我们的数据基础设施必须具有高可扩展性、可用性的和弹性，以便跟上产品的快速迭代。在这篇文章中我们将带你浏览数据基础设施和架构，也会分享一些我们在构建和操作数据的收获。数据来源在IFTTT有三种数据来源，对于理解用户的行为和Channels的效率至关重要。第一，在 AWS RDS 有一个 MySQL 集群，用来维护应用的基本内容的当前状态，比如用户、Channels和Recipes，包括他们的关系。IFTTT.com 和移动应用靠 Rails 应用支撑。获得数据并导出到S3，每天用AWS Data Pipline导入到Redshift。接下来，像用户与 IFTTT 产品的交互数据...

2017-05-02

564

本文翻译自官方博客，略有添加：https://github.com/mesos/spark/wiki/Spark-Programming-Guide，谢谢师允tx的校正。希望能够给希望尝试Spark的朋友，带来一些帮助。目前的版本是0.5.0 Spark开发指南从高的层面来看，其实每一个Spark的应用，都是一个Driver类，通过运行用户定义的main函数，在集群上执行各种并发操作和计算 Spark提供的最主要的抽象，是一个弹性分布式数据集(RDD)，它是一种特殊集合，可以分布在集群的节点上，以函数式编程操作集合的方式，进行各种各样的并发操作。它可以由hdfs上的一个文件创建而来，或者是Driver程序中，从一个已经存在的集合转换而来。用户可以将数据集缓存在内存中，让它被有效的重用，进行并发操作。最后，分布式数据集可以自动的从结点失败中恢复，再次进行计算。 Spark的第二个抽象，是并行计算中使用的共享变量。默认来说，当Spark并发运行一个函数时，它是以多个的task，在不同的结点上运行，它传递每一个变量的一个拷贝，到每一个独立task使用到的函数中，因此这些变量并非共享的。然而...

2017-05-02

605

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。