MaxCompute上你从未体验过的数据分析和机器学习过程-低调大师

MaxCompute上你从未体验过的数据分析和机器学习过程

2016-09-08 731

在MaxCompute上，大家有很多种分析和机器学习的方式。大家可以用在数加的web界面编写SQL，提交SQL作业；可以用console直接执行SQL，等等等。那机器学习呢，大家需要通过PAI命令提交PAI任务，或者在xlab上操作xlib；画图呢？导出数据绘图或者使用xlab。而这一切工具，都是割裂的，你不得不在各个地方进行切换，而且，也没有传统的数据分析和机器学习的快感。

那传统的任务是怎么做的呢，使用RStudio或者jupyter notebook（前身是ipython notebook），R我不熟，但对于Pythoner，用pandas进行数据分析、绘图，再用scikit-learn执行机器学习算法，在一个notebook里，能做所有想做的事情，非常高效。

现在呢，整合这一切的就是PyODPS，我们包含有基础MaxCompu

微信关注我们

原文链接：https://yq.aliyun.com/articles/60282

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Spark会把数据都载入到内存么？

前言很多初学者其实对Spark的编程模式还是RDD这个概念理解不到位，就会产生一些误解。比如，很多时候我们常常以为一个文件是会被完整读入到内存，然后做各种变换，这很可能是受两个概念的误导： RDD的定义，RDD是一个分布式的不可变数据集合 Spark 是一个内存处理引擎如果你没有主动对RDDCache/Persist,它不过是一个概念上存在的虚拟数据集，你实际上是看不到这个RDD的数据的全集的(他不会真的都放到内存里)。 RDD的本质是什么一个RDD 本质上是一个函数，而RDD的变换不过是函数的嵌套。RDD我认为有两类：输入RDD,典型如KafkaRDD,JdbcRDD 转换RDD，如MapPartitionsRDD 我们以下面的代码为例做分析： sc.textFile("abc.log").map().saveAsTextFile("") textFile 会构建出一个NewHadoopRDD, map函数运行后会构建出一个MapPartitionsRDD saveAsTextFile触发了实际流程代码的执行所以RDD不过是对一个函数的封装，当一个函数对数据处理完成后，我...

2016-09-09

642

开始安装，输入主机名字，然后选择私钥。注意java_home那里需要改为/usr/jdk64/jdk1.6.0_31，然后点击确认，它会出一个警告提示，别管他就行。等待安装完毕之后，就会出现成功的提示，下面出现黄字的，查看一下warning，除了有mysql账户的问题之外，别的都要处理掉，否则安装过程会出问题的。搞定了，要再检查一遍！关闭它，然后进入下一步。全选吧，都要，然后进入下一步，哈哈！因为是小集群，所以我就随便弄了，实际上不能这么搞的，然后点下一步。在HDFS这一页的高级设置里面，找到这个参数，我设置为2，也可以设置成1，但是不能大于前面设置的datanode的数量，比如我只有两个datanode，我就不能设置为2分，否则会出错的。把这个安全认证也禁用了，否则用api访问的时候会说没权限的。在HIVE页签点击下一步，下一步，进入安装过程的等待界面，如下：成功安装的界面，之后在主界面查看如下，全是绿的，行情一片大好啊！注意：ambari-server和ambari-agent不会开机启动，ambari-server是通过ambari-agent来控制每一台机...

2016-09-09

595

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。