大数据打造你的变美频道——数加平台上小红唇的大数据实践

2017-03-12 607 89

在2017在线峰会——票选最美云上大数据暨大数据技术峰会上，来自小红唇的王洋分享了数加平台上小红唇的大数据实践。他对数据仓储解决方案和搜索引擎进行了详细介绍。通过算法平台应用的基于视频元信息的回归、近义词、业务总线三个案例具体介绍了数加平台的大数据应用实践。

以下内容根据直播视频整理而成。

小红唇App

小红唇App是国内最大的一款针对15-25岁年轻女性的垂直视频分享社区和社交化电商平台。其为用户提供了丰富的平台内容、活跃的社区生态和优质的产品选择。用一句话概括小红唇业务模式为短视频美妆社区电商。

数据仓库

小红唇App的数据来源主要为两个方面：业务服务器产生的API日志，代表着用户的各种行为数据；服务器产生的各种交易数据，比如用户发的帖子、买的东西。用户行为日志是通过阿里云的datahub组件把API日志采集到MaxCompute平

微信关注我们

原文链接：https://yq.aliyun.com/articles/72250

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2017-03-13 00:00:00

hadoop+eclipse+windows7操作HDFS遇到的问题

在网上参考了一些资料，配置windows7系统上远程访问HDFS集群，包括添加系统变量$HADOOP_HOME\、$HADOOP_USER，配置环境变量$HADOOP_HOME\bin，其中bin目录下有hadoop.dll、winutils.exe等程序，这些是从网上找的，但是在eclipse中运行程序遇到了一个问题，程序代码如下： public class App { public static void main( String[] args ) { Configuration conf = new Configuration(); try { FileSystem fs = FileSystem.get(conf); fs.copyFromLocalFile(new Path("D:\\testhdfs.txt"), new Path("/user/hado_cli/dist")); } catch (IOException e) { e.printStackTrace(); System.out.println("Put file to HDFS Failed"); } tr...

644

2017-03-14 00:00:00

storm1.0节点间消息传递过久分析及调优

序:最近对storm平台系统进行性能检测发现偶尔会出现oncebolt向另一个twobolt发送数据后，twobolt要500毫秒后才接收到进行处理。这里简单说增大twobolt的并行度即可解决，但是究其内部原因是因为storm的通信机制所导致的问题。先介绍背景:一个拓扑的结构，spout(并行度:1)[处理性能:capacity 0.04],oncebolt(并行度:20)[处理性能:capacity 0.2],twobolt(并行度:100)[处理性能:capacity 0.6];整个拓扑就我预估最大的处理量就是一秒一千条。原文和作者一起讨论:http://www.cnblogs.com/intsmaze/p/6544017.htmll 微信：intsmaze 避免微信回复重复咨询问题，技术咨询请博客留言。最近对系统进行性能检测，统计整个storm系统中一条消息处理中各个IO耗时的时间，找出性能瓶颈。发现除了活动匹配中会有分布式锁以及大量的redis的IO操作，导致最多会耗时30ms,以及从Hbase中查询数据时由于hbase集群当时正在跑任务导致耗时1~2s。唯一出现的问题就...

574

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Apache Tomcat7、8、9（Java Web服务器）

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。