大数据打造你的变美频道——数加平台上小红唇的大数据实践

2017-03-12 693

在2017在线峰会——票选最美云上大数据暨大数据技术峰会上，来自小红唇的王洋分享了数加平台上小红唇的大数据实践。他对数据仓储解决方案和搜索引擎进行了详细介绍。通过算法平台应用的基于视频元信息的回归、近义词、业务总线三个案例具体介绍了数加平台的大数据应用实践。

以下内容根据直播视频整理而成。

小红唇App

小红唇App是国内最大的一款针对15-25岁年轻女性的垂直视频分享社区和社交化电商平台。其为用户提供了丰富的平台内容、活跃的社区生态和优质的产品选择。用一句话概括小红唇业务模式为短视频美妆社区电商。

数据仓库

小红唇App的数据来源主要为两个方面：业务服务器产生的API日志，代表着用户的各种行为数据；服务器产生的各种交易数据，比如用户发的帖子、买的东西。用户行为日志是通过阿里云的datahub组件把API日志采集到MaxCompute平

微信关注我们

原文链接：https://yq.aliyun.com/articles/72250

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

hadoop+eclipse+windows7操作HDFS遇到的问题

在网上参考了一些资料，配置windows7系统上远程访问HDFS集群，包括添加系统变量$HADOOP_HOME\、$HADOOP_USER，配置环境变量$HADOOP_HOME\bin，其中bin目录下有hadoop.dll、winutils.exe等程序，这些是从网上找的，但是在eclipse中运行程序遇到了一个问题，程序代码如下： public class App { public static void main( String[] args ) { Configuration conf = new Configuration(); try { FileSystem fs = FileSystem.get(conf); fs.copyFromLocalFile(new Path("D:\\testhdfs.txt"), new Path("/user/hado_cli/dist")); } catch (IOException e) { e.printStackTrace(); System.out.println("Put file to HDFS Failed"); } tr...

2017-03-12

751

序:最近对storm平台系统进行性能检测发现偶尔会出现oncebolt向另一个twobolt发送数据后，twobolt要500毫秒后才接收到进行处理。这里简单说增大twobolt的并行度即可解决，但是究其内部原因是因为storm的通信机制所导致的问题。先介绍背景:一个拓扑的结构，spout(并行度:1)[处理性能:capacity 0.04],oncebolt(并行度:20)[处理性能:capacity 0.2],twobolt(并行度:100)[处理性能:capacity 0.6];整个拓扑就我预估最大的处理量就是一秒一千条。原文和作者一起讨论:http://www.cnblogs.com/intsmaze/p/6544017.htmll 微信：intsmaze 避免微信回复重复咨询问题，技术咨询请博客留言。最近对系统进行性能检测，统计整个storm系统中一条消息处理中各个IO耗时的时间，找出性能瓶颈。发现除了活动匹配中会有分布式锁以及大量的redis的IO操作，导致最多会耗时30ms,以及从Hbase中查询数据时由于hbase集群当时正在跑任务导致耗时1~2s。唯一出现的问题就...

2017-03-13

679

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。

大数据打造你的变美频道——数加平台上小红唇的大数据实践

小红唇App

数据仓库

hadoop+eclipse+windows7操作HDFS遇到的问题

storm1.0节点间消息传递过久分析及调优

相关文章

发表评论

资源下载

腾讯云软件源

Spring

Sublime Text

WebStorm

欢迎您来访！