大数据打造你的变美频道——数加平台上小红唇的大数据实践

2017-03-12 618

在2017在线峰会——票选最美云上大数据暨大数据技术峰会上，来自小红唇的王洋分享了数加平台上小红唇的大数据实践。他对数据仓储解决方案和搜索引擎进行了详细介绍。通过算法平台应用的基于视频元信息的回归、近义词、业务总线三个案例具体介绍了数加平台的大数据应用实践。

以下内容根据直播视频整理而成。

小红唇App

小红唇App是国内最大的一款针对15-25岁年轻女性的垂直视频分享社区和社交化电商平台。其为用户提供了丰富的平台内容、活跃的社区生态和优质的产品选择。用一句话概括小红唇业务模式为短视频美妆社区电商。

数据仓库

小红唇App的数据来源主要为两个方面：业务服务器产生的API日志，代表着用户的各种行为数据；服务器产生的各种交易数据，比如用户发的帖子、买的东西。用户行为日志是通过阿里云的datahub组件把API日志采集到MaxCompute平

微信关注我们

原文链接：https://yq.aliyun.com/articles/72250

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

hadoop+eclipse+windows7操作HDFS遇到的问题

在网上参考了一些资料，配置windows7系统上远程访问HDFS集群，包括添加系统变量$HADOOP_HOME\、$HADOOP_USER，配置环境变量$HADOOP_HOME\bin，其中bin目录下有hadoop.dll、winutils.exe等程序，这些是从网上找的，但是在eclipse中运行程序遇到了一个问题，程序代码如下： public class App { public static void main( String[] args ) { Configuration conf = new Configuration(); try { FileSystem fs = FileSystem.get(conf); fs.copyFromLocalFile(new Path("D:\\testhdfs.txt"), new Path("/user/hado_cli/dist")); } catch (IOException e) { e.printStackTrace(); System.out.println("Put file to HDFS Failed"); } tr...

2017-03-13

659

序:最近对storm平台系统进行性能检测发现偶尔会出现oncebolt向另一个twobolt发送数据后，twobolt要500毫秒后才接收到进行处理。这里简单说增大twobolt的并行度即可解决，但是究其内部原因是因为storm的通信机制所导致的问题。先介绍背景:一个拓扑的结构，spout(并行度:1)[处理性能:capacity 0.04],oncebolt(并行度:20)[处理性能:capacity 0.2],twobolt(并行度:100)[处理性能:capacity 0.6];整个拓扑就我预估最大的处理量就是一秒一千条。原文和作者一起讨论:http://www.cnblogs.com/intsmaze/p/6544017.htmll 微信：intsmaze 避免微信回复重复咨询问题，技术咨询请博客留言。最近对系统进行性能检测，统计整个storm系统中一条消息处理中各个IO耗时的时间，找出性能瓶颈。发现除了活动匹配中会有分布式锁以及大量的redis的IO操作，导致最多会耗时30ms,以及从Hbase中查询数据时由于hbase集群当时正在跑任务导致耗时1~2s。唯一出现的问题就...

2017-03-14

585

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

大数据打造你的变美频道——数加平台上小红唇的大数据实践

小红唇App

数据仓库

hadoop+eclipse+windows7操作HDFS遇到的问题

storm1.0节点间消息传递过久分析及调优

相关文章

发表评论

资源下载

优质分享App

Nacos

Spring

Sublime Text

欢迎您来访！