【译】Apache spark 2.4:内置 Image Data Source的介绍-低调大师

【译】Apache spark 2.4:内置 Image Data Source的介绍

2018-12-13 636

Apache spark 2.4:内置 Image Data Source的介绍

[原文链接]（https://databricks.com/blog/2018/12/10/introducing-built-in-image-data-source-in-apache-spark-2-4.html）

引言

图片分类以及对象检测的深度学习框架的发展使得在apache spark急需支持图片数据处理流程，在支持图片处理流程需要考虑到以下问题：处理不同格式，大小以及色彩的图片，如何快速检测图片处理的正确性。
通过图片数据源提供的标准图片抽象可以解决在图片数据处理过程中遇到的大部分问题，在Apache Spark 2.3中，MMLSpark 库提供ImageSchema.readImages API（see Microsoft’s post

微信关注我们

原文链接：https://yq.aliyun.com/articles/679417

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

使用Data Lake Analytics快速分析OSS上的日志文件

背景 Data Lake Analytics (后文简称 DLA)是Serverless化的云上交互式查询分析服务，用户可以通过标准的SQL语句对存储在OSS, OTS, RDS等介质上的数据进行快速地查询分析。日志文件在大数据分析中的地位举足轻重。对于一个服务来说，其日志文件往往记录了其运行的所有详细信息。无论是故障排除，状态监控，还是预测告警，都离不开对日志文件的查询分析。由于OSS的高性价比，越来越多的用户倾向把大量的日志文件存储在OSS中。DLA可以无需移动OSS上的日志文件，直接对其做查询分析。本文将介绍如何使用DLA对常见格式的日志文件做查询。使用DLA查询日志文件 DLA可以分析的日志文件需要满足下面的条件：日志文件是纯文本的格式，每行可以映射为表中的一条记录；每行的内容有固定的模式，可以用一个正则表达式去匹配目前对日志

2018-12-14

590

[原文链接]（https://databricks.com/blog/2018/11/01/sql-pivot-converting-rows-to-columns.html）引言 Pivot作为DataFrame的功能在Apache Spark 1.6被引入，支持用户将单列数据转换为多列数据，Apache Spark 2.4版本扩展了这部分功能，本文将以西雅图当地气温为基础，介绍如何通过SQL pivot实现复杂数据的转换。 Pivot气温检查下表是今年西雅图7月气温最高的9天气温温度，最高可达90华氏度! 假设我们想知道西雅图气温历史上是否存在过这种趋势，最直观的方法是将气温数据按照下列方式进行展示，月份作为列，年份作为行，值为当月平均最高气温，这种数据组织方式横向可以比较相邻月份的气温，纵向可以比较不同年份统一月份的平均最高

2018-12-14

692

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。