首页 文章 精选 留言 我的

精选列表

搜索[性能改进],共10000篇文章
优秀的个人博客,低调大师

[R]高性能计算SparkR

Why SparkR Spark 是一种与 Hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越,换句话说,Spark 启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载 。 而Spark力图整合机器学习(MLib)、图算法(GraphX)、流式计算(Spark Streaming)和数据仓库(Spark SQL)等领域,通过计算引擎Spark,弹性分布式数据集(RDD),架构出一个新的大数据应用平台。 SparkR 是一个提供轻量级前端的 R 包,在 R 的基础上加入了 Spark 的分布式计算和存储等特性。在 Spark 1.6.1 中,SparkR 提供了一个分布式数据框(DataFrame)的实现,它能够支持诸如选取、过滤和聚集等操作。这个特性与 R 语言自身提供的特性类似,但 SparkR 能够作用于更大规模的数据集。SparkR 是一个提供轻量级前端的 R 包,在 R 的基础上加入了 Spark 的分布式计算和存储等特性。汇集了spark和R本身的诸多优点,如下图。 SparkR是什么.png SparkR的架构.png How to use it? SparkR特有SparkDataFrame SparkDataFrame的特点.png SparkDataFrame的例子.png SparkDataFram要实现MapReduce的函数式操作 dapply dapplyCollect gapply 其中dapply的框架如下图所示: dapply的框架.png dapply 的用法: dapply(x,fun,schema) dapply(x,fun) 把fun函数应用到SparkDataFrame的每一个数据切片,然后把结果收集回本机成为data.frame; R函数的输入、输出均为data.frame 指定schema,R函数输出必须匹配schema example: df <- creatDataFrame(sqlContext,mtcars) df1 <- dapply(df,functuion(x){x+1},schema(df)) dapplyCollect 其中dapply的框架如下图所示: ldf <- dapplyCollect(df,function(x){x+1})

优秀的个人博客,低调大师

Linux 5.18 对 exFAT 文件系统支持进行了两项关键改进

据外媒 Phoronix 介绍:本周的 Linux 5.18 合并窗口有两个微软 exFAT 文件系统的驱动 PR ,尽管数量不多,但都是非常重要的驱动程序补丁。 Linux 5.18+ 上的 exFAT 添加了一个允许访问带有尾随点的路径选项。到目前为止,exFAT 驱动程序无条件地从路径组件中删除了尾随句点,而 Linux 5.18 引入了exFAT“keep_last_dots”挂载选项,可用于控制是否去除尾随句点。这项工作的动机是发现 FUSE exFAT 驱动程序的尾随点能发挥很好的效果,但 Linux 内核驱动程序不允许。有关该补丁的更多信息可在 Linux 内核邮件列表中查看。 Linux 5.18 的另一个 exFAT 补丁是:不再清除回写中的 VolumeDirty 和避免缩短存储设备寿命。在此补丁之前,如果 'dirsync' 或 'sync' 未启用,VolumeDirty 在回写中会首先被清除。但如果清理 VolumeDirty 后突然断电,而没有写入其他更新,则 exFAT 文件系统将无法在下次挂载时检测到电源故障。且在更新父目录时会重新设置 VolumeDirty ,但不会清除。这意味着每次回写至少要写入一次 BootSector,这会缩短设备的寿命。 以上就是 Linux 5.18 中的exFAT pull。

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册