Apache Arrow 5.0.0 发布
Apache Arrow 是一个列式内存分析层，旨在加速大数据的分析。它包含了一套平面和分层数据的典型内存表示，以及用于结构化数据的多种语言绑定。目前支持的语言包括 C、C++、C#、Go、Java、JavaScript、Julia、MATLAB、Python、R、Ruby 和 Rust。
Apache Arrow 5.0.0 正式发布，更新内容如下：
新功能和改进
- ARROW-2665 - [Python/C++] 增加 index() 方法来查找 Python 标量的第一次出现；
- ARROW-3014 - [C++] ORC 文件格式的最小写入器适配器；
- ARROW-3316 - [R] 从 R data.frame 到 Arrow table / record batch 的多线程转换；
- ARROW-5385 - [Go] 实现 EXTENSION 数据类型；
- ARROW-5640 - [Go] 实现 Map 数组
- ARROW-6513 - [CI] conda 环境文件 arrow/ci/conda_env_*.yml 的扩展名应该是.txt。
- ARROW-7001 - [C++] 开发线程 API 以适应嵌套的并行性
- ARROW-7114 - [JS][CI] NodeJS 在 Github Actions Windows 节点上构建失败；
- ARROW-7252 - [Rust] [Parquet] 读取 UTF-8/JSON/ENUM 字段会导致大量的 vec 分配；
- ARROW-7396 - [Format] 向 IANA 注册 Apache Arrow 格式的媒体类型；
- ARROW-8421 - [Rust] [Parquet] 实现 parquet 写入器；
- ARROW-8459 - [Dev][Archery] 使用最新的 cmake-format；
- ARROW-8527 - [C++][CSV] 增加对 ReadOptions::skip_rows >= block_size 的支持；
- ARROW-8655 - [C++][Dataset][Python][R] 为已发现的数据集保存分区信息；
- ARROW-8676 - [Rust] 从 ARROW-300 创建 IPC RecordBatch 主体缓冲区压缩实现
- ARROW-9054 - [C++] 增加 ScalarAggregateOptions
- ARROW-9056 - [C++] 支持标量上的标量聚合
- ARROW-9140 - [R] Zero-copy Arrow to R where possible
- ARROW-9295 - [Archery] 在 lint 命令中支持 rust clippy
- ARROW-9299 - [Python] 在 Python ORCFile 中暴露 ORC metadata()
- ARROW-9313 - [Rust] 使用特征枚举
- ARROW-9697 - [C++][Dataset] 数据集/扫描器的 num_rows 方法；
- ARROW-10031 - [Java] 在 Archery 中支持 Java 基准测试
- ARROW-10115 - [C++] CSV 空引号字符串被视为 NULL
- ……
错误修复:
- ARROW-6189 - [Rust] [Parquet] 普通编码的布尔列块限制为 2048 个值；
- ARROW-6312 - [C++] 在 arrow.pc 包配置中声明所需的 Libs.private；
- ARROW-7948 - [Go][集成] 十进制集成失败；
- ARROW-9594 - [Python] DictionaryArray.to_numpy 不能正确地将空索引转换为空值；
- ARROW-10910 - [Python]当对传统数据集的 read_table 给出 None 时出现分段故障；
- ARROW-11146 - [CI][Python] conda-python-3.8-jpype Nightly 构建失败；
- ARROW-11161 - [Python][C++] S3Filesystem: 文件 Content-Type 设置不正确；
- ARROW-11633 - [CI][文档] 未找到 Maven 默认皮肤；
- ARROW-11780 - [C++][Python] StructArray.from_arrays() 使 Python 解释器崩溃；
- ARROW-11908 - [Rust]间歇性的 Flight 集成测试失败；
- ARROW-12007 - [C++]加载 parquet 文件时返回 "无效的 UTF8 有效载荷" 错误；
- ARROW-12055 - [R] is.na() 对 Arrow NaN 值的评估结果为 FALSE；
- ARROW-12122 - [Python] 无法通过 pip 在 M1 mac 上安装；
- ……
