苹果开源 CoreNet：一个用于训练深度神经网络的库

苹果公司开源了一个用于训练深度神经网络的库 CoreNet。允许研究人员和工程师训练标准和新型的小型和大型模型，以完成各种任务，包括基础模型（如 CLIP 和 LLM）、对象分类、对象检测和语义分割。

目前，苹果公司已经利用 CoreNet 开展了以下研究工作：

• OpenELM：具有开源训练和推理框架的高效语言模型系列
• CatLIP：在 Web-scale Image-Text DataCLIP 上以 2.7 倍的预训练速度实现 CLIP 级视觉识别准确率
• Reinforce Data, Multiply Impact：通过数据集强化提高模型准确性和稳健性
• CLIP meets Model Zoo Experts：视觉增强的伪监督
• FastVit：使用结构重参数化的 Fast Hybrid Vision Transformer
• Bytes Are All You Need: Transformers Operating Directly on File Bytes
• MobileOne：改进的 One millisecond Mobile Backbone
• RangeAugment：Efficient Online Augmentation with Range Learning
• Separable Self-attention for Mobile Vision Transformers (MobileViTv2)
• CVNets：高性能计算机视觉库，ACM MM'22
• MobileViT：轻量级、通用且适合移动设备的 Vision Transformer，ICLR'22

CoreNet 基于 CVNet 演变而来，涵盖计算机视觉之外更广泛的应用。该公司声称，CoreNet 的扩展促进了包括 LLM 在内的基础模型的训练。

CVNets 是苹果公司在去年开源的一个计算机视觉工具包，允许研究人员和工程师为各种任务训练标准和移动 / 非移动计算机视觉模型，包括对象分类、对象检测、语义分割和基础模型（例如，CLIP）。

CoreNet 的 0.1.0 版本包括：

• OpenELM
• CatLIP
• MLX examples