RWKV-5/6 论文被 COLM 2024 收录-低调大师

RWKV-5/6 论文被 COLM 2024 收录

2024-11-12 254

由 Bo PENG 和 RWKV 开源社区共同完成的 RWKV-5/6架构论文《Eagle and Finch: RWKV with Matrix-Valued States and Dynamic Recurrence》被顶级会议 COLM 2024 收录。

这是继 RWKV-4 架构论文《RWKV: Reinventing RNNs for the Transformer Era》被 EMNLP 2023 收录之后，RWKV 又一篇被国际顶会认可的论文。

作为 RWKV 社区代表，Stella Biderman 出席本次 COLM 2024 演讲：

关于 COLM 会议

Conference On Language Modeling（COLM）会议是一个大语言模型领域的新会议，由 Sasha Rush、Denny Zhou、Yejin Choi 等 NLP 头部科学家联合创立。

COLM 会议的主题包含语言模型的对齐、学习算法、推理算法、多模态等 17 个方面的研究，通过创建一个专注于语言建模研究的学术平台，理解、改进和批评 LM（语言模型）技术的发展。

COLM 2024 于 2024 年 10 月 7~9 日在美国费城宾夕法尼亚大学召开。

RWKV-5/6 论文简介

RWKV-5/6 论文提出了两种新的 RWKV 架构：Eagle (RWKV-5) 和 Finch (RWKV-6)，这两个新的论文架构在 RWKV-4 架构的基础上进行了改进。

相对 RWKV-4 版本架构， RWKV-5-Eagle 的重点改进在于引入了多头的、基于矩阵值的状态（multi-headed matrix-valued states）。RWKV-6-Finch 架构则借鉴了 LoRA 技术，进一步改进了 RWKV 架构中的 token shift 和 time-mixing 模块。

微信关注我们

原文链接：https://www.oschina.net/news/320070

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Apache ZooKeeper Admin Server 身份验证绕过漏洞

漏洞描述 Apache ZooKeeper 是开源的分布式应用程序协调服务，IPAuthenticationProvider 是其身份验证提供器，用于基于客户端 IP 地址进行身份验证。受影响版本的 ZooKeeper Admin Server 使用 IPAuthenticationProvider 进行身份验证，由于其使用由代理服务器添加的 HTTP 请求头 X-Forwarded-For，攻击者可通过伪造 X-Forwarded-For 头中的 IP 地址，通过 Admin Server 的校验，使用特权命令。修复版本中，通过通过引入 usexforwardedfor 配置选项并将其默认设置为关闭，以修复漏洞。漏洞名称 Apache ZooKeeper Admin Server 身份验证绕过漏洞漏洞类型使用欺骗进行的认证绕过发现时间 2024-11-07 漏洞影响广度 - MPS编号 MPS-aqz5-s9mr CVE编号 CVE-2024-51504 CNVD编号 - 影响范围 org.apache.zookeeper:zookeeper@[3.9.0, 3.9.3)...

2024-11-07

356

黑莓宣布 QNX 现可免费用于非商业用途，并发布了可在 Raspberry Pi 4 计算机上运行的 QNX 8.0 映像。以及在 GitLab和GitHub上提供了相关的开源演示程序、应用程序、框架和库。 “感谢您对 QNX 软件开发平台 8.0 的关注。无论您是业余爱好者、学生还是行业专业人士，您现在都可以获得免费的 QNX SDP 8.0 许可，供您个人非商业使用。” 此举是黑莓QNX Everywhere的推广计划的一部分，该计划旨在扩展 QNX 的市场并吸引更多的开发人员使用该平台。在推出此次的无限制版本之前，该公司已经试水过了 30 天的免费评估版。 QNX 是黑莓公司旗下的类 Unix 实时操作系统，可追溯至 20 世纪 80 年代；最初由加拿大公司 Quantum Software Systems 开发。2004 年，音响设备制造商Harman International Industries以 1.38 亿美元的现金收购了该公司，2010 年又将其转手卖给了黑莓手机制造商 RIM。目前，QNX在汽车系统中应用最为广泛，黑莓透露其已经搭载在全球超过 2.55 亿辆汽车...

2024-11-12

273

资源下载

更多资源

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。