-
使用 PPO 算法进行 RLHF 的 N 步实现细节
当下,RLHF/ChatGPT 已经变成了一个非常流行的话题。我们正在致力于更多有关 RLHF 的研究,这篇博客尝试复现 OpenAI 在 2019 年开源的原始 RLHF 代码库,其仓库位置位于 openai/lm-human-preferences。尽管它具有 “tensorflow-1.x” 的特性,但 OpenAI 的原始代码库评估和基准测试非常完善...
时间:2023-11-15点击:112收藏
-
qiaoshengda-es-client 3.0.6 已经发布,ES 查询客户端
qiaoshengda-es-client 3.0.6 已经发布,ES 查询客户端 此版本更新内容包括: 【新增】新增链接导入导出 【更新】更新数据浏览的表格组件,新的组件支持右键菜单,可以快速复制数据、切换选中等功能 【修复】尝试解决utools端和electron客户端中,如果服务器开启https但没有证书导致报错的问题 【修复】尝试修复tauri客户端...
时间:2023-11-15点击:111收藏
-
零一万物对 Yi-34B 训练过程的说明
事件背景: 李开复旗下 AI 公司“零一万物”开源的 Yi 大模型照搬 Llama 架构 “零一万物” 回应 Yi 开源大模型“套壳” Llama 零一万物今天正式发文回应 Yi 开源大模型引起的争议: 就零一万物的观察和分析,大模型社区在技术架构方面现在是一个处于接近往通用化逐步收拢的阶段,基本上国际主流大模型都是基于Transformer的架构,做att...
时间:2023-11-15点击:131收藏
-
基于JuiceFS 的低成本 Elasticsearch 云上备份存储
杭州火石创造是国内专注于产业大数据的数据智能服务商,为了解决数据存储及高效服务客户需求,选择了Elasticsearch搜索引擎进行云上存储。基于性能和成本的考虑,在阿里云选择用本地 SSD ECS 机型自建集群。但由于是自建集群,如何同步解决数据备份问题并实现最优成本呢? 1.背景介绍 Elasticsearch 的数据备份是通过快照机制实现的。为了完成集...
时间:2023-11-15点击:116收藏
-
Apache RocketMQ,构建云原生统一消息引擎
本文整理于 2023 年云栖大会林清山带来的主题演讲《Apache RocketMQ 云原生统一消息引擎》 Apache RocketMQ 简介 消息队列演进趋势 操作系统、数据库、中间件是基础软件的三驾马车,而消息队列属于最经典的中间件之一,已经有 30 多年的历史。他的发展主要经历了以下几个阶段: 第一个阶段,2000 年之前。80 年代诞生了第一款消息...
时间:2023-11-15点击:108收藏
-
BifroMQ-v2.0.0 发布:支持标准集群模式(StandardCluster)
百度天工 AIoT 团队在 2023 年 7 月正式宣布开源高性能分布式MQTT物联网消息中间件,并将其全新命名为 BifroMQ。历时三个月,BifroMQ-v2.0.0 版本现已发布。 新版本首次支持集群模式,官方将其称为标准集群 StandardCluster(简称 StandardCluster)。主要有以下特性: 集群模式全面支持 MQTT 协议:...
时间:2023-11-15点击:117收藏
-
CodeFuse 开源 ModelCache 大模型语义缓存
CodeFuse 开源火热进行中!本次开源的是 ModelCache 大模型语义缓存,可大幅降低大模型应用的推理成本,提升用户体验。 CodeFuse-ModelCache 项目地址: https://github.com/codefuse-ai/CodeFuse-ModelCache 0 背景 在LLM技术浪潮席卷全球的背景下,大型模型快速增长的参数规模,...
时间:2023-11-15点击:146收藏
-
OpenAI 上线新功能力捧 RAG,开发者真的不需要向量数据库了?
近期, OpenAI 的开发者大会迅速成为各大媒体及开发者的热议焦点,有人甚至发出疑问“向量数据库是不是失宠了?” 这并非空穴来风。的确,OpenAI 在现场频频放出大招,宣布推出 GPT-4 Turbo 模型、全新 Assistants API 和一系列增强功能。其中,王炸功能 Assistants API 的内置工具支持了代码解释器、知识库检索以及函数调...
时间:2023-11-15点击:135收藏
-
Parcel 2.10.3 发布,零配置构建工具
Parcel 是用于 Web 的零配置构建工具。它将出色的开箱即用开发体验与可扩展的体系结构相结合,可将你的项目从零发展为大规模生产应用程序。 Parcel 2.10.3已发布,具体更新内容包括: Fixed Core 将先前递延的 assets 标记为dirty for symbol prop -详细信息 如果 bundling 期间发生错误,则将 bun...
时间:2023-11-15点击:119收藏
-
开源之夏 2023 结项审核结果公示
# 开源之夏2023结项名单公示 11月9日,开源软件供应链点亮计划-开源之夏2023的结项名单正式出炉,经过三个月的项目开发和一个多月的严格审核,共产生418个成功结项项目! 2023年是开源之夏连续举办的第四年,本届活动中,133家开源社区加入开源之夏并面向高校学生发布了593个开源项目任务。来自海内外592所高校的3400多名学生报名参与。越来越多来自...
时间:2023-11-15点击:104收藏
-
Seata 进入 Apache 孵化器
Apache 基金会邮件列表显示,2023 年 10 月 29 日,分布式事务开源项目 Seata 正式通过 Apache 基金会的投票决议,正式成为 Apache 孵化器项目。 Seata 是一款开源的分布式事务解决方案,致力于在微服务架构下提供高性能和简单易用的分布式事务服务。 2019 年 1 月,阿里巴巴中间件团队发起了开源项目Fescar(Fast...
时间:2023-11-15点击:115收藏
-
Linux 内核中 Rust 的最新状态
在近日举行的 Linux Plumbers Conference 上,Linux 和 Rust 开发人员 Miguel Ojeda 向 Linux 内核开发人员介绍了有关 Linux 内核中 Rust 的最新情况。简而言之,Rust Linux 正在不断走向成熟,并得到了思科、三星和 Canonical 等开发者和供应商的大力支持。 目前,一些发行版已经张开...
时间:2023-11-15点击:146收藏