-
SiliconCloud公测上线，每人免费送3亿Token
随着模型能力的不断提升，不少开源大模型在诸多维度上已能媲美GPT4这类顶尖闭源模型，这也让它们能胜任多数生成式AI应用场景，更多开发者也开始基于开源大模型开发应用。 作为坚定看好开源大模型发展的AI Infra公司，硅基流动（SiliconFlow）顺势而为。 今天，我们推出集合主流开源大模型的一站式云服务平台SiliconCloud，为开发者提供更全面、更...
时间：2024-05-31点击：285收藏
-
LLM Serving 有效吞吐量的最大化实现
如今的LLM应用具有多样化的时延要求。例如，聊天机器人可能需要快速的初始响应（例如，少于0.2秒），但在解码速度上只需要匹配人类阅读速度，而代码补全则需要快速的端到端生成时间，以实现实时代码建议。 本文说明了优化吞吐量（throughput）的现有serving系统，在时延标准下并不是最优选择。作者主张使用有效吞吐量（goodput），即符合服务等级目标（S...
时间：2024-05-31点击：250收藏
-
一站式链路追踪：阿里云的端到端解决方案
作者：涯海 炎炎夏日，当你打开外卖 APP 购买奶茶却发现下单失败；五一佳节，当你自驾游途中发现导航响应缓慢，频繁错过路口；深更半夜，当你辅导孩子功课，却发现 GPT 应用迟迟无法应答。不知你有没有想过，这些程序运行的背后到底是怎样的世界，每一次点击，每一次交互，又到底发生了什么？ 如果你是一名 SRE，是否会关注系统的性能瓶颈在哪里？如果你是一名 AppO...
时间：2024-05-31点击：176收藏
-
State 微调、PointRWKV、中文文档上线……RWKV 社区 5 月最新动态来啦！
大家好，这里是我们组织的新栏目：RWKV 社区最新动态，这个栏目会不定期播报 RWKV 社区的最新消息，以帮助 RWKV 的关注者、爱好者、开发者更好地了解 RWKV 的发展情况。 《RWKV 社区最新动态》是不定期更新，所以请保持关注我们的公众号（RWKV 元始智能）、QQ 频道（RWKV）等公开的消息平台，以获取最新的消息。 本期节目统计了 RWKV 社...
时间：2024-05-31点击：216收藏
-
Java 的 AI 前景光明
InfoWorld 特约编辑 Paul Krill 最近采访了 Azul 首席执行官 Scott Sellers，谈及 Java 在蓬勃发展的 AI 领域的地位以及在当今软件世界中的地位。Azul Systems 是一家专门提供 Java 技术的计算机软件开发公司，与Oracle 保持着竞争关系。 当谈论 AI 时，最常被提及的编程语言往往是 Python。...
时间：2024-05-31点击：211收藏
-
不需要数据的数据库
数据库的众多优点之一是它们通常试图将数据在内部的表示方式（例如在磁盘上）与数据使用方式分开。甚至 不将数据存储在运行查询的同一硬件上已成为常态。 数据库在这方面已经做得非常出色，以至于这个术语现在几乎具有误导性。“数据库”暗示着某种坚固的东西，没有它数据就会消失。但数据始终存在，只是无名硬盘上的一些位。现代数据库提供的结构和可访问性完全独立于硬盘而存在。没错...
时间：2024-05-31点击：179收藏
-
这个 PHP 应用服务器看着有点新潮了！FrankenPHP
FrankenPHP 是一个基于 Caddy Web 服务器构建的现代 PHP 应用服务器。 FrankenPHP 特性包括：Early Hints、worker 模式、实时功能、自动 HTTPS、HTTP/2 和 HTTP/3 支持等 Early Hints：FrankenPHP 原生支持 103 Early Hints 状态码，可以将网页的加载时间缩短 ...
时间：2024-05-31点击：323收藏
-
记 Codes 研发管理平台 —— 日报与工时融合集中式填报的创新实现
继上一回合生成式全局看板的创新实现后，本篇我们来讲一讲日报与工时融合集中式填报的创新实现。 市面上所有的研发管理软件，大多都有工时相关功能，但是却没有日报功能，好像也没什么问题，但是在使用过程中体验非常不好，为什么呢？ 项目管理对于基层工作人员来说，主要解决这三个问题：开展我的工作、协作我们的工作和汇报我的工作，也就是说日常的汇报也是刚需。平台没有日报就会有...
时间：2024-05-31点击：202收藏
-
真好用的 ORM 框架 mybatis-mp 1.5.3 发布
官方文档：http://mybatis-mp.cn 1.5.3 更新： 1：优化分页paging,让开发者可以继承Pager，并分页是无需再转换 2：兼容普通VO，实现字段名映射，lambda映射，例如：.selectWithFun(SysAuthority::getParentId, c -> c.as(Tree::getParentId)) 3：修...
时间：2024-05-31点击：234收藏
-
gRPC 1.64.1 发布，跨语言 RPC 框架
gRPC 是可以在任何环境中运行的现代开源高性能 RPC 框架。gRPC 1.64.1 现已发布，包含了一些完善、改进和错误修复；具体更新内容如下： Core [StatsPlugin] 修复 use-after-free 问题 (#36664)(#36670) C++ [OTel] 为 grpcpp_otel_plugin 生成 pkg-config 文件...
时间：2024-05-31点击：213收藏
-
盗版 Microsoft Office 中恶意软件横行
AhnLab 安全情报中心（ASEC）报告发现网络犯罪分子正在通过种子网站上推广的破解版 Microsoft Office 来传播恶意软件。向用户传播的恶意软件包括远程访问木马 (RAT)、加密货币矿工、恶意软件下载器、代理工具和反 AV 程序。 研究人员发现，攻击者使用了多种诱饵，包括 Microsoft Office、Windows 等。破解版的 Mic...
时间：2024-05-31点击：197收藏
-
Bun 的五月更新：性能提升与内存优化
在刚刚过去的五月，Bun团队只发布了三个小版本更新（v1.1.8、v1.1.9和v1.1.10），在不断优化性能和提升稳定性的同时，也为开发者带来了许多新的功能和改进。这些更新不仅修复了大量的bug，还对关键功能进行了显著的优化，尤其是fetch函数的内存使用效率。 主要更新内容概述 这三次更新总共修复了超过140个bug，涉及从Windows平台稳定性到N...
时间：2024-05-31点击：213收藏
点击排行
推荐阅读
最新文章
- SpringBoot2整合MyBatis，连接MySql数据库做增删改查操作
- CentOS7编译安装Gcc9.2.0，解决mysql等软件编译问题
- Eclipse初始化配置，告别卡顿、闪退、编译时间过长
- CentOS7安装Docker，走上虚拟化容器引擎之路
- CentOS6,7,8上安装Nginx，支持https2.0的开启
- SpringBoot2配置默认Tomcat设置，开启更多高级功能
- Linux系统CentOS6、CentOS7手动修改IP地址
- Docker安装Oracle12C，快速搭建Oracle学习环境
- CentOS7设置SWAP分区，小内存服务器的救世主
- CentOS关闭SELinux安全模块
微信收款码
支付宝收款码