笔记列表-低调大师优秀个人博客

Java分享

专注最优质的分享

热门搜索:

HarmonyOS NEXT
ArkTS
Ai
ChatGPT
文心一言
ChatGLM
Docker
K8s
Kubesphere
SpringCloud
Nacos

您现在的位置是：首页 > 文章列表

LLM Serving 有效吞吐量的最大化实现

如今的LLM应用具有多样化的时延要求。例如，聊天机器人可能需要快速的初始响应（例如，少于0.2秒），但在解码速度上只需要匹配人类阅读速度，而代码补全则需要快速的端到端生成时间，以实现实时代码建议。本文说明了优化吞吐量（throughput）的现有serving系统，在时延标准下并不是最优选择。作者主张使用有效吞吐量（goodput），即符合服务等级目标（S...

时间：2024-05-31点击：276收藏
一站式链路追踪：阿里云的端到端解决方案

作者：涯海炎炎夏日，当你打开外卖 APP 购买奶茶却发现下单失败；五一佳节，当你自驾游途中发现导航响应缓慢，频繁错过路口；深更半夜，当你辅导孩子功课，却发现 GPT 应用迟迟无法应答。不知你有没有想过，这些程序运行的背后到底是怎样的世界，每一次点击，每一次交互，又到底发生了什么？如果你是一名 SRE，是否会关注系统的性能瓶颈在哪里？如果你是一名 AppO...

时间：2024-05-31点击：188收藏
State 微调、PointRWKV、中文文档上线……RWKV 社区 5 月最新动态来啦！

大家好，这里是我们组织的新栏目：RWKV 社区最新动态，这个栏目会不定期播报 RWKV 社区的最新消息，以帮助 RWKV 的关注者、爱好者、开发者更好地了解 RWKV 的发展情况。《RWKV 社区最新动态》是不定期更新，所以请保持关注我们的公众号（RWKV 元始智能）、QQ 频道（RWKV）等公开的消息平台，以获取最新的消息。本期节目统计了 RWKV 社...

时间：2024-05-31点击：224收藏
Java 的 AI 前景光明

InfoWorld 特约编辑 Paul Krill 最近采访了 Azul 首席执行官 Scott Sellers，谈及 Java 在蓬勃发展的 AI 领域的地位以及在当今软件世界中的地位。Azul Systems 是一家专门提供 Java 技术的计算机软件开发公司，与Oracle 保持着竞争关系。当谈论 AI 时，最常被提及的编程语言往往是 Python。...

时间：2024-05-31点击：220收藏
不需要数据的数据库

数据库的众多优点之一是它们通常试图将数据在内部的表示方式（例如在磁盘上）与数据使用方式分开。甚至不将数据存储在运行查询的同一硬件上已成为常态。数据库在这方面已经做得非常出色，以至于这个术语现在几乎具有误导性。“数据库”暗示着某种坚固的东西，没有它数据就会消失。但数据始终存在，只是无名硬盘上的一些位。现代数据库提供的结构和可访问性完全独立于硬盘而存在。没错...

时间：2024-05-31点击：194收藏
这个 PHP 应用服务器看着有点新潮了！FrankenPHP

FrankenPHP 是一个基于 Caddy Web 服务器构建的现代 PHP 应用服务器。 FrankenPHP 特性包括：Early Hints、worker 模式、实时功能、自动 HTTPS、HTTP/2 和 HTTP/3 支持等 Early Hints：FrankenPHP 原生支持 103 Early Hints 状态码，可以将网页的加载时间缩短 ...

时间：2024-05-31点击：337收藏
记 Codes 研发管理平台 —— 日报与工时融合集中式填报的创新实现

继上一回合生成式全局看板的创新实现后，本篇我们来讲一讲日报与工时融合集中式填报的创新实现。市面上所有的研发管理软件，大多都有工时相关功能，但是却没有日报功能，好像也没什么问题，但是在使用过程中体验非常不好，为什么呢？项目管理对于基层工作人员来说，主要解决这三个问题：开展我的工作、协作我们的工作和汇报我的工作，也就是说日常的汇报也是刚需。平台没有日报就会有...

时间：2024-05-31点击：208收藏
真好用的 ORM 框架 mybatis-mp 1.5.3 发布

官方文档：http://mybatis-mp.cn 1.5.3 更新： 1：优化分页paging,让开发者可以继承Pager，并分页是无需再转换 2：兼容普通VO，实现字段名映射，lambda映射，例如：.selectWithFun(SysAuthority::getParentId, c -> c.as(Tree::getParentId)) 3：修...

时间：2024-05-31点击：248收藏
gRPC 1.64.1 发布，跨语言 RPC 框架

gRPC 是可以在任何环境中运行的现代开源高性能 RPC 框架。gRPC 1.64.1 现已发布，包含了一些完善、改进和错误修复；具体更新内容如下： Core [StatsPlugin] 修复 use-after-free 问题 (#36664)(#36670) C++ [OTel] 为 grpcpp_otel_plugin 生成 pkg-config 文件...

时间：2024-05-31点击：223收藏
盗版 Microsoft Office 中恶意软件横行

AhnLab 安全情报中心（ASEC）报告发现网络犯罪分子正在通过种子网站上推广的破解版 Microsoft Office 来传播恶意软件。向用户传播的恶意软件包括远程访问木马 (RAT)、加密货币矿工、恶意软件下载器、代理工具和反 AV 程序。研究人员发现，攻击者使用了多种诱饵，包括 Microsoft Office、Windows 等。破解版的 Mic...

时间：2024-05-31点击：209收藏
Bun 的五月更新：性能提升与内存优化

在刚刚过去的五月，Bun团队只发布了三个小版本更新（v1.1.8、v1.1.9和v1.1.10），在不断优化性能和提升稳定性的同时，也为开发者带来了许多新的功能和改进。这些更新不仅修复了大量的bug，还对关键功能进行了显著的优化，尤其是fetch函数的内存使用效率。主要更新内容概述这三次更新总共修复了超过140个bug，涉及从Windows平台稳定性到N...

时间：2024-05-31点击：237收藏
Fedora 传统艺能——默认 Web UI 安装程序 Anaconda 再度跳票

去年红帽工程师曾透露将在 Fedora Workstation 39 默认使用 Anaconda WebUI——基于 Web 的操作系统安装界面，旨在提供一个更现代、更灵活、更易于集成的安装体验。但该计划没有按预期进行，今年二月，Fedora 40 的 Anaconda Web UI 获得批准后，他们将其推迟到了 Fedora 41。虽然 Fedora ...

时间：2024-05-31点击：223收藏

上页 1 ... 762 763 764 ... 1000 下页

点击排行

推荐阅读

最新文章