搜索[推理服务]结果-低调大师优秀个人博客

精选列表

搜索[推理服务]，共10000篇文章

DeepSpeed v0.19.3发布：ZeRO-3、AutoEP、DeepCompile、推理与训练稳定性全面升级

DeepSpeed v0.19.3 是一次覆盖训练稳定性、ZeRO 优化、自动并行、DeepCompile、推理能力、量化压缩、日志与类型提示、CI 流程以及文档维护的补丁版本更新。

2026-07-27

WorkBuddy 起势之后，是时候用 CGI 引擎(约束导引推理)开启腾讯 B 端落地的深水区

在 AI-Native（AI 原生）软件工程的演进浪潮中，腾讯的探索令人印象深刻： CNB（云原生构建）提供以 Git 代码协作为底座的一体化研发能力，覆盖托管、云原生构建/开发管理等环节； TAPD 作为研发协作与敏捷管理平台，将智能化能力融入需求、协作与交付流程； WorkBuddy 则面向企业办公场景，提供工作智能体能力与多端任务协同的工作入口。毫无疑问，腾讯已经搭建起具备延展性的研发基建与平台化底座。

2026-07-21

2026开源大模型推理成本暴涨300%，5段代码教你用KV Cache压缩自救

随着多模态大模型参数规模全面突破万亿级别，以及1M+ tokens长上下文成为行业标配，开源大模型的推理显存占用呈指数级增长。

2026-07-15

Anthropic J-Space论文解析：用 J-lens 读懂大模型的隐藏推理和安全隐患

Anthropic 本周的一篇关于 J 空间（J-Space）的论文，引起了业内广泛关注。

2026-07-13

R-HORIZON：探索长程推理边界，复旦 NLP&美团 LongCat 联合提出 LRMs 能力评测新框架

一、推理模型⾯临的新挑战随着 OpenAI o1 、 DeepSeek-R1 等大型推理模型（LRMs）的问世， AI 推理能力迎来了「测试时扩展」的新阶段。

2025-12-01

RWKV7-G1a 1.5B 开源发布，新推理风格和长度控制，效果显著增强

RWKV7-G1a 1.5B 从 RWKV7-G1 1.5B 继续训练 1T 高质量数据，显著提升模型能力，且加入新的推理风格，可设置推理长度。

2025-09-25

AI 推理领域明星创企 Groq 完成 7.5 亿美元融资，投后估值达 69 亿美元

AI推理领域明星创企Groq宣布完成7.5亿美元新一轮融资，投后估值达69亿美元。

2025-09-18

面向 openKylin 智能引擎的开源大模型推理优化赛火热报名中

然而，端侧设备的计算资源（如 CPU/GPU/NPU）相对有限，难以原生支撑大模型的高效推理。在资源受限的端侧环境中优化大模型推理效率，是推动 openKylin智能引擎发展的关键所在。

2025-08-16

AI PC 新突破端侧首次支持 128K 上下文窗口实现 2.2 倍推理优化

英特尔与面壁智能从模型开发阶段就紧密合作，实现了长短文本多重推理效率的提升，端侧AI PC在Day 0全面适配，128K长上下文窗口等多方面突破。

2025-06-08

蚂蚁从训练到推理的全栈实践

本文将详细介绍这四个层面：首先，聚焦于我们发布的智能分布式训练服务 DLRover，其次，探讨我们在分布式推理场景中的实践经验，再者，介绍我们在显存优化与数据传输方面的工作成果 GLake；最后会分享我们在工程智能领域的具体工作

2024-03-27

阿里巴巴发布首个知识引擎研究计划，联合清华浙大等五大高校攻坚AI推理

该计划以结构化的形式描述客观世界中概念、实体及其之间的关系，将互联网信息内容表达成更接近人类认知世界的形式，从而使计算机具备类脑推理能力。

2018-04-30

Deepmind 开发可微分神经计算机：我们离会推理的机器人还有多远

这些 AI 功能已经让数百万人在使用谷歌翻译等在线服务中受益。但是，神经网络面

2017-07-31

微服务~Eureka实现的服务注册与发现及服务之间的调用

微服务里一个重要的概念就是服务注册与发现技术，当你有一个新的服务运行后，我们的服务中心可以感知你，然后把加添加到服务列表里，然后当你死掉后，会从服务中心把你移除，而你作为一个服务，对其它服务公开的只是服务名称

2017-12-06

Spring Cloud构建微服务架构：服务容错保护（Hystrix服务降级）【Dalston版】

前言在微服务架构中，我们将系统拆分成了一个个的服务单元，各单元应用间通过服务注册与订阅的方式互相依赖。

2017-07-11

Docker服务配置+ Consul + registrator实现服务发现

一、Consul简介 Consul是基于GO语言开发的开源工具，主要面向分布式，服务化的系统提供服务注册、服务发现和配置管理的功能。

2020-08-08

Kubernetes服务发现入门：如何高效管理服务？

动态IP分配在我们了解如何管理服务以及如何高效建立服务发现之前，我们必须了解服务发现所面临的首要挑战：IP分配问题。具体而言，Kubernetes将IP地址动态分配给Pod和服务的方式。

2019-12-20

阿里云服务：阿里云专家服务介绍

阿里云专家服务，提供从咨询到实施、从迁云到护航的全周期专业服务，满足各场景下的服务需求。

2018-12-26

微服务之服务调用与安全控制

一、微服务平台架构简介 EOS8 微服务平台功能架构图普元8月份发布了EOS8微服务平台，上图为功能架构图。

2018-11-01

微服务架构下的服务关联图

在微服务架构下，服务之间的关系是非常复杂的，是一个典型的有向有环图，在一个中等规模的项目中，一般会有100多个服务，而大型项目中，则会有数百个服务。

2018-09-28

微服务该如何进行服务治理？

Spring Cloud Netflix的优势对于微服务的治理而言，核心就是服务的注册和发现。所以选择哪个组件，很大程度上要看它对于服务注册与发现的解决方案。

2018-07-01

资源下载

更多资源

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。