搜索[推理强度]结果-低调大师优秀个人博客

精选列表

搜索[推理强度]，共7439篇文章

[EuroSys2023 Best Poster] 面向动态图的极低时延GNN推理采样服务

GraphLearn最新开源了面向动态图的GNN在线推理实时采样服务(DGS)。DGS具备处理实时高吞吐图更新的能力，并能保证低时延、高并发的推理采样查询处理。

2023-06-05

高手过招:用SQL解决环环相扣的刑侦推理问题(苏旭辉版本)

SOFARPC是近期蚂蚁金服开源的一个高可扩展性、高性能、生产级的 Java RPC 框架。在蚂蚁金服 SOFARPC 已经经历了十多年及五代版本的发展。SOFARPC 致力于简化应用之间的 RPC 调用，为应用提供方便透明、稳定高效的点对点远程服务调用方案。为了用户和开发者方便的进行功能扩展，SOFARPC 提供了丰富的模型抽象和可扩展接口，包括过滤器、路由、负载均衡等等。伴随SOFARPC的开源，我们也开源了sofa-bolt-node和sofa-rpc-node两个 Nodejs RPC 基础模块。但细心的用户可能注意了我们在文档里面写到并不希望大家直接使用它们，并预告会在 Eggjs 里提供 RPC 最佳实践。现在这个最佳实践来了，它就是： egg-sofa-rpc插件： https://github.com/

2018-06-20

DeepMind说机器推理水平能超人类，现在有人把代码搞出来了

前天，DeepMind发布两篇新论文，探讨了深度神经网络利用非结构化数据进行复杂关系推理的能力。（报道传送门）在第一篇论文，DeepMind证明神经网络在简单关系推理中，表现超过人类。

2018-01-01

这篇文章会告诉你DeepMind关系推理网络的真实面貌

比如关于该关系推理网络的报道： DeepMind开发了一种神经网络，能够感知其周围的物体。实际上这种报导不仅仅是误导性的，而且使得很多不明真相的吃瓜群众感到恐慌：AI真的已经强到如此地步了吗？

2017-10-23

端侧大模型部署踩坑实录：Qwen + OpenVINO 在 AI PC 上跑通本地推理

半年前我开始琢磨一件事：手上的推理需求里，有相当一部分根本不需要联网。合同条款比对、内部纪要整理、批量日志初筛——这些活儿有两个共同点：素材敏感，且重复率高。

2026-10-08

推理一体机的账怎么算：什么规模值得从云上转到专属

推理一体机最近在社区里的声量明显变大——软硬一体的打包方案，号称「买断式 AI 算力」。作为管过推理成本的人，我的建议是把情绪放一边，这笔账其实结构很清晰，三个变量就能算明白。

2026-09-24

GLM-5.3-FlashX 上线，智谱把国产卡上的推理速度顶到 200 token/s

上一代 GLM 上线时，团队是在 10 万张国产芯片组成的集群上把推理服务从零搭起来的，当时的难点是内存带宽受限、还要扛 1M 上下文和多模态。

2026-09-18

Pulse128口袋事件相机：从128×128事件采集到片上SCNN推理

事件相机开发经常涉及多台设备：传感器负责采集，上位机负责显示和保存，外部计算平台运行算法，惯性传感器还可能需要单独接入。这样的组合适合功能验证，却会增加布线、时间同步和外场部署的复杂度。

2026-09-16

视觉大模型开发：从多模态融合架构到高效训练与推理部署的工程实践

视觉大模型开发：从多模态融合架构到高效训练与推理部署的工程实践，这绝非仅仅是将一张图片“喂”给大语言模型（LLM）那么简单。

2026-09-05

AI全栈驱动的UI自愈测试框架实战：融合视觉感知、LLM推理与强化决策

随着敏捷迭代和UI动态化的激增，传统基于DOM/XPath的UI自动化测试在面对细微布局偏移、样式异常、跨端渲染差异时，往往陷入“断言脆弱、维护昂贵”的困境。本文提出并实现一套融合计算机视觉、大语言模型（LLM）与强化学习（RL）的AI全栈测试框架。框架以卷积自编码器（CAE）实现像素级重构误差检测，结合YOLOv8定位异常区域，通过LLM（Qwen2.5）理解DOM上下文并生成候选修复策略，最终由近端策略优化（PPO）智能体决策最优操作回放。全文提供完整可运行的Python代码、模型训练流水线、pytest集成示例及性能评估数据，所有实验基于公开UI数据集和真实企业级Web应用验证。本文旨在为测试开发工程师提供一套从多模态感知到自适应决策的AI原生测试增强方案。

2026-08-23

专访｜罗长才：GEO与AIGC工程落地中的信源校验、事实推理与认知陷阱

受访人：罗长才，GEO 高级优化师、落地工程师、AIGC 应用工程师采访形式：深度技术访谈采访基调：纯技术实证导向，无营销内容，聚焦大模型事实生成、GEO 知识资产构建、信源工程化校验逻辑摘要：生成式引擎优化（GEO）不只是关键词与内容适配，其底层是一套事实、证据、信源的治理工程。本次访谈从工程实践出发，探讨 “权威” 的相对性、孤证不为证、个体差异下的信息边界、媒体信源甄别、常见认知谬误，结合健康科普案例，给出可落地的 AIGC 信源校验技术框架。

2026-08-20

AI Infra 系列 · 第二章（下）：推理侧 KV 传输——NIXL 如何搬运 prefill 到 decode

第一章第五节讲过，2026 年推理系统最明确的一条主线，是分离式 Prefill/Decode——把 prefill 和 decode 拆到不同的 GPU 池，各干各的。

2026-08-20

基于STL时序分解与知识图谱推理的AIOps根因定位系统设计与实现

Seasonal-Trend decomposition using LOESS）分解与动态分位数自适应阈值的算法，有效将误报率降低92%；在根因定位层构建运维知识图谱，引入带权PageRank算法进行因果传播推理

2026-08-17

HeteroFlow 异构算力调度平台于 2026 年 8 月 8 日推理服务正式发布

HeteroFlow v2 推理服务的解决方案正式上线 HeteroFlow v2 是一款开源的异构算力调度平台，本次发布的推理服务功能针对上述三大痛点提供完整解决方案： **>

2026-08-09

LLM全链路工程实战：从QLoRA大模型微调到vLLM推理的性能极致榨取

在开源大模型（如Llama 3、Qwen2.5）已然具备强大通用能力的今天，企业落地的核心痛点早已从“能不能做”转向了“怎么做才稳、快、省”。作为大模型工程师，我们面临的现实挑战极其残酷：

2026-08-04

浏览器也能秒级处理视频换脸：Timeline Studio 的 WebGPU 本地推理实践

这套架构成熟，但也带来三个问题：素材上传耗时、GPU 服务成本，以及人脸数据离开本机后的隐私压力。

2026-07-31

本地大模型常见异常全解：显存溢出、推理慢、驱动报错、环境冲突调试指南.181

本地大模型即脱离云端API调用，将开源大语言模型权重文件下载至个人电脑、工作站、服务器本地，依托本机硬件算力完成模型加载、上下文编码、文本生成全流程运算的部署模式。区别于在线调用大模型，本地部署具备数据隐私性强、无调用频次限制、可离线运行、支持自定义微调与二次开发等核心优势，也是当下AI应用私有化落地、行业定制模型研发的核心基础路径。

2026-07-31

聚搜云：用eBPF排查AI推理服务抖动：从CPU调度到网络延迟完整指南

推理服务在压测时平稳，上线后却隔三差五冒出几百毫秒的“毛刺”，这种抖动不体现在常规监控的CPU或内存曲线上，却足以拖垮用户体验。

2026-07-27

从推理模型到具身智能：veRL 为什么正在成为后训练基础设施

昨天《训推工坊：以 verl 代码库走读 AI Infra》第 24 篇《Checkpoint Engine：训练权重如何同步给推理引擎》刚刚发布。今天是周日，正好借这个节点做一次阶段总结。

2026-07-23

从经典本体模型推理问题谈起，什么才是本体模型+AI大模型结合的最佳模式

包括分析传统经典本体论的问题，包括为何我当前的本体驱动+LLM推理架构是一种最佳选择。

2026-07-23

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

精选列表

[EuroSys2023 Best Poster] 面向动态图的极低时延GNN推理采样服务

高手过招:用SQL解决环环相扣的刑侦推理问题(苏旭辉版本)

DeepMind说机器推理水平能超人类，现在有人把代码搞出来了

这篇文章会告诉你DeepMind关系推理网络的真实面貌

端侧大模型部署踩坑实录：Qwen + OpenVINO 在 AI PC 上跑通本地推理

推理一体机的账怎么算：什么规模值得从云上转到专属

GLM-5.3-FlashX 上线，智谱把国产卡上的推理速度顶到 200 token/s

Pulse128口袋事件相机：从128×128事件采集到片上SCNN推理

视觉大模型开发：从多模态融合架构到高效训练与推理部署的工程实践

AI全栈驱动的UI自愈测试框架实战：融合视觉感知、LLM推理与强化决策

专访｜罗长才：GEO与AIGC工程落地中的信源校验、事实推理与认知陷阱

AI Infra 系列 · 第二章（下）：推理侧 KV 传输——NIXL 如何搬运 prefill 到 decode

基于STL时序分解与知识图谱推理的AIOps根因定位系统设计与实现

HeteroFlow 异构算力调度平台于 2026 年 8 月 8 日推理服务正式发布

LLM全链路工程实战：从QLoRA大模型微调到vLLM推理的性能极致榨取

浏览器也能秒级处理视频换脸：Timeline Studio 的 WebGPU 本地推理实践

本地大模型常见异常全解：显存溢出、推理慢、驱动报错、环境冲突调试指南.181

聚搜云：用eBPF排查AI推理服务抖动：从CPU调度到网络延迟完整指南

从推理模型到具身智能：veRL 为什么正在成为后训练基础设施

从经典本体模型推理问题谈起，什么才是本体模型+AI大模型结合的最佳模式

资源下载

Mario

Nacos

Rocky Linux

Sublime Text

欢迎您来访！