搜索[推理强度]结果-低调大师优秀个人博客

精选列表

搜索[推理强度]，共7403篇文章

智谱AI开源通用视觉推理模型 GLM-4.1V-Thinking

智谱AI于7月2日发布了GLM-4.1V-Thinking系列通用视觉推理模型，并宣布获得来自浦东创投集团和张江集团的10亿元联合战略投资。

2025-07-03

阿里推出长上下文推理模 QwenLong-L1-32B

阿里巴巴已于近日发布全新 AI 模型 QwenLong-L1-32B，一款基于强化学习（RL）优化的长上下文推理模型。

2025-05-27

视频模型+思维控制，AI推理再进化

Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。

2025-05-20

阶跃星辰发布多模态推理模型 Step-R1-V-Mini

阶跃星辰宣布推出全新多模态推理模型 Step-R1-V-Mini，支持图文输入、文字输出、有良好的指令遵循和通用能力，能够高精度感知图像并完成复杂推理任务。

2025-04-09

第四范式推出大模型推理端侧解决方案 ModelHub AIoT

第四范式宣布推出大模型推理端侧解决方案ModelHub AIoT，用户在端侧可轻松部署如DeepSeek R1、Qwen 2.5、Llama 2/3系列等小尺寸蒸馏模型，离线运行，并可灵活在多个模型之间切换

2025-02-26

网易有道开源“子曰-o1”推理模型，支持消费级显卡

网易有道宣布推出国内首个输出分步式讲解的推理模型“子曰-o1”，并正式开源。

2025-01-22

Kimi 联合清华大学等机构开源共建大模型推理架构 Mooncake

2024 年 6 月，月之暗面 Kimi 和清华大学 MADSys 实验室联合发布了 Kimi 底层的 Mooncake 推理系统设计方案。

2024-11-28

🔍Xinference v0.15.3 深度解读：新功能、新特性，助力智能推理！

Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。

2024-10-02

🎉Xinference v0.13.2 速递：模型推理新飞跃，AI 探索再升级！

Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。

2024-07-22

AI00 RWKV Server - 基于 RWKV 模型的推理 API 服务器

代码拉取完成，页面将自动刷新

2023-07-25

李彦宏：文心大模型 3.5 版推理速度提升 17 倍

与 3 月份的 3.0 版本相比，新版本训练速度提升了 2 倍，推理速度提升了 17 倍；模型效果累计提升超过 50%，在数据质量、生成效果和内容安全性上，都明显提升。

2023-06-27

Adlik Deer（V0.4.0）版本发布，模型推理加速就靠它啦

本次的新版本中，可以看到 Adlik 最近一段时间的许多技术探索，对优化器来说有集成蒸馏、Zen-NAS 优化等；推理引擎也更易用、支持更多硬件和推理运行时。

2021-12-03

干货｜ VTune对human-pose-estimation在CPU推理运行的性能分析

关注我们让开发变得更有趣来源| 康瑶明博客https://luckykang.github.io 排版| 李擎一、什么是VTune？ Vtune可视化性能分析器（Intel VTune Performance Analyzer）是一个用于分析和优化程序性能的工具，作为Intel为众多开发者们提供的专门针对寻找软硬件性能瓶颈的一款分析工具，它能帮助你确定程序的热点（hotspot），帮助你找到导致性能不理想的原因，从而让你能据此对程序进行优化。概括起来Vtune性能分析器能通过以下的手段帮助你发现和定位程序中的性能问题：从当前系统中收集性能数据从系统到源代码不同的层次上，以不同的互动形式来组织和展示数据发现潜在的性能问题，并提出改进措施。二、下载vtune： VTune的正式版的价格很贵，可以选择下载试用版，这里以2020_update2版本为例，下载地址为： https://software.intel.com/en-us/vtune/choose-download 选择版本和系统平台，这里以linux系统为例三、解压安装 1.解压安装包 2.安装进入解压目录，执行GUI界面安装，按照提示安装完成即可，sudo权限下默认安装路径为/opt/intel/ 如下图： 3.检查是否安装成功进入安装目录/opt/intel/vtune_profiler/bin64，执行自检脚本检查是否安装成功。如下图，该脚本在具有可靠热点的样本上运行多个代表性分析类型。脚本完成后，它会生成一个日志文件，并对检查的成功或失败进行诊断。下图为部分终端状态的截图，显示状态都是ok的，说明安装成功了。 4.配置VTune Amplifier环境在终端执行命令source /opt/intel/vtune_profiler/env/vars.sh或者在basrhc环境变量中写入该命令。四、新建性能分析工程，配置和运行 1.启动VTune性能分析器在目录/opt/intel/vtune_profiler/bin64执行sudo ./vtune-gui,启动vtune 2.按图操作，新建性能分析工程在弹出的对话框中填写项目名，点击创建。可以看到项目所在目录为/home/kang/intel/vtune/projects 3.填写项目路径和参数在Launch Application一栏填写要分析的目标文件的路径，这里我们以human_pose_estimation_demo为例演示找到该文件路径，选中文件并打开，vtune就会把路径自动填充到框内。在Application parameters一栏填写要分析的文件的执行参数打开右面界面，可以看到CPU的默认采样时间为10ms 4.运行分析，收集数据点击开始分析数据后，VTune就开始运行目标程序，并收集相关的性能数据五、性能分析停止数据分析后，可以获得几类数据，分别为“Collection Log”、“Summary”、“Bottom-up”、“Caller/Callee”、“Top-down Tree”和“Platform”。这里我们主要说一下Summary。Summary主要分析的数据有：“Elapsed Time（经过的总时间）”、“Effective CPU Utilization Histogram （有效的CPU利用率直方图）”和“Collection and Platform Info（收集信息和平台信息）”。 Elapsed Time信息，主要有 Effective Time (有效时间)、 Total Thread Count（总线程数量）、 Paused Time (暂停时间)。 Effective CPU Utilization Histogram信息，显示了CPU使用直方图 Collection and Platform Info信息，包含了应用程序命令行、操作系统、CPU等信息。 👇欢迎在留言区与我们互动哦，点击小程序留言区即可参与留言区 --------------------------------------- *OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries. ----------------------------- OpenVINO 中文社区微信号 : openvinodev B站：OpenVINO中文社区 “开放、开源、共创” 致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动，促进人工智能开发者之间的交流学习。 ○点击“在看”，让更多人看见点击阅读原文立即体验OpenVINO 本文分享自微信公众号 - OpenVINO 中文社区（openvinodev）。如有侵权，请联系 support@oschina.cn 删除。本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。

2020-09-02

前端智能化漫谈 (3) - pix2code推理部分解析

前端智能化漫谈 (3) - pix2code推理部分解析上一节我们将pix2code的流程梳理了一遍，相信大家已经都可以跑起来了。

2019-08-25

详解Google第二代TPU 既能推理又能训练性能霸道

详解Google第二代TPU 既能推理又能训练性能霸道转自：http://www.cnbeta.com/articles/tech/613639.htm 5月18日凌晨，Google CEOSundar

2017-11-14

认知安全：具备大规模理解、推理和学习能力的安全性

IT界的巨人IBM率先提出了认知安全，倡导以具备理解、推理和学习能力的安全性来发展防御能力，并预计于今年年末推出 Watson for Cyber Security。· 什么是认知安全?

2017-07-31

重磅 | DeepMind新神经网络学会关系推理，还击败了人类

雷锋网消息 Google旗下的DeepMind最近开发出了一种用于关系推理的人工神经网络，缩小了人工智能与人类在关系推理方面的差距。你正考虑入手的房子附近有多少个公园？

2017-07-31

集标注、训练、推理、部署企业级AI视觉开发一体化平台支持 YOLOv8/YOLO11/YOLO26，打通标注训练推理部署

❌ 标注数据太麻烦，LabelImg用腻了❌ 训练模型到处找脚本，环境配到崩溃❌ 模型训练完不会部署，学了一堆用不上❌ 要做视觉检测，时间紧还没头绪

2026-09-23

仅用笔记本电脑解析90%蛋白质，单卡推理序列长度破万！Colossal-AI开源方案让AlphaFold推理提速5倍，显存降低75%

但是实际部署AlphaFold模型也带来了诸多挑战： 1）AlphaFold推理对GPU显存的需求极大，使用原版AlphaFold推理长度为3千的氨基酸序列结构，至少需要60G显存。

2022-10-28

智谱 GLM 复盘推理基建：AI 干不动活，卡在反馈不可归因

我第一遍读 GLM 那篇推理基建复盘，注意力全在数字上：十万张以上的国产加速器、从跑通到生产不到两周、端到端吞吐三倍。

2026-09-19

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

精选列表

智谱AI开源通用视觉推理模型 GLM-4.1V-Thinking

阿里推出长上下文推理模 QwenLong-L1-32B

视频模型+思维控制，AI推理再进化

阶跃星辰发布多模态推理模型 Step-R1-V-Mini

第四范式推出大模型推理端侧解决方案 ModelHub AIoT

网易有道开源“子曰-o1”推理模型，支持消费级显卡

Kimi 联合清华大学等机构开源共建大模型推理架构 Mooncake

🔍Xinference v0.15.3 深度解读：新功能、新特性，助力智能推理！

🎉Xinference v0.13.2 速递：模型推理新飞跃，AI 探索再升级！

AI00 RWKV Server - 基于 RWKV 模型的推理 API 服务器

李彦宏：文心大模型 3.5 版推理速度提升 17 倍

Adlik Deer（V0.4.0）版本发布，模型推理加速就靠它啦

干货 ｜ VTune对human-pose-estimation在CPU推理运行的性能分析

前端智能化漫谈 (3) - pix2code推理部分解析

详解Google第二代TPU 既能推理又能训练 性能霸道

认知安全：具备大规模理解、推理和学习能力的安全性

重磅 | DeepMind新神经网络学会关系推理，还击败了人类

集标注、训练、推理、部署企业级AI视觉开发一体化平台 支持 YOLOv8/YOLO11/YOLO26，打通标注训练推理部署

仅用笔记本电脑解析90%蛋白质，单卡推理序列长度破万！Colossal-AI开源方案让AlphaFold推理提速5倍，显存降低75%

智谱 GLM 复盘推理基建：AI 干不动活，卡在反馈不可归因

资源下载

Mario

腾讯云软件源

Spring

Rocky Linux

欢迎您来访！

干货｜ VTune对human-pose-estimation在CPU推理运行的性能分析

详解Google第二代TPU 既能推理又能训练性能霸道

集标注、训练、推理、部署企业级AI视觉开发一体化平台支持 YOLOv8/YOLO11/YOLO26，打通标注训练推理部署