搜索[全模态推理]结果-低调大师优秀个人博客

精选列表

搜索[全模态推理]，共10005篇文章

面试大杂烩

该类从 META-INF/spring.factories 文件中读取所有自动配置类的全类名。

2025-09-18

EMNLP 2025｜vivo 等提出 DiMo-GUI：模态分治+动态聚焦，GUI 智能体推理时扩展的新范式

（GUI）定位任务中的挑战，通过动态视觉推理与模态感知优化显著提升性能。

2025-08-26

美团 LongCat 团队发布全模态一站式评测基准 UNO-Bench

评测现状：从单模态繁荣到全模态挑战当前，面向单模态的评测基准已发展成熟且生态繁荣。

2025-11-24

小龙虾养殖大模型全栈实战：从多模态分级到Agent投喂决策

改用Qwen-VL-Chat 或 LLaVA-NeXT 多模态模型，通过结构化提示词强制输出JSON分级报告。

2026-08-29

LLaMA架构深度解析：从开源大模型设计到高效推理的工程实现全流程

2023年Meta发布LLaMA系列模型，标志着开源大模型时代的到来。LLaMA-1证明了使用公开数据训练可以接近GPT-3级别的性能；LLaMA-2引入了GQA和更长的上下文；LLaMA-3在15T token上训练，性能全面超越GPT-3.5。LLaMA的架构设计影响了几乎所有后续开源模型——Alpaca、Vicuna、CodeLlama等都是基于LLaMA微调的。LLaMA的工程价值在于其简洁高效的架构：Decoder-Only、RoPE、RMSNorm、SwiGLU、GQA的组合成为现代大模型的事实标准。本文将深入解析LLaMA的架构设计并提供完整实现。

2026-08-24

大模型推理服务化：从 Embedding 到 LLM 的 K8s 部署全流程

摘要：大模型推理是 AI 应用提供服务的最终环节，通常表现为大规模、高并发、请求突发性强的在线服务。腾讯云容器服务 TKE 围绕模型推理场景提供推理加速框架 TACO、GPU 共享技术 qGPU、超

2026-08-10

没有推理轨迹，如何“偷走”模型的推理能力？

很多推理模型在回答复杂问题时，会在内部进行长链条推理，但这些完整的推理轨迹（Reasoning Trace），也就是我们常说的思维链，并不会全部展示给用户。

2026-08-18

无问芯穹开源全球首款端侧全模态理解模型：Megrez-3B-Omni

12 月 16 日，无问芯穹宣布全球第一款端侧全模态理解模型 Megrez-3B-Omni 开源。

2024-12-17

AI全栈驱动的UI自愈测试框架实战：融合视觉感知、LLM推理与强化决策

本文提出并实现一套融合计算机视觉、大语言模型（LLM）与强化学习（RL）的AI全栈测试框架。

2026-08-23

LLM全链路工程实战：从QLoRA大模型微调到vLLM推理的性能极致榨取

在开源大模型（如Llama 3、Qwen2.5）已然具备强大通用能力的今天，企业落地的核心痛点早已从“能不能做”转向了“怎么做才稳、快、省”。作为大模型工程师，我们面临的现实挑战极其残酷：

2026-08-04

本地大模型常见异常全解：显存溢出、推理慢、驱动报错、环境冲突调试指南.181

本地大模型即脱离云端API调用，将开源大语言模型权重文件下载至个人电脑、工作站、服务器本地，依托本机硬件算力完成模型加载、上下文编码、文本生成全流程运算的部署模式。区别于在线调用大模型，本地部署具备数据隐私性强、无调用频次限制、可离线运行、支持自定义微调与二次开发等核心优势，也是当下AI应用私有化落地、行业定制模型研发的核心基础路径。

2026-07-31

从多模态数据处理到模型训练：腾讯云EMR-Ray打通Data+AI全流程

团队需要先从对象存储读取海量视频，再完成格式校验、切分、抽帧、音频提取、画质过滤、图文匹配、内容安全检测和 Caption 生成；随后把处理结果转换为训练集，交给 GPU 集群进行分布式训练；训练结束后，还要保存模型产物、部署推理服务

2026-08-05

用 eBPF 给 AI 推理服务做"CT"：从系统调用到 GPU 瓶颈的全链路追踪

团队部署了一个 vLLM 推理服务，模型是 Llama 3 70B，8卡 A100。

2026-07-18

GPT-5.6 计费全解析：三款模型、五档推理与四个成本陷阱

2026 年 7 月 9 日，OpenAI 正式全量开放 GPT-5.6 系列，包含 Sol（旗舰）、Terra（均衡）、Luna（轻量）三款模型，覆盖 ChatGPT、Codex 与 API 渠道。

2026-07-12

从本地部署、推理加速到产业落地，昇腾AI基础设施驱动全栈技术升级

在近期 OSCHINA 举办的一场昇腾技术直播中，多位行业专家与开发者分享了昇腾在推理加速、行业落地及本地化部署中的实践成果，揭示了昇腾如何以全栈能力打破技术壁垒，成为 AI 普惠时代的核心引擎。

2025-05-13

腾讯发布推理框架 TNN 全平台版本，同时支持移动端、桌面端和服务端

TNN是腾讯开源的新一代跨平台深度学习推理框架，也是腾讯深度学习与加速Oteam云帆的开源协同成果，由腾讯优图实验室主导，腾讯光影研究室、腾讯云架构平台部、腾讯数据平台部等团队一起协同开发。

2021-04-28

推理实践丨如何使用MindStudio进行Pytorch模型离线推理

摘要：本教程所示例的任务是Ascend Pytorch离线推理，即对给定的已经训练好的模型参数和推理脚本，在Ascend 310/710和Tesla设备上进行推理应用。

2022-07-08

网页多模态建模思考

由于HTML的复杂性特点，使得网页体现出多模态性，多粒度性，并且这些模态内部存在复杂的对应关系。多模态性所谓多模态性，即从不同视角下，网页体现出不同的形态。

2024-12-26

ImageBind —— 多模态 AI 模型

ImageBind 是支持绑定来自六种不同模态（图像、文本、音频、深度、温度和 IMU 数据）的信息的 AI 模型，它将这些信息统一到单一的嵌入式表示空间中，使得机器能够更全面、直接地从多种信息中学习，

2023-05-11

蚂蚁从训练到推理的全栈实践

当前 AI 工程面临多重挑战：首先，成本问题是首要痛点，无论是训练还是推理成本，尤其是 AI 训练的试验成本亟需降低。

2024-03-27

大语言模型推理提速，TensorRT-LLM 高性能推理实践

TensorRT-LLM[1]是 NVIDIA 推出的大语言模型（LLM）推理优化框架。

2024-02-21

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。