搜索[模型部署]结果-低调大师优秀个人博客

精选列表

搜索[模型部署]，共10006篇文章

大模型"瘦身"革命：量化、蒸馏与边缘部署——端侧AI的工程化实战指南

5月，高通在Computex大会上正式发布新一代骁龙X Elite芯片，内置的Hexagon NPU算力突破100 TOPS（万亿次整数运算/秒），并现场演示了在笔记本端本地运行量化后的700亿参数大模型

2026-07-12

13GB 就能跑 27B 大模型？别急着下载，先看懂这笔本地部署账

最近，X 用户 Adrian Punk 分享了在 Windows 和 Linux 上通过 Ollama 运行 Qwen3.8 27B 量化模型的过程。

2026-09-04

内容运营自动化架构实践：RPA + 大模型实现采集清洗分发闭环，支持内网离线部署

我们负责的内容运营业务，日均需要处理200+篇行业资讯，来源涵盖微信公众号、知乎、技术博客RSS、GitHub Trending等12个平台。传统人工流程下，采集、清洗、分发三个环节存在明显瓶颈：

2026-08-24

通义千问1.5(Qwen1.5)大语言模型在PAI-QuickStart的微调与部署实践

4、通过PAI-QuickStart使用模型开发者可以在 PAI 控制台的“快速开始”入口，找到Qwen1.5系列模型，以Qwen1.5-7B-Chat为例，模型卡片如下图所示： 4.1 模型部署和调用

2024-03-05

全志V853开发板NPU转换部署 YOLO V5 模型详细教程

NPU 转换部署 YOLO V5 模型本文以 YOLO v5s 模型为例，详述 ONNX 模型在 V853 平台的转换与部署的流程。

2022-12-12

# OpenClaw 一键部署实战：把聚合 API 变成自己的常驻 AI 网关（含模型配置与排错）

我最近在服务器上部署了 OpenClaw，思路是：把聚合 API 变成一个自托管的 AI 网关 + WebUI，挂在服务器上 7×24 跑，网页随时访问，还能接 Telegram 当机器人。

2026-10-09

KWS 关键词识别完整方案：从模型训练到 Android Linux ESP32 Web 全平台部署

这种简化使得模型体积从几百 MB 骤降到 100KB 级别，推理延迟从数百毫秒降到 5ms 以内，功耗从明显发热降到几乎无感。

2026-07-27

PAI Model Gallery 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

、DeepSeek-R1以及所有蒸馏小参数模型（DeepSeek-R1-Distill）的一键部署。

2025-02-02

软件部署安全先行，新思科技发布软件安全构建成熟度模型BSIMM10

【51CTO.com原创稿件】2019年10月23日，新思科技(Synopsys)发布最新版本的软件安全构建成熟度模型(BSIMM)——BSIMM10，该模型旨在帮助企业规划、执行、完善和评估其软件安全计划

2019-10-28

多唤醒词识别方案：一个模型同时识别多个自定义唤醒词，全平台离线部署

传统唤醒词方案通常一个模型只识别一个词——"小爱同学"是一个模型，"天猫精灵"是另一个。

2026-07-25

阶跃星辰发布完全开源 GUI 智能体“GELab-Zero”：包含模型和基础设施、可本地部署

阶跃星辰宣布推出首个完全开源 GUI 智能体，由两个主要部分组成：即插即用的完整推理工程基础设施可本地运行的4B GUI Agent 模型 GELab-Zero提供了类似开源 GUI Agent MCP

2025-12-01

多模态大模型深度实践：从统一架构到端侧部署的全链路解析

早期的多模态模型多采用“视觉编码器 + 语言模型”的拼接式设计（如LLaVA），视觉特征通过投影层映射到LLM的输入空间。

2026-09-02

chatglm2-6b模型在9n-triton中部署并集成至langchain实践 | 京东云技术团队

三.部署实践 Triton默认支持的PyTorch模型格式为TorchScript，由于ChatGLM2-6B模型转换成TorchScript格式会报错，本文将以Python Backend的方式进行部署

2023-08-16

腾讯云国际渠道代理商：出海AI 团队低成本架构 Lighthouse 部署 Agent 与混元大模型优化

独立开发者、小型出海团队普遍面临两大痛点：算力基础设施成本高、直接调用大模型 API 带来的 Token 账单持续走高。

2026-09-11

很多人认为本地部署一个大模型，就实现 token 自由，就可以干活了，真的吗？

同事小王前两天很兴奋："我在本机跑起了 qwen2.5:7b，token 不要钱，以后再也不用充 API 了！"

2026-09-09

部署万台机器人后，酷哇科技官宣首席科学家，要让世界模型交付生产力

从顶尖人才引进到校企合作，两项动作都指向同一个目标：提升场景数据向模型能力的转化效率，升级面向多形态机器人的统一模型大脑，进而探索向更多产业应用拓展。

2026-08-03

SMS 部署实战：用四要素与两层模型，把数据库口令变成自动过期的临时账号

某团队在做安全审计时发现一个让人后背发凉的事实：他们的数据库 root 密码散落在 7 个不同的地方——配置文件 3 份、Git 提交历史里 2 次、运维群里传过 1 次、还有 1 个开发人员本地记事本里存着。更糟的是，这个密码已经两年没换过了。如果你也有类似的焦虑，这篇文章就是为你写的——我们用 SMS 凭据管理系统，从零开始落地，把"密码管理"升级为"动态访问控制"。

2026-07-25

RTX4090单卡跑32B参数模型实践：4bit量化+Transformers与vLLM双方案部署差异19.3

最近一直被32B环绕洗脑，本着体验和探索，核心思路就是聚焦实操体验与深度模型探索，抱着说干就干的落地心态，直面大模型本地部署的现实算力难题。

2026-08-12

新服务器从0到1完整部署实践：openEuler环境搭建ChatGLM2大模型完整流程.175

玩过Linux服务器部署的都知道，这事特别熬人、格外劳心，尤其是碰上特定定制版本的Linux系统，各种环境兼容、配置坑点层出不穷，稍有不慎就卡死报错，出于习惯，每次部署一个环境，都是边部署边记录，好溯源产生问题的原因

2026-07-24

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。