搜索[LLM]结果-低调大师优秀个人博客

精选列表

搜索[LLM]，共2525篇文章

LLM 工程师入门：生成式AI的简易指南

编者按：大模型发展了近两年，Baihai IDP 也分享了近百篇LLM各环节的技术洞察，有前沿探讨、有落地实践、有应用经验。但回头来看，我们似乎从来没有认真、从0开始探讨过LLM的基本原理。

2024-09-06

更难、更好、更快、更强：LLM Leaderboard v2 现已发布

因此，我们推出了 Open LLM Leaderboard v2！

2024-06-26

什么是LLM大模型训练，详解Transformer结构模型

本文分享自华为云社区《LLM 大模型学习必知必会系列(四)：LLM训练理论篇以及Transformer结构模型详解》，作者：汀丶。

2024-06-04

LLM Serving 有效吞吐量的最大化实现

几乎所有流行的LLM serving引擎都把吞吐量作为比较性能的主要指标，如vLLM和TensorRT-LLM。

2024-05-31

基于 LLM 大模型 Agent 的适用范围和困境

背景当下LLM大模型如火如荼的进行着，各大互联网厂商基本都有在训练&推出自研的大模型，chatgpt，千问、moonshot的kimi。基于这些大模型也涌现了出了很多的应用。

2024-04-19

LLMStack —— 本地构建 LLM 应用的自托管低代码平台

它可以帮助你管理可连接到 LLM 应用程序的数据，以创建上下文感知的生成式 AI 应用程序。使用 LLMStack 的无代码构建器无缝集成你自己的数据和 GPT 支持的模型，无需任何编码经验。

2024-03-31

LLM 推理优化探微 (2) ：Transformer 模型 KV 缓存技术详解

编者按：随着 LLM 赋能越来越多需要实时决策和响应的应用场景，以及用户体验不佳、成本过高、资源受限等问题的出现，大模型高效推理已成为一个重要的研究课题。

2024-03-06

AI2 开源新 LLM，重新定义 open AI

该组织表示，他们开源 OLMo 模型旨在让 AI 研究社区充分了解最先进的大语言模型（LLM），从而推动自然语言处理的发展，并以科学的方式正视现有 LLM 存在的问题。

2024-02-02

Prompt flow —— 构建高质量的 LLM 应用程序

Prompt flow是一套开发工具，旨在简化基于 LLM 的人工智能应用程序的端到端开发周期，从构思、原型设计、测试、评估到生产部署和监控。

2023-12-16

开源中国发布大模型技术图谱（LLM Tech Map）

LLM 技术图谱 (LLM Tech Map) 是将 LLM 相关技术进行系统化和图形化的呈现，此图谱主要特点是“专注于技术人视角”，不求从 LLM 产业角度汇聚信息，而是希望让从事相关工作或是想了解

2023-10-12

解码 LangChain｜用 LangChain 和 Milvus 从零搭建 LLM 应用

作为开发 LLM 应用的框架，LangChain 内部不仅包含诸多模块，而且支持外部集成；Milvus 同样可以支持诸多 LLM 集成，二者结合除了可以轻松搭建一个 LLM 应用，还可以起到强化 ChatGPT

2023-07-19

可能是最全的开源 LLM （大语言模型）整理

LLM 通常基于神经网络模型，使用大规模的语料库进行训练，比如使用互联网上的海量文本数据。

2023-05-09

LLM 基准测试：Vicuna 夺冠，清华 ChatGLM 排名第五

LMSYS ORG (Large Model Systems Organization) 最新推出了一个大语言模型 (LLM) 基准平台 Chatbot Arena，旨在对目前市场上的大语言模型进行基准测试

2023-05-05

Databricks 开源 LLM，训练只需三个小时、30 美元

大数据分析公司 Databricks Inc 近日也加入了生成式 AI 领域的竞争之中，发布了一个名为 Dolly 的开源大型语言模型，将模型命名为 Dolly 是为了向第一只克隆羊多莉致敬。像 ChatGPT 和 Bard 这样的生成式 AI，它们使用的数据通常来自于在成千上万不同网站，使用的数据量十分惊人，而且想要使用这些数据训练 AI 还需要数以千计的强大 GPU 在背后提供支持。 Databricks 希望通过开源 Dolly 及其训练数据，让任何人都能开发出一个真正像人类的 AI，而无需投资数百万美元，也让这类 AI 不再是只有大型科技公司才能负担得起的东西，数以百万计的小公司也将能够从中受益。除此之外，让各个小公司构建自己的模型，而不将数据通过 API 发送给专有模型背后的服务提供商，也可以保护小公司的敏感数据和专有的知识产权。此外，一些公司可能在模型质量、成本和期望行为方面有不同的权衡，这些公司也可以根据需求调整模型。 Databricks 首席执行官 Ali Ghodsi 表示，Dolly 只需要非常少的数据和非常短的时间就能完成训练。只需 30 美元、一台服务器和三个小时，我们就能教 Dolly 开始进行人类级别的交互。 Databricks 没有从头开始创建自己的模型，而是基于 EleutherAI 在 2021 年开源的自然语言处理模型 —— GPT-J。GPT-J 是一个基于 GPT-3，由 60 亿个参数组成的自然语言处理 AI 模型。该模型在一个 800GB 的开源文本数据集上进行训练，并且能够与类似规模的 GPT-3 模型相媲美。 Databricks 说，尽管模型小得多，只有 60 亿个参数，以及较小的数据集和训练时间（ChatGPT 的参数是 1750 亿个），但 Dolly 仍然表现出了 ChatGPT 所展示的同样的 "神奇的人类互动能力"。 Databricks 目前已经在 GitHub 上开源了一个简单的 Databricks notebook，开发者可以使用它在 Databricks 上自己构建 Dolly。

2023-03-28

13大模块、900+资源，全网最全LLM学习路线！

原文：https://mp.weixin.qq.com/s/5YNt7jli8LRv6-EYq0SULw

2026-09-02

61 亿次请求背后：LLM Serving 的 Cache 与调度难题

随着 LLM 进入真实业务环境，LLM Serving 面临的问题正从单纯的单次推理加速，扩展到集群层面的资源调度与运行效率。

2026-08-25

LLM 基础：不懂 Transformer 就搞 Agent？这份速成指南救你

在上一章中，我们搭建好了 AI Agent 的开发环境、理清了智能体的架构与框架选型。从本章开始，我们正式进入AI Agent 底层核心技术栈实战学习。

2026-08-24

LLM 量化技术详解：GPTQ、AWQ 与 GGUF 的选型与实践

随着大语言模型参数规模从 7B 一路增长到 70B、405B 甚至更大，显存和推理成本成为落地部署的最大瓶颈。以 FP16 精度为例，一个 7B 模型仅权重就需要约 14GB 显存，70B 模型则超过 140GB，普通消费级显卡根本无法加载。

2026-08-14

JSON-LD与llm.txt：GEO优化谁更关键？

在 GEO 相关的研究与交流中，Geo专家于磊常被问到同一个问题：“我们到底该先做 JSON-LD，还是先上 llm.txt？”

2026-08-13

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。