搜索[LLM聚合]结果-低调大师优秀个人博客

精选列表

搜索[LLM聚合]，共9594篇文章

「DeepSeek 技术解析」：LLM 训练中的强化学习算法

编者按：本文首先解析了为什么 LLM 训练需要强化学习，详细讲解了 RL 和 RLHF 的工作原理；继而系统比较基于价值、基于策略和 Actor-Critic 三大强化学习范式的优缺点；最后深入剖析

2025-05-27

通过阿里云 Milvus 和 LangChain 快速构建 LLM 问答系统

此外，结果可以通过将问题直接查询LLM模型得到的答案进行核实。操作流程步骤一：部署对话模型推理服务进入模型在线服务页面。

2024-12-16

LLM 工程师入门：生成式AI的简易指南

编者按：大模型发展了近两年，Baihai IDP 也分享了近百篇LLM各环节的技术洞察，有前沿探讨、有落地实践、有应用经验。但回头来看，我们似乎从来没有认真、从0开始探讨过LLM的基本原理。

2024-09-06

更难、更好、更快、更强：LLM Leaderboard v2 现已发布

因此，我们推出了 Open LLM Leaderboard v2！

2024-06-26

什么是LLM大模型训练，详解Transformer结构模型

本文分享自华为云社区《LLM 大模型学习必知必会系列(四)：LLM训练理论篇以及Transformer结构模型详解》，作者：汀丶。

2024-06-04

LLM Serving 有效吞吐量的最大化实现

几乎所有流行的LLM serving引擎都把吞吐量作为比较性能的主要指标，如vLLM和TensorRT-LLM。

2024-05-31

基于 LLM 大模型 Agent 的适用范围和困境

背景当下LLM大模型如火如荼的进行着，各大互联网厂商基本都有在训练&推出自研的大模型，chatgpt，千问、moonshot的kimi。基于这些大模型也涌现了出了很多的应用。

2024-04-19

LLMStack —— 本地构建 LLM 应用的自托管低代码平台

它可以帮助你管理可连接到 LLM 应用程序的数据，以创建上下文感知的生成式 AI 应用程序。使用 LLMStack 的无代码构建器无缝集成你自己的数据和 GPT 支持的模型，无需任何编码经验。

2024-03-31

LLM 推理优化探微 (2) ：Transformer 模型 KV 缓存技术详解

编者按：随着 LLM 赋能越来越多需要实时决策和响应的应用场景，以及用户体验不佳、成本过高、资源受限等问题的出现，大模型高效推理已成为一个重要的研究课题。

2024-03-06

AI2 开源新 LLM，重新定义 open AI

该组织表示，他们开源 OLMo 模型旨在让 AI 研究社区充分了解最先进的大语言模型（LLM），从而推动自然语言处理的发展，并以科学的方式正视现有 LLM 存在的问题。

2024-02-02

Prompt flow —— 构建高质量的 LLM 应用程序

Prompt flow是一套开发工具，旨在简化基于 LLM 的人工智能应用程序的端到端开发周期，从构思、原型设计、测试、评估到生产部署和监控。

2023-12-16

开源中国发布大模型技术图谱（LLM Tech Map）

LLM 技术图谱 (LLM Tech Map) 是将 LLM 相关技术进行系统化和图形化的呈现，此图谱主要特点是“专注于技术人视角”，不求从 LLM 产业角度汇聚信息，而是希望让从事相关工作或是想了解

2023-10-12

解码 LangChain｜用 LangChain 和 Milvus 从零搭建 LLM 应用

作为开发 LLM 应用的框架，LangChain 内部不仅包含诸多模块，而且支持外部集成；Milvus 同样可以支持诸多 LLM 集成，二者结合除了可以轻松搭建一个 LLM 应用，还可以起到强化 ChatGPT

2023-07-19

可能是最全的开源 LLM （大语言模型）整理

LLM 通常基于神经网络模型，使用大规模的语料库进行训练，比如使用互联网上的海量文本数据。

2023-05-09

LLM 基准测试：Vicuna 夺冠，清华 ChatGLM 排名第五

LMSYS ORG (Large Model Systems Organization) 最新推出了一个大语言模型 (LLM) 基准平台 Chatbot Arena，旨在对目前市场上的大语言模型进行基准测试

2023-05-05

Databricks 开源 LLM，训练只需三个小时、30 美元

大数据分析公司 Databricks Inc 近日也加入了生成式 AI 领域的竞争之中，发布了一个名为 Dolly 的开源大型语言模型，将模型命名为 Dolly 是为了向第一只克隆羊多莉致敬。像 ChatGPT 和 Bard 这样的生成式 AI，它们使用的数据通常来自于在成千上万不同网站，使用的数据量十分惊人，而且想要使用这些数据训练 AI 还需要数以千计的强大 GPU 在背后提供支持。 Databricks 希望通过开源 Dolly 及其训练数据，让任何人都能开发出一个真正像人类的 AI，而无需投资数百万美元，也让这类 AI 不再是只有大型科技公司才能负担得起的东西，数以百万计的小公司也将能够从中受益。除此之外，让各个小公司构建自己的模型，而不将数据通过 API 发送给专有模型背后的服务提供商，也可以保护小公司的敏感数据和专有的知识产权。此外，一些公司可能在模型质量、成本和期望行为方面有不同的权衡，这些公司也可以根据需求调整模型。 Databricks 首席执行官 Ali Ghodsi 表示，Dolly 只需要非常少的数据和非常短的时间就能完成训练。只需 30 美元、一台服务器和三个小时，我们就能教 Dolly 开始进行人类级别的交互。 Databricks 没有从头开始创建自己的模型，而是基于 EleutherAI 在 2021 年开源的自然语言处理模型 —— GPT-J。GPT-J 是一个基于 GPT-3，由 60 亿个参数组成的自然语言处理 AI 模型。该模型在一个 800GB 的开源文本数据集上进行训练，并且能够与类似规模的 GPT-3 模型相媲美。 Databricks 说，尽管模型小得多，只有 60 亿个参数，以及较小的数据集和训练时间（ChatGPT 的参数是 1750 亿个），但 Dolly 仍然表现出了 ChatGPT 所展示的同样的 "神奇的人类互动能力"。 Databricks 目前已经在 GitHub 上开源了一个简单的 Databricks notebook，开发者可以使用它在 Databricks 上自己构建 Dolly。

2023-03-28

多通道聚合：游戏加速器 SDK 集成的核心原理与实战

对游戏开发者而言，"如何让玩家在弱网、跨网、拥塞场景下获得稳定低延迟的体验"是一个长期难题。游戏加速器领域目前主要有两条技术路线：

2026-08-10

AI中转与API聚合平台对比推荐

国产OpenRouter平替哪个好用？从协议兼容、模型覆盖到企业级稳定性的深度对比分析

2026-08-10

Knife4j v4.4.0 发布，OpenAPI 自动注册聚合功能实现

常规迭代(开源版本) 1、针对eureka注册中心将服务名称转大写的情况，knife4j-gateway聚合失败的处理，感谢DongLiusuoPR贡献Gitee#93 2、debug发送body请求下载的情况下返回文件乱码

2023-12-11

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。