搜索[transformer]结果-低调大师优秀个人博客

精选列表

搜索[transformer]，共1145篇文章

心电图时序信号AI分类：从心拍分割到LSTM与Transformer建模

心电图记录的是心肌电活动随时间变化的电位差，是一条典型的一维时序信号。它没有图像的二维空间结构，也没有文本的离散词表，全部信息都压缩在振幅、时间与形态三者的耦合关系里：P波对应心房除极，QRS波群对应心室除极，T波对应心室复极，三者的出现顺序、持续时长与相互间期共同构成节律判读的依据。传统读图依赖医生经验，长时程监测下动辄数万心拍，工作量大且容易漏掉间歇性发作的心律失常；固定阈值规则虽可自动化，却难以覆盖形态变异与个体差异。把分类交给时序模型，前提是先理解这条信号在工程上被如何拆解与重建。

2026-09-18

. | 双图表示增强Transformer模型的分子性质预测

近年来，Transformer模型凭借全局自注意力机制逐渐应用于分子学习，但如何充分编码原子、化学键、拓扑结构及立体几何信息，仍然是限制模型性能的重要因素。

2026-07-13

LLM 推理优化探微 (1) ：Transformer 解码器的推理过程详解

本文是该系列文章的第一篇，作者的核心观点是：透彻理解 Transformer 解码器的推理过程，是实现大语言模型高性能服务的基础。

2024-01-31

ICCV 2023 ｜当尺度感知调制遇上Transformer，会碰撞出怎样的火花？

作者｜ AFzzz 1 文章介绍近年来，基于Transformer和CNN的视觉基础模型取得巨大成功。

2023-10-09

使用 DeepSpeed 和 Hugging Face 🤗 Transformer 微调 FLAN-T5 XL/XXL

www.philschmid.de/fine-tune-flan-t5-deepspeed 原文作者: Philipp Schmid 译者: Matrix Yao (姚伟峰)，英特尔深度学习工程师，工作方向为 transformer-family

2023-03-21

手写大模型核心：从零实现一个最小生成式Transformer

很多人觉得大语言模型（LLM）是一个深不可测的黑箱，动辄千亿参数、万卡集群。但剥开工程化的外壳，其核心推理架构用几十行代码就能讲清楚。今天，我们就手写一个“微缩版”大模型——它具备GPT系列最根本的因果自注意力与前馈网络，能真正运行并生成文本。代码极简，但灵魂俱全。

2026-08-30

算法视角下的大模型：数据结构如何在Transformer中重塑智能

当人们谈论大模型时，焦点往往落在“万亿参数”和“海量数据”这两个显性指标上。但在这些数字背后，真正决定模型能力的是一整套精密的数据结构和算法设计——从Token的向量化表示，到注意力机制中的矩阵运算，再到推理阶段的KV缓存管理，数据结构的选择与优化贯穿了大模型的整个生命周期。

2026-07-16

亚马逊被曝重启智能手机项目：代号"Transformer"，押注AI原生体验

根据路透社的报道，亚马逊正秘密开发一款代号为"Transformer"的新款智能手机，这是继11年前Fire Phone惨败后，亚马逊再次进军手机市场的重大尝试。

2026-03-23

从 Transformer 到 Mamba

这种被谷歌命名为 transformer 的新架构，其重要性不言而喻，因为它消除了扩展语言模型的一个关键障碍。

2025-02-08

Transformer 作者最新访谈：为什么谷歌没第一个做出 ChatGPT

2017 年，谷歌的八位机器学习研究员发表了一篇具有开创性的研究论文《Attention Is All You Need》，首次提出了 Transformer AI 架构。

2024-11-18

万事通，专精部分领域的多功能 Transformer 智能体

该项目最初是作为对 Gato (Reed 等，2022 年) 工作的公开复现启动的，Gato 提出训练一种能够执行视觉与语言以及决策任务的 Transformer。

2024-05-13

RWKV 元始智能完成种子轮融资，非 Transformer 架构的开源大语言模型

元始智能是一家国产开源非Transformer架构大语言模型提供商，其核心产品RWKV兼具Transformer和RNN的优势：推理效率高且恒定，显存占用少且恒定，支持无限上下文，对芯片友好。

2024-01-18

消除视觉Transformer与卷积神经网络在小数据集上的差距

摘要：本文通过多种操作构建混合模型，增强视觉Transformer捕捉空间相关性的能力和其进行通道多样性表征的能力，弥补了Transformer在小数据集上从头训练的精度与传统的卷积神经网络之间的差距。

2022-12-23

GEO王涛解码智能核心：详解Transformer与注意力机制的工作原理

Transformer 是当前主流大语言模型的底层架构基础；理解其工作机制有助于判断模型在长文本、指代消解和多轮对话场景中的能力边界。

2026-09-07

读懂 AI 自注意力机制：从 "人怎么找重点" 到 Transformer 的心脏

人的做法完全不同。读一句话时，我们会自动把注意力分配给相关的词—— 读 "它" 时，我们会回头去看 "书"。"注意力机制" 的思想就是把这个能力数学化：让模型在生成或理解每个词时，主动去 "关注" 序列中所有其他位置，并给它们分配不同的权重。

2026-08-28

零基础手写大模型：从Transformer到GPT的PyTorch完整实现与训练实战

在HuggingFace Transformers等强大库已高度封装的今天，手写大模型依然有不可替代的价值：彻底理解每一处细节，才能调优、定制和诊断模型。本文面向具备Python基础但无深度学习框架经验的读者，从零构建一个轻量级GPT风格解码器，并在莎士比亚风格文本上训练，最终实现续写生成。

2026-08-29

ViTPose+：迈向通用身体姿态估计的视觉Transformer基础模型 | 京东探索研究院

在身体姿态估计任务上，使用CNN提取的特征，结合定制化的transformer模块进行特征增强，视觉transformer取得了很好的效果。

2023-09-07

大语言模型的基石：Transformer 入坑笔记（四） - 线性注意力(Linear Attention) 的基础

接上文《大语言模型的基石：Transformer 入坑笔记（三） - 注意力机制和 Transformer》。

2026-09-07

LLM大语言模型算法工程师实战：从Transformer到RLHF的完整技术栈解析

本文将以 LLaMA-like 架构为基础，从零实现核心模块，并给出训练/推理的可执行代码片段。

2026-08-25

大模型幻觉本质：源于Transformer架构天生固有缺陷 + RAG根治方案参数调优18.4

但实际行业踩过无数坑后才明白，幻觉从来不是程序故障，而是Transformer天生自带的架构短板。

2026-08-04

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。