搜索[transformer]结果-低调大师优秀个人博客

精选列表

搜索[transformer]，共1146篇文章

espnet中的transformer和LSTM语言模型对比实验

Transformer 图中红框内为Encoder框架，黄框内为Decoder框架，其均是由多个Transformer Block堆叠而成的。

2022-03-30

spaCy v3.0.0 发布，提供基于 transformer 的管道

它具有用于最新模型的基于 transformer的管道、对 PyTorch 和 TensorFlow 中的自定义模型的支持、新的 training system 以及一些其他功能。

2021-02-02

谷歌创始人亲自回答：Transformer能通向AGI吗？

6 月初，Google DeepMind Build Day 活动期间，他坐下来，接受了一场完全没有脚本的现场问答，主题是「前沿 AI」。

2026-07-13

什么是LLM大模型训练，详解Transformer结构模型

本文分享自华为云社区《LLM 大模型学习必知必会系列(四)：LLM训练理论篇以及Transformer结构模型详解》，作者：汀丶。

2024-06-04

LLM 推理优化探微 (2) ：Transformer 模型 KV 缓存技术详解

为此，Baihai IDP 推出 Pierre Lienhart 的系列文章，从多个维度全面剖析 Transformer 大语言模型的推理过程，以期帮助读者对这个技术难点建立系统的理解，并在实践中做出正确的模型服务部署决策

2024-03-06

EasyCV 开源｜开箱即用的视觉自监督+Transformer算法库

作者：谦言、临在一导读近年来，自监督学习和Transformer在视觉领域大放异彩。

2022-09-07

NVIDIA BERT 推理解决方案 Faster Transformer 开源了

NVIDIA BERT推理解决方案Faster Transformer开源了 Faster Transformer是一个基于CUDA和cuBLAS的Transformer Encoder前向计算实现，其优越的性能将助力于多种

2019-07-16

LLM 基础：不懂 Transformer 就搞 Agent？这份速成指南救你

在上一章中，我们搭建好了 AI Agent 的开发环境、理清了智能体的架构与框架选型。从本章开始，我们正式进入AI Agent 底层核心技术栈实战学习。

2026-08-24

微软研究院发布 RenderFormer，基于 Transformer 的神经渲染模型

RenderFormer整体架构如下：双分支Transformer架构：分为视角无关（View-Independent）和视角相关（View-Dependent）两个阶段。

2025-09-15

结合RNN与Transformer双重优点，深度解析大语言模型RWKV

Transformer模型在处理长序列时的计算复杂度问题。

2024-07-05

当尺度感知调制遇上 Transformer，会碰撞出怎样的火花？

作者｜ AFzzz 1 文章介绍近年来，基于Transformer和CNN的视觉基础模型取得巨大成功。

2023-10-09

CVPR 2021 | 基于Transformer的端到端视频实例分割方法

基于以上的思考，我们选取了一个同时能够进行序列的建模和相似度学习的模型，即自然语言处理中的Transformer[5]模型。

2021-06-04

大模型本质是词语接龙：Transformer的极简进化史

跟豆包聊天的时候会发现它是一个词一个词地往外蹦，这是因为大语言模型本质上在玩词语接龙。这跟手机打字时输入法猜你下一个词想打什么很像，比如打了个“今天”，输入法会蹦出“天气”“吃”“星期几”之类的候选。

2026-09-19

【论文解读】BMSFormer：基于轻量化Transformer的锂电池SOH估计

锂离子电池在各类储能与动力系统中得到了广泛应用，实时、准确地估计电池健康状态对于保障系统安全至关重要，但传统的深度学习模型往往计算量庞大，难以直接部署在计算与存储资源受限的电池管理系统中。针对这一问题，论文《BMSFormer: An efficient deep learning model for online state-of-health estimation of lithium-ion batteries under high-frequency early SOC data with strong correlated single health indicator》提出了一种兼顾全局特征提取与轻量化计算的健康状态估计方法。

2026-09-12

手写大模型：在NumPy的方寸之间，重建Transformer的灵魂

大模型时代，开发者被层层封装包围：HuggingFace的 AutoModel、PyTorch的 nn.Transformer、TensorFlow的 Keras……我们像熟练的API调酒师，却越来越像

2026-08-29

基于 Transformer 的股票价格预测与量化交易策略实现

Transformer 架构凭借多头自注意力机制，能够并行建模任意时间步间的依赖关系，在自然语言处理领域大放异彩，并迅速被引入金融时间序列预测。

2026-08-22

GGUF quantizer 独立指认 Transformer 三段式深度结构

我们刚刚完成了老旧 V100 上 bs=1 decode 的收官优化——Qwen3-8B TPOT 34.53 → 22.39 ms（1.54×），追回 llama.cpp gap 的 52-53%。整个过程里发现了一个当时觉得"是 Qwen 家族偶然"的现象：

2026-07-13

全球首个面向遥感任务设计的亿级视觉Transformer大模型

因此，在本文中，我们也研究了视觉Transformer（Vision Transformer）的骨干网络，它们在计算机视觉领域表现出了令人惊讶的性能。

2023-02-01

Transformer的潜在竞争对手QRNN论文解读，训练更快的RNN

为了克服这些问题，诸如CNN-LSTM，Transformer，QRNNs之类的架构蓬勃发展。

2020-10-12

如何结合TCN、通道注意力机制（ CAM）和Transformer网络来实现时间序列预测 TCN+transformer+通道注意力机制时间序列预测 TCN++

TCN+transformer+通道注意力机制时间序列预测TCN++DCA+transformer自己研究的创新点，超级新。可以发刊，高精度代码。需知：好的创新性模型可以事半功倍。

2026-07-18

资源下载

更多资源

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。