搜索[lm]结果-低调大师优秀个人博客

精选列表

搜索[lm]，共657篇文章

基于 Megatron 的多模态大模型训练加速技术解析

虚拟流水线并行特性：虚拟流水线并行，或 interleaved 1F1B PP 是 Megatron-LM 在1F1B的流水线并行实现上的重要改进。

2025-03-11

Llama 3.1 - 405B、70B 和 8B 的多语言与长上下文能力解析

405b-instruct/ Meta 博文 https://ai.meta.com/blog/meta-llama-3-1/ 致谢没有成千上万社区成员对 transformers、tgi、vllm、pytorch、LM

2024-07-25

百亿大规模图在广告场景的应用

动作：之前工作主要聚焦于结构相似性或者基于规则的语义相似性降噪，不同层面存在稀疏表示和节点覆盖问题，因此我们提出基于变分EM框架进行LM和GNN联合训练，通过联合训练融合结构和语义信息进行图结构降噪。

2024-05-29

每日一博 | 混合专家模型 (MoE) 详解

stanford-futuredata/megablocks Fairseq: https://github.com/facebookresearch/fairseq/tree/main/examples/moe_lm

2023-12-30

混合专家模型 (MoE) 详解

stanford-futuredata/megablocks Fairseq: https://github.com/facebookresearch/fairseq/tree/main/examples/moe_lm

2023-12-26

智慧档案馆国产一体化管库系统，八防指标智能联动调控实践

档案库区照度≤50lx，紫外辐射值≤10μW/lm；阅览区单独设置基线。自然光、人工紫外光源会加速纸张木质素光氧化发黄、褪色、字迹消褪。控制执行单元：电动遮光窗帘、紫外消毒灯、库区照明回路。 1.

2026-10-28

风控开发指南：Go集成全国车辆配置查验实现精准合规审查

YOUR_ACCESS_ID_HERE" \ -H "Content-Type: application/json" \ -d '{ "data": "nS8uK1rM5+X0wE9tV2yW4zB8aC1dE3fG5hI7jK9lM1nO3pQ5rS7tU9vW1xY3zA5bC7dE9fG1hI

2026-10-26

Agent渡劫48关-第42关-怎么防止微调以后模型忘掉原能力？

lora_alpha=32, lora_dropout=0.05, bias='none', target_modules=['q_proj', 'v_proj'], task_type='CAUSAL_LM

2026-09-15

看完最近 1 个月的 GBD 论文，我把 5 篇中国团队的全拆给你看：选题套路 + 怎么发 SCI

> - **橙线 = 低收入国家 (GNI-L)**：发病率 2023 起开始下降（医保覆盖+早诊普及） > - **蓝线 = 中低收入 (GNI-LM)**：发病率走势平稳，但死亡率 2020 后抬升

2026-07-28

使用 Sealed Secrets 在 Kubernetes 中管理密钥安全

GQwZuk2yjJSDTpUesSoZS2cD7kSb6Zkqc3frbgLlT/MOa9VEVqo7SL4WTA1YDBlWNe38jeIENvzjHUHV7YAx341BHfeOK7duIZUWCASNf2Sg9i/Lj+RwCJYZOI9LM2fDjgl4PcNIj1ul

2026-07-28

ChatGPT数据集之谜

MT-NLG是微软Turing NLG（拥有170亿参数）和英伟达Megatron-LM（拥有83亿参数）的“继任者”。

2023-02-14

解读 Pathways （二）：向前一步是 OneFlow

GPT-3， TensorFlow 团队还是研发了Mesh-tensorflow、GPipe、GShard、GSPMD，虽然 PyTorch 还没有解决这些问题，但英伟达在其基础上做了Megatron-LM

2022-04-11

LogMiner vs 裸日志解析（十五）：给表中间加一列，为什么能把同步链路搞挂？

ny5PT6eerjXRMMWbNkcGp0qwm2eQuXm+vVKpeVpEmSODUNnz1/qVs5MJvUqVJ4nAlgmzHjT4JhzbrN5v/48eJK/jzeR8VHNislgxxnHrg+555LM3XdN7yV

2026-10-13

AI面试八股文-05_4-Transformer架构与注意力机制面试题

| --- | --- | | 架构 | Encoder only | Decoder only | | 注意力 | 双向 | 单向(masked) | | 训练 | MLM + NSP | 自回归LM

2026-10-25

还在手动做重复工作？20款桌面Agent盘点，0基础新手上手实战

模型高度自由（兼容GPT/Claude/Kimi/DeepSeek/通义/智谱/MiniMax + OpenRouter + Ollama/LM Studio）。 **使用教程**： 1.

2026-07-24

每日一博 | 机器学习硬件十年：性能变迁与趋势

15 可参阅 [Megatron-LM: 使用模型并行训练数十亿参数的语言模型](https://lilianweng.github.io/posts/2021-09-25-train-large/)，

2023-12-12

机器学习硬件十年：性能变迁与趋势

15 可参阅 [Megatron-LM: 使用模型并行训练数十亿参数的语言模型](https://lilianweng.github.io/posts/2021-09-25-train-large/)，

2023-12-05

eyJhbGciOiJSUzI1NiIsImtpZCI6InBDdkJ1VWZFZENYbEd3ZGVrc3FldlhXWG94QU0ySjN1M1Y4ZVRJOUZPd1UifQ.eyJpc3MiOiJrdWJlcm5ldGVzL3NlcnZpY2VhY2NvdW50Iiwia3ViZXJuZXRlcy5pby9zZXJ2aWNlYWNjb3VudC9uYW1lc3BhY2UiOiJrdWJlcm5ldGVzLWRhc2hib2FyZCIsImt1YmVybmV0ZXMuaW8vc2VydmljZWFjY291bnQvc2VjcmV0Lm5hbWUiOiJhZG1pbi11c2VyLXRva2VuLXA3d2djIiwia3ViZXJuZXRlcy5pby9zZXJ2aWNlYWNjb3VudC9zZXJ2aWNlLWFjY291bnQubmFtZSI6ImFkbWluLXVzZXIiLCJrdWJlcm5ldGVzLmlvL3NlcnZpY2VhY2NvdW50L3NlcnZpY2UtYWNjb3VudC51aWQiOiIwZTlmNTQwNi0zYzI2LTQxNDEtYTIzMy1mZjRlYWE4NDE0MDEiLCJzdWIiOiJzeXN0ZW06c2VydmljZWFjY291bnQ6a3ViZXJuZXRlcy1kYXNoYm9hcmQ6YWRtaW4tdXNlciJ9

2021-07-06

Kubernetes v1.10.x HA 全手动安装教程(TL;DR)

eyJpc3MiOiJrdWJlcm5ldGVzL3NlcnZpY2VhY2NvdW50Iiwia3ViZXJuZXRlcy5pby9zZXJ2aWNlYWNjb3VudC9uYW1lc3BhY2UiOiJrdWJlLXN5c3RlbSIsImt1YmVybmV0ZXMuaW8vc2VydmljZWFjY291bnQvc2VjcmV0Lm5hbWUiOiJkYXNoYm9hcmQtdG9rZW4tdzVocmgiLCJrdWJlcm5ldGVzLmlvL3NlcnZpY2VhY2NvdW50L3NlcnZpY2UtYWNjb3VudC5uYW1lIjoiZGFzaGJvYXJkIiwia3ViZXJuZXRlcy5pby9zZXJ2aWNlYWNjb3VudC9zZXJ2aWNlLWFjY291bnQudWlkIjoiYWJmMTFjYzMtZjRlYi0xMWU3LTgzYWUtMDgwMDI3NjdkOWI5Iiwic3ViIjoic3lzdGVtOnNlcnZpY2VhY2NvdW50Omt1YmUtc3lzdGVtOmRhc2hib2FyZCJ9

2018-12-13

ogMiner vs 裸日志解析（十二）：上了全闪 ASM，日志解析为什么还是快不起来？

/+POA91ydWjXsuoYN3AIJ72/mWb/+7l7jWFqmJYWGm+vk/3c5AACnGhIgAIA0l5qB/huaNLLBTz0TdVVsWlBw4dwK5VzrE60cv71lM5vwxtsh1xvz3HgbMfqFZFdHRFrpLhfVqGpvTRxnKUXBtmGjxgUEx9XeITWoV

2026-10-10

资源下载

更多资源

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。