LLM Guide

Chinese-language articles migrated from MetaBlog; article text is presented in its original language.

1-导论与基础

· 导论与基础: 进入大模型世界的导航图 · 学习路线与知识图谱: 不同背景者的进阶地图人工智能学习路线 The Document is All You Need · 科普与行业杂谈: 大模型世界的生态图谱 · 发展历程与趋势展望: 从 Seq2Seq 到世界模型

2-核心原理与架构

核心原理与架构：从乐高积木到动力引擎深度学习基础组件：从感知机到Transformer的每一块砖静态知识的存储层：前馈网络 FFN 与激活函数优化曲面的平滑剂：归一化层 Hyper-Connections 与 mHC：残差主干在 2024-2026 年的新进展残差连接：从 ResNet 到 Transformer 的稳定主干 RoPE本体：旋转位置编码 RoPE扩展：长上下文、多模态与工程实现位置编码 (Positional Encoding - RoPE, ALiBi)· 基础注意力机制自注意力机制 MHA：多头注意力的标准形式 + 55 篇文章

10-综述与前沿论文

综述与前沿论文 2023年AI Agent调研 2024年终总结AI&Agents Allen AI OLMo: 全开源大模型生态 Automated Weak-to-Strong Researcher 解读从Llama3报告出发从Llama3报告出发的LLM基本技术整理 AAAI风格的Motivation ACL风格的Motivation 从OCR到OCR 2.0的演进 ICLR风格的Motivation ICML风格的Motivation + 18 篇文章

14-主流开源模型全景解析与技术报告精读

主流开源模型全景解析与技术报告精读 DeepSeek-Coder 技术报告精译 DeepSeek-Coder 核心架构剖析 DeepSeek-Coder 核心架构剖析 DeepSeek-Coder DeepSeek-Math 技术报告精译 DeepSeek-Math 数理逻辑解码 DeepSeek-Math DeepSeek-Math 数理逻辑解码 DeepSeek-V2: 一个强大、经济且高效的混合专家语言模型 DeepSeek-V2 核心架构剖析 DeepSeek-V2: DeepSeekMoE 架构与负载均衡工程 + 427 篇文章