标签:多头注意力
🔍 站内搜索
⏳ 搜索索引加载中...
被博客引用最多的致敬对象
基于 442 篇文章实际引用统计,按被引次数排序
- Language Models are Few-Shot Learners (GPT-3)被引用 167 次
- GNU Bash被引用 159 次
- Sequence to Sequence Learning with Neural Networks被引用 155 次
- GNU coreutils被引用 147 次
- GNU 项目被引用 146 次
- GNU Emacs被引用 146 次
- The Google File System被引用 105 次
- Bigtable: A Distributed Storage System for Structured Data被引用 89 次
- VS Code被引用 82 次
- GitHub CLI (gh)被引用 78 次
程序员生活
健康 · 心理 · 消费电子 — 程序员也是人
-
Transformer 原理图解:从 GPT-3 被引 167 次说起
Transformer 是 GPT-3、BERT、Claude 等所有大模型的共同祖先。CalcGuide 致敬论文中 GPT-3 被引用 167 次,本文用一张图拆解 Self-Attention、Multi-Head、位置编码三大核心,配合 arXiv:2005.14165 解读 1750 亿参数如何炼成。