《Attention is All You Need》,
https://arxiv.org/abs/1706.03762,这篇论文的引用量都已经快 10w 次了,它是深度学习里面最重要的文章之一,目前市面上流行的大部分大模型,包括 ChatGPT/Claude/Bard 等等都是以 Transformer 模型为理论基础发展起来的。
推荐李沐的这集科普《Transformer 论文逐段精读》,
https://www.bilibili.com/video/BV1pu411o7BE,花了一个半小时,一段一段带着阅读这篇论文,讲的非常好。