AI 入门系列 26：什么是位置编码？
位置编码：给词语排序的关键技术上一篇我们聊了"词嵌入"——它能把每个词语变成数字向量，让计算机"读懂"文字。但词嵌入丢掉了一个关键信息：词语的顺序。"我打你"和"你打我"词语完全一样，顺序一变意思截然不同，词嵌入却无法区分。
从零学习大模型（5）——位置编码：让 AI 读懂 “语序” 的关键技术
在 Transformer 架构中，有一个容易被忽略却至关重要的模块 —— 位置编码（Positional Encoding，PE）。如果说注意力机制让模型能 “理解关联”，前馈神经网络让模型能 “提纯特征”，那么位置编码的作用就是让模型能 “感知顺序”。
终于看懂了！用纯可视化的视角，拆解 Transformer 位置编码
在上期内容中，我们看到了正余弦位置编码的公式。但公式是冰冷的，波形是鲜活的。这一刻，我想让你亲眼看见这些波形是怎么工作的。核心直觉只有一句话：不同频率的波形叠加在一起，让每个位置拥有独一无二的编码组合。
大模型解剖图火了，30多个开源模型架构差异一目了然，还可接入AI
Arcee AI 的 Trinity Large、月之暗面的 Kimi K2.5、阿里的 Qwen3.5、智谱 AI 的 GLM-5、Cohere 的 Tiny Aya…
5个时间序列预测的深度学习模型对比总结
Makridakis et al.， The M5 Accuracy competition: Results， findings and conclusions，D. Salinas et al.， DeepAR: Probabilistic forecasting with autoregressive recurrent networks， International Journal of Forecasting .
为什么 Transformer 模型位置编码选择三角函数？
在 Positional Encoding 系列中，我们搞清楚了正余弦公式"怎么用"——它通过不同频率的波形，给每个词打上了独一无二的"位置指纹"。但知其然，更要知其所以然。Transformer 论文发布后，无数研究者都在问同一个问题：为什么偏偏是正弦和余弦？
图文详解Transformer模型——PosItional Encoding 位置编码详解
位置编码视频教程上一期视频教程，我们介绍了Transformer模型的PosItional Encoding 位置编码，本期我们就视频教程中的一些细节，进行图文教程的分享，往期视频可在专栏列表中查看。