图文详解Transformer模型——代码详解位置编码与词嵌入向量
powers AI上几期的视频教程，我们详细介绍了Transformer模型的位置编码与词嵌入的原理与代码实现，本期将会按照图文的方式来总结一下前面讲解的Transformer模型的位置编码与词嵌入的代码——1——Transformer模型词嵌入代码实现import torch
5个时间序列预测的深度学习模型对比总结
Makridakis et al.， The M5 Accuracy competition: Results， findings and conclusions，D. Salinas et al.， DeepAR: Probabilistic forecasting with autoregressive recurrent networks， International Journal of Forecasting .
大模型解剖图火了，30多个开源模型架构差异一目了然，还可接入AI
Arcee AI 的 Trinity Large、月之暗面的 Kimi K2.5、阿里的 Qwen3.5、智谱 AI 的 GLM-5、Cohere 的 Tiny Aya…
图文详解Transformer模型——PosItional Encoding 位置编码详解
位置编码视频教程上一期视频教程，我们介绍了Transformer模型的PosItional Encoding 位置编码，本期我们就视频教程中的一些细节，进行图文教程的分享，往期视频可在专栏列表中查看。
AI 入门系列 26：什么是位置编码？
位置编码：给词语排序的关键技术上一篇我们聊了"词嵌入"——它能把每个词语变成数字向量，让计算机"读懂"文字。但词嵌入丢掉了一个关键信息：词语的顺序。"我打你"和"你打我"词语完全一样，顺序一变意思截然不同，词嵌入却无法区分。
从零学习大模型（5）——位置编码：让 AI 读懂 “语序” 的关键技术
在 Transformer 架构中，有一个容易被忽略却至关重要的模块 —— 位置编码（Positional Encoding，PE）。如果说注意力机制让模型能 “理解关联”，前馈神经网络让模型能 “提纯特征”，那么位置编码的作用就是让模型能 “感知顺序”。
为什么 Transformer 模型位置编码选择三角函数？
在 Positional Encoding 系列中，我们搞清楚了正余弦公式"怎么用"——它通过不同频率的波形，给每个词打上了独一无二的"位置指纹"。但知其然，更要知其所以然。Transformer 论文发布后，无数研究者都在问同一个问题：为什么偏偏是正弦和余弦？