在添加了类标记之后，我们仍然需要添加位置编码部分，transforms操作在一系列标记上，它们对序列顺序视而不见，为了确保在训练中加入顺序，我们手动添加位置编码，因为我们处理的是大小为model，dim的向量，我们不能简单地添加顺序[0，1，2，…]，位置应该是模型固有的，这就是为什么我们使用所谓的...

  大家也许会很好奇为什么在ViT章节插入了NVIDIALlama，3.1，Minitron4B，ViT因为应用场景的特殊性所以都寄希望于高效率的模型，因此各种针对大参数模型的提炼和优化技术层出不穷，而NVIDIALlama，3.1，Minitron则复现了这些系列的教科书实验，对于一些基本的术语，可以...