不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
为什么有人说弄懂了《算法导论》的 90%，就超越了 90%的程序员？
各双拼输入方案之间有明显的优劣之分吗？
Firefox 浏览器是否还有可能浴火重生?
微软 VS Code 1.101 发布，集成 MCP 协议，这对用户体验有哪些改变？
我国的军工能力可以实现一天5000枚火箭弹连着炸三个月吗？
生活中怎样的美女才能被称为「大」美女？
对方酒驾，我们提出私了要了3.5W,会被认为敲诈勒索吗？
未过门的孙媳妇需要给男方爷爷出殡吗?
如何低成本地过有益的生活？
为什么CCTV-6总是能播一些连院线都上不了的电影？
电话：
座机：
邮箱：
地址：
