当前位置: 首页 >
为什么我还是无法理解transformer?
- 人气:
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-24吴柳芳的真实水平如何?
- 2025-06-24特斯拉宣布将于 6 月 22 日开始 Robotaxi 公开试运营,这将对自动驾驶行业带来哪些影响?
- 2025-06-24你是在什么时候认识到自己好看的?
- 2025-06-24服务器能否拒绝非浏览器发起的HTTP请求?
- 2025-06-24***如古代长城用的是C140混凝土,那千百年下来会完整的留存至今还是损坏的更加严重?
- 2025-06-24男朋友说我穿裙子不要敞开腿坐这是他底线,我该怎么办?
- 2025-06-24毕设答辩,老师说node不可能写后台怎么办?
- 2025-06-24如何看待贾玲、沙溢、贾冰、杨天真、范湉湉均瘦身成功?为什么明星想瘦就瘦普通人却很难?
- 2025-06-24穿了瑜伽裤真的舒服吗?
- 2025-06-24为什么 lua 在游戏开发中应用普遍?
- 2025-06-24什么是 5G 固定无线接入(FWA)?
- 2025-06-24为什么欧美影视喜欢露点?
- 2025-06-24鸿蒙 PC 操作系统有可能冲破 Windows 和 MacOS 的封锁,代表国产系统成为第三极吗?
- 2025-06-24如何评价《灵笼 2》第六集?
- 2025-06-24男朋友要被裁员了,我该怎么相处?
- 2025-06-24字节引入Rust是否代表J***a的缺点Go也没解决?
推荐产品
-
为什么说J***a21的虚拟线程不再有阻塞的问题?
锁不是不在了,只是没人能去拿。 你看着它,等着它,却永远不能 -
什么是 AI Agent(智能体)?
最近陆陆续续的发布了很多的智能体,有拿Agent做唯一产品的 -
汉语是牺牲了什么,才成为世界最紧凑、最高效的语言?
流传甚广的联合国宪章最薄我没看过,但今天看了一个联合国决议, -
不用CDN就没事,用阿里云CDN就被攻击刷流量,阿里云表示证明不了就要用户买单,如何看到这种行为?
楼上 @佚明 已经讲得很好了,起因是三大运营商对PCDN打击
热销产品
最新资讯