夙愿:对数函数与指数函数的交点问题
文章浏览阅读9.7k次,点赞8次,收藏20次。本文回顾了一次高二讲座中提及的对数函数与其反函数可能存在的三个交点
文章先把这两样东西的来龙去脉讲透:为什么生成第 t 个词时不能看第 t+1 个词?那张上三角遮罩到底长什么样、为什么必须填 -1e9 而不是 0?交叉注意力里解码器问、编码器答的 Q/K/V 到底从哪来、为什么它们的长度可以不同?然后用 9 张图、若 , 上一章我们把编码器(Encoder)内部的残差、LayerNorm、前馈三块承重墙拆了个底朝天;这一章轮到另一半解码器(Decoder),解码器比编码器多两样东西:一张**不许偷看未来的掩码**,和一种**去查编码器记忆的交叉注意力**,。
相关文章
广告位
评论列表