第 9 课 · 把几份信息按比例合成一份

学生工作纸

第 9 课学生工作纸|把几份信息按比例合成一份

本课问题:匹配比例改变,与材料内容改变,怎样分别影响输出?

先填预测,运行后另写观察,不擦掉猜错的记录。课程原始材料和程序均为教学小例子。把本页与课堂实验并排打开,答案页在独立练习结束后再使用。

任务与记录

Q1—Q2|0—20 分钟

甲、乙匹配强度为 3、1;内容值为(4,0)、(0,8)。强度相当于匹配分数取指数后的非负量,不是本页计算的 Q/K 分数。Q1 猜两份作用。Q2 将强度除总和,逐维手算加权汇总,再按“计算并查看过程”。

Q3|20—36 分钟

先只改强度为 1、1;另轮恢复 3、1,仅把乙改为(0,4)。记录两轮差异来自权重还是内容。另试禁止最后位置,解释为何要重新归一化。

Q4|36—48 分钟,独立

强度 2、3、5;值 [[5,0],[0,10],[2,2]]。先算全允许结果;再只禁止最后位置,重新归一化并逐维汇总。先手算后运行。

Q5—Q6|48—60 分钟

Q5 用同伴贡献表复算一维,解释 Q/K 匹配与 V 内容,以及本页简化到哪一步。Q6 对三个自回归位置列可用的已出现位置;解释注意力权重为什么不能证明事实正确。

运行记录格式

Q4 贡献表

每轮先写允许位置和允许强度总和,再填下表。禁止一个位置后,需要重新计算保留位置的比例,不能沿用上一轮的分母。

材料位置 是否允许 原强度 本轮权重 第一维贡献 第二维贡献
甲 2
乙 3
丙 5

将两列贡献分别求和,检查权重列之和;对照程序中间行后,标出哪一行能解释最终变化。遇到全零强度等非法输入,只记录原因,不把错误提示抄成有效输出向量。

每一轮记录:题号/输入框全部值/点击“计算并查看过程”前的预测/一个中间计算/实际结果/哪一条猜测要修订。为了判断原因,一轮只改一个指定条件;题目要求整组新材料时,先写清这是新实验。

遇到页面无法运行:使用本页相同的输入、步骤与判定规则在纸上完成,必要时用普通计算器。保留预测、中间量和最后核对,注明实际完成的是纸面复算。没有外部 AI 调用,不把这项工作说成已经得到某个产品的真实效果。

离堂提交

提交工作纸和一份运行观察。预测错不扣分;过程和复核依据要写清。自己无法解释的部分用问号标出,方便下一课继续追问。