# 第 36 课教师讲稿｜DeepSeek 案例：挑选专家，算清效率与成本

本课 60 分钟。学生已经学过模型参数、注意力、训练与推理，今天把这些知识用于读懂一项公开研究。核心问题只有一个：**每次只用一部分专家，为什么不能直接说内存、速度和全部费用都按同一比例减少？**

学完，学生应能手算一轮简化的专家选择，画出“全部保存、部分使用”的区别；指出 MoE、MLA、低精度各处理哪一项开销；写出带版本、范围和未知项的成本说明。我们不要求学生复现 DeepSeek 的训练，也不需要下载权重、开通 API 或购买服务。

## 课前准备：把材料放在学生能自己找到的位置

打开本课的“四个专家与一张费用台账”。教师先自行试一次默认输入，再复位。按钮统一叫“计算并查看过程”。投影暂时只显示输入区，参考答案留到 48 分钟之后。学生打开工作纸，在预测旁留一格“观察后修订”，不能运行后擦掉原先判断。

准备四张纸卡 E1、E2、E3、E4。它们各有 100 个**参数单位**，固定演示输出分别是 10、20、30、40；另有 100 个每次都使用的共享及其他参数单位。单位是为算术设定的数目，不是实际模型规格。四个路由分数依次为 4、3、2、1，默认每次挑分数最高的两个；同分时编号小的优先。选中的分数除以它们的总和，得到混合权重，再对固定输出求加权平均。

这个程序只演示选择与混合。真实专家是训练出的网络，不是四个人在开会，也不是固定的“数学老师、英语老师”。真实路由由模型计算，课堂输入由人给定；真实模型还包含注意力、残差等计算，这里的一个数字不能当完整前向结果。共享参数记进台账，但页面没有模拟共享网络的输出。教师应先把这三处省略写在板边，之后每次解释数值都能回到这个范围。

费用材料另放一张卡：4 块 GPU，每块运行 12 小时，每 GPU 小时按虚构价格 3 单位计算，已知其他费用 35 单位；探索试验费用没有数据。费用卡与专家卡没有自动换算关系。选用专家数改变后，页面仍使用你填入的工作小时；只有实际测得小时变化，才有依据改费用输入。

## 0—6 分钟｜先拆开一句听起来很有吸引力的话

教师可以说：“假如你看到一句介绍：一个模型每次只用一部分参数，所以普通电脑只要准备这一部分内存。你会相信吗？先不要投票给某个品牌，写清楚这句话从哪个数字跳到了哪个结论。”让学生在 Q1 圈出“每次用”和“需要保存”。请一位学生把四张专家卡全部放在桌面，只将两张转向自己。追问：“另外两张这一刻没参与，它们是不是已经从整个模型里消失了？”

若学生说可以临时从硬盘读取，认可这是另一种部署设计，再追问谁负责搬运、会不会增加等待。不要把讨论引向一个绝对的“所有权重必须始终在同一张 GPU 上”。本课要建立的是全体权重仍要有存储与可访问安排；是否分布到多设备、是否卸载，需要另外说明。收集的证据是一句有条件的修订，不能只写“不对”。

## 6—12 分钟｜手动完成一轮路由

把 E1—E4 的分数写在卡上，请学生不碰按钮先排序。说：“路由在这里就是决定当前输入送去哪几个专家。先挑两张，再谈它们各占多少。分数 4 与 3 的和是 7，不是四张分数总和 10；因为我们这个玩具只对入选者重新归一化。”在黑板写 E1 的权重 4/7，再请学生补 E2。

遇到学生直接用 0.4 和 0.3，就让他把两个权重相加，检查是否已经把未选中的份额处理完。强调课堂规则是我们明确规定的一种简化，不代表所有 MoE 都使用这套归一化。学生在 Q2 保留选择、分母、权重三个中间结果。此时才点击按钮，查看表格中未选专家贡献为 0，但固定输出仍列在材料中；列出来是方便核验，并不意味着本轮调用了它。

## 12—18 分钟｜把混合结果和参数账分开算

教师说：“E1 给 10，E2 给 20。当前混合数是 10×4/7 加 20×3/7，约 14.2857。它只是数字练习，没有回答一道现实题，所以不能说分数大就更聪明。”请学生指着表格两项贡献复算，不要只抄最后一行。若算成 30，追问是否遗漏权重；若算成 17，追问分母为什么选 10。

接着在桌面上数全部卡：4×100+100=500；本轮使用两张专家卡和始终使用部分，所以 2×100+100=300。学生将两个算式写在不同列。问：“为什么这里不是简单的 2/4？”让学生在共享卡上做标记，再得出 300/500=60%。这个比例只描述我们给定口径的参数参与数，没有测运算种类、通信、带宽、排队和缓存。页面不给一个虚构的速度倍数，教师也不能替页面补出来。

## 18—24 分钟｜只改一个旋钮，观察哪些项不跟着动

请学生先预测把“每次选用几个专家”从 2 改为 1 后，三个量怎样变：总参数、激活参数、混合输出。运行后比较旧结果，重点指向总参数仍为 500，激活变为 200，混合输出变为 10。要求学生在 Q3 写出一个变了的量和一个没变的量，并解释各自原因。

再把专家数恢复 2，仅将分数改成 1、2、5、2。让学生先找出同分的 E2 与 E4，按题面规定选择较小编号，而不是自己挑更喜欢的输出。程序应显示 E3、E2。请学生观察：参与数没变，输出却变了。由此补一句：“相同激活量不意味着同一结果，也不能单凭激活参数给两种服务排质量名次。”若学生追问真实专家怎样学会分工，可回连第 2、4、6 课：训练目标影响参数与路由，专长不能只由专家编号猜出。

## 24—30 分钟｜用三张开销卡解释三个名词

此时再给名词，不从缩写开始。板书三张卡：“本次参与的专家计算”“历史注意力状态”“数字如何存储和计算”。将 MoE 放第一张，MLA 放第二张，低精度放第三张。教师说：“它们可以共同出现在一个系统里，但不是把一个节省比例贴到三个地方。”

讲 MLA 时只画“较大的历史键值状态 → 压缩后的表示 → 注意力计算需要的量”。说明这是 DeepSeek 公开路线的概念图，实际还有位置等处理，我们没有在浏览器实现。讲低精度时用同一数轴上更少刻度的比喻：记录数字的位数减少可改变存储和计算条件，但舍入误差与硬件支持要配套考虑，不等于所有步骤都随意改成少位数。训练调度则在旁边画两段时间条：一段等数据，一段计算；工程优化会试图减少等待与搬运。让学生把“少算哪些”“少存什么”“少等什么”各连一次线。只要求位置正确，不要求背算法细节。

## 30—36 分钟｜把公开版本和成本口径放回数字旁

教师打开参考文献中的 V3 报告，定位摘要里的总参数与激活参数。说明这份版本化报告记载的是 DeepSeek-V3：671B 总参数、每 Token 37B 激活参数。这两个数不能替换我们桌面的 500 与 300，也不能从它们推导当前网页版正在运行哪一个型号。再打开 R1 的版本化论文，让学生只找标题、日期和训练路线关键词，不要求读完整论文。R1-Zero 与 R1 的训练安排并不完全相同；本课引用它来区分推理能力的后训练研究与 V3 的架构、系统研究。[V3 技术报告](https://arxiv.org/html/2412.19437v2)；[R1 论文 v1](https://arxiv.org/html/2501.12948v1)。

转到费用卡。请学生计算 4×12=48 GPU 小时，再乘 3 得到该次 GPU 费用 144，加已知其他费用 35 得到 179。问：“未知的探索费用放在哪里？”学生若填 0，就把“没有账单”与“账单明确为零”并列，请他说明自己究竟拿到了哪一种证据。正式训练的已知消耗、整个研发投入、对外调用价格是三种口径。即使报告给出了某一项准确数字，也不能擅自扩展成公司所有投入，更不能当今天产品的报价。

## 36—42 分钟｜独立练习：换一套数，不靠记住答案

发 Q4：四个专家，每个 120 参数单位，始终使用部分 60，选 3 个，分数全为 1，固定输出仍为 10、20、30、40。费用改为 2 块 GPU，各 5 小时，每 GPU 小时 4 单位，已知其他费用 7，失败试验成本未知。学生先在纸上写选择、混合输出、总参数、激活参数、比例和费用小计，再把新输入填进页面核对。

这一段不要在投影上运行新数字，不说任何结果。教师巡查时只问：“你把始终使用部分放在哪两列？”“同分规则写在哪里？”“你用了哪条记录说明未知费用？”学生遇到比例小数可保留分数或用计算器；数学小数精度不是本课难点。保留未经提示的第一版，然后另列程序观察。完成快的同学检查自己有没有把页面输出写成真实 DeepSeek 运行日志。

## 42—48 分钟｜独立读解：把宣传句改成可核查说明

Q5 给三条待审句：“激活约占四成，所以只要四成显存”“某次正式训练 GPU 费用较低，所以全部研发费用也较低”“网页回答很快，所以已验证 MLA 是唯一原因”。学生逐条指出缺少哪种证据，并写一个可以继续调查的问题。教师不要只要求加上“可能”两字；例如第二句真正缺的是研发成本范围，而不是语气不够谨慎。

有网络的学生可在已打开的论文中找一条支持自己说明的段落，只记录版本、节名与简短自己的概括。没有网络的同学使用本课来源范围卡，同样写明“依据教师提供的来源说明，未亲自打开全文”。不强制让学生在服务里问“你有多少参数”：聊天回答的自我描述不能替代实际服务型号的配置证据。这个后备保持的是证据读解目标，不把离线阅读包装成在线实测。

## 48—54 分钟｜后置讲评：从算错位置定位误解

现在才展示 Q4 参考。同分按编号，选 E1、E2、E3，权重各 1/3，混合输出 20。总参数 4×120+60=540，激活 3×120+60=420，比例约 77.7778%。GPU 小时为 10，已知费用 10×4+7=47；未知成本仍未知。若有人算 75%，请他圈出未计入的 60。若有人选 E2、E3、E4，先核对题面规则，不把这当成模型随机性。

讲评 Q5 时允许不同措辞，但每句都要有原来的跳跃和所缺证据。显存问题需全体权重安排与运行开销；研发问题需费用范围；响应快慢需同任务、型号、输入输出长度、硬件或服务条件下的测量，无法从一个现象认定内部唯一原因。把“还缺证据”写具体，比背诵谨慎结论更有用。

## 54—60 分钟｜用一张产品研究卡收尾

Q6 要求四栏：公开版本与来源、能从来源确认的机制、课堂真正复算的内容、仍未验证的问题。请学生各写一句能独立理解的话，不允许只写 MoE、MLA、R1 三个词。教师邀请两位学生互换研究卡，检查对方有没有混用真实报告数和玩具数，或把费用未知写成零。

最后说：“你今天不是只认识一个品牌，而是学会把一个效率故事拆成可检查的对象。下一次听到又快又省，先问省的是哪一段，在什么条件下，质量怎么检查。能够把这些问题问准确，才有办法决定一个工具是否适合你的任务。”离堂交 Q6，同时保留 Q2 与 Q4 的中间算式和运行记录。

## 板书、补救与课后加深

- 给定路由分数 → 选专家 → 对选中者归一化 → 混合固定输出。
- 总参数 = 全部专家 + 始终使用部分；激活参数 = 入选专家 + 始终使用部分。
- 参数比例、显存、时间、费用分别记录；未知不填零。
- V3 架构与系统报告、R1 后训练研究、课堂算例分开署名。

断网不会影响本地实验；页面失效时用四张卡、计算器和费用表执行同一算法，记录为纸面复算。学生对分数困难时先把 4、3 改成 1、1 手算，再回到默认分数；不要直接给最后小数替代过程。课后可研究多 Token 同时路由时某个专家过忙的问题：手工给三个输入列三行分数，统计每个专家被选几次，提出需要观察的负载指标。此扩展只帮助理解为何需要调度，不模拟真实分布式训练，也不占本课独立练习的时间。

本课来源用于核对概念范围，主要课堂材料为原创。本地程序检查的是已列出的算术与输入条件；没有进行 DeepSeek 模型训练、外部推理对比或真人试教。


## 逐分钟安排

| 时间 | 教师讲解与操作 | 学生活动 | 检查结果 |
|---|---|---|---|
| 00:00—01:00 | 展示每次只用部分参数所以只需保存部分权重的待审句，暂不宣布判断。 | 在 Q1 写首答，圈出使用与保存两个词。 | 保留未运行前的判断。 |
| 01:00—02:00 | 将 E1—E4 四张卡都放在桌面，说明都属于这个玩具模型。 | 在工作纸画四张卡，并写参数单位。 | 全体四卡有记录。 |
| 02:00—03:00 | 仅翻转两张卡，问未翻的卡是否从模型消失。 | 区分没有参与本轮与仍属于模型。 | Q1 出现两个不同范围。 |
| 03:00—04:00 | 对按需从硬盘读取的建议追问搬运与等待条件。 | 写一项部署仍须检查的条件。 | 没有把激活量直接换成显存保证。 |
| 04:00—05:00 | 指出共享及其他参数卡每次都使用，不能漏计。 | 给共享 100 单位卡做标记。 | 模型图有共享项。 |
| 05:00—06:00 | 收集一条带条件的 Q1 修订，不要求统一措辞。 | 保留首答并另写修订理由。 | 修订能说明范围差别。 |
| 06:00—07:00 | 读出默认路由分数 4、3、2、1，要求先手动排序。 | 为 E1—E4 排序，不运行按钮。 | Q2 排序栏完成。 |
| 07:00—08:00 | 说明默认只选两个，同分按编号小的优先。 | 在排序中圈出入选者。 | 圈选有题面规则依据。 |
| 08:00—09:00 | 让学生只把入选分数相加，辨别分母 7 与 10。 | 写入选分数和，并检查是否混入未选者。 | Q2 分母有算式。 |
| 09:00—10:00 | 示范第一个权重 4/7，请学生补第二个并求和。 | 写第二权重，验证两权重和为 1。 | 权重过程可复算。 |
| 10:00—11:00 | 强调这是人为规定的简化路由，不是实际网络推理记录。 | 给材料标注人工给定分数与固定输出。 | 实验类别标注准确。 |
| 11:00—12:00 | 点击计算并查看过程，指向入选与未选行。 | 核对选择表，把差异写入修订栏。 | 首答与程序观察分开。 |
| 12:00—13:00 | 写 10×4/7，让学生补 E2 的加权贡献。 | 分别求两项贡献，不只抄总数。 | Q2 有两项中间量。 |
| 13:00—14:00 | 把贡献相加，说明数字结果没有现实质量评分含义。 | 核对混合输出并写明它不是文本回答。 | 没有将数值大小当能力高低。 |
| 14:00—15:00 | 数全体四个专家和共享项，建立总参数算式。 | 写 4×100+100 并圈共享项。 | 总参数账包含全部卡。 |
| 15:00—16:00 | 只数本轮两位入选者与共享项，建立激活算式。 | 写 2×100+100，与总数分列。 | 两个范围没有混列。 |
| 16:00—17:00 | 追问直接用 2/4 是否忽略共享部分。 | 用两列结果计算激活比例。 | 比例分子分母可回查。 |
| 17:00—18:00 | 要求列出本次没有测的显存、通信与耗时。 | 在比例旁注明不能推出的指标。 | 参数比例未扩展为速度倍数。 |
| 18:00—19:00 | 布置 Q3 把专家数改为 1，先预测三个量。 | 写总参数、激活参数、混合输出预测。 | 三项预测早于运行。 |
| 19:00—20:00 | 运行选 1 个的条件，与旧结果并排比较。 | 记录变化项与不变项。 | 观察有明确旧新输入。 |
| 20:00—21:00 | 追问总参数不变的原因，并检查费用输入是否改动。 | 用固定四卡解释总数，指出费用仍使用旧小时。 | 参数与费用没有自动比例联动。 |
| 21:00—22:00 | 恢复选 2，只将分数改为 1、2、5、2。 | 先按同分规则圈选候选者。 | 仅分数改变的预测保留。 |
| 22:00—23:00 | 运行新分数，指出选择表与混合表的对应。 | 核对 E2 与 E4 同分时的处理。 | 同分选择有规则解释。 |
| 23:00—24:00 | 问参与数不变能否保证输出不变。 | 用本轮与默认两次记录回答。 | Q3 结论引用两次观察。 |
| 24:00—25:00 | 摆出专家计算、历史状态、数字精度三张开销卡。 | 在 Q3 画三个位置。 | 开销对象被分开。 |
| 25:00—26:00 | 将 MoE 接到按输入选择专家的步骤。 | 用自己的话解释少参与的是哪些计算。 | MoE 解释不把专家拟人化为固定学科。 |
| 26:00—27:00 | 画历史键值状态的压缩概念图，标 MLA。 | 标这是概念图，未在网页执行。 | MLA 与路由实验分开。 |
| 27:00—28:00 | 用较少刻度的数轴说明低精度与误差条件。 | 写出位数、误差和硬件支持三个词的关系。 | 没有把低精度解释成无代价压缩。 |
| 28:00—29:00 | 画等待与计算两段时间条，介绍调度处理的位置。 | 将减少等待与搬运放在系统侧。 | 调度未混成减少模型参数。 |
| 29:00—30:00 | 让学生把少算、少存、少等各连到一项机制。 | 完成三项连线并口述理由。 | Q3 开销对应表完成。 |
| 30:00—31:00 | 打开 V3 版本化报告，指出版本、总参与与激活指标。 | 记录标题及版本，区分报告数字与四卡数字。 | 公开规格和玩具材料不混用。 |
| 31:00—32:00 | 打开 R1 v1 标题与路线说明，区分 R1-Zero 和 R1。 | 写 V3 架构系统与 R1 后训练的范围。 | 没有将所有型号视为同一训练安排。 |
| 32:00—33:00 | 读默认费用卡，先算设备数量乘工作小时。 | 计算并写 GPU 小时的单位。 | 48 的对象不是日历小时。 |
| 33:00—34:00 | 加入虚构单价与已知其他费用，运行费用台账。 | 分别记录该次 GPU 费用与已知小计。 | 144 和 179 对应不同范围。 |
| 34:00—35:00 | 对探索成本填 0 的情况追问是否有零账单。 | 把没有数据标未知并说明未计入。 | 未知与明确零有区别。 |
| 35:00—36:00 | 发 Q4 新专家与费用材料，停止演示结果。 | 读取四专家 120、共享 60、选 3 的新条件。 | 新题输入先核对。 |
| 36:00—37:00 | 只提醒 Q4 同分规则的位置，不宣布入选者。 | 独立写选择与权重。 | 未提示的选择首答。 |
| 37:00—38:00 | 巡查是否把共享项放进两种参数账，不报数。 | 独立计算混合、总参数、激活与比例。 | Q4 四项算式保留。 |
| 38:00—39:00 | 追问费用单位和未知项的来源，不替学生计算。 | 用新费用卡求 GPU 小时和已知小计。 | 新费用首答带单位。 |
| 39:00—40:00 | 确认首答完成后，允许学生输入 Q4 条件运行。 | 逐项填写新输入并点击计算。 | 本轮输入与工作纸一致。 |
| 40:00—41:00 | 要求差异写修订栏，不能抹去原算式。 | 对照实际结果定位差异所在步骤。 | 首答、观察、原因三列可见。 |
| 41:00—42:00 | 提醒本轮是玩具算术，不是 DeepSeek 实测记录。 | 标记实际完成电脑计算或纸面复算。 | 完成方式如实记录。 |
| 42:00—43:00 | 展示 Q5 三条待审句，只要求定位跨越的对象。 | 独立填写激活与显存、训练与研发的跳跃。 | Q5 前两行首答。 |
| 43:00—44:00 | 对网页快的句子追问观察与归因是否一样。 | 写第三句缺的对照条件。 | 速度现象没有直接变成唯一原因。 |
| 44:00—45:00 | 提供已打开论文或离线来源范围卡两种阅读路径。 | 选实际可用路径并标记来源类型。 | 在线与离线阅读没有混称。 |
| 45:00—46:00 | 要求来源记录包括版本与节名，概括一条支持内容。 | 记录实际找到的位置或范围卡说明。 | 概括能回查到具体来源。 |
| 46:00—47:00 | 禁止用聊天模型自述代替后台型号配置，解释证据差别。 | 为一项未知写可继续核查的问题。 | 下一问有明确证据对象。 |
| 47:00—48:00 | 收齐 Q4、Q5 首答后再进入讲评。 | 锁定首答并准备另一颜色修订。 | 独立练习与答案展示分界清楚。 |
| 48:00—49:00 | 讲评 Q4 同分选 E1、E2、E3 与各 1/3 的权重。 | 核对选择及混合输出 20 的依据。 | 选择错误能回到同分规则。 |
| 49:00—50:00 | 讲评总 540、激活 420 和约 77.7778%，指出共享 60。 | 修订遗漏共享项的算式。 | 比例修订说明遗漏位置。 |
| 50:00—51:00 | 讲评 10 GPU 小时、已知 47 与未知失败试验成本。 | 核对费用范围和未知格。 | 没有将 47 写成总研发。 |
| 51:00—52:00 | 讲评 Q5 显存与研发两句分别缺哪些数据。 | 补写具体缺项，不只加可能二字。 | 两种证据缺口分别明确。 |
| 52:00—53:00 | 讲评响应快的归因要有型号、长度与对照条件。 | 修订第三句并写可执行下一问。 | 区分测量现象和机制因果。 |
| 53:00—54:00 | 发 Q6 四栏研究卡，示范栏名但不代写内容。 | 准备版本、机制、复算、未验证四栏。 | 研究卡结构齐全。 |
| 54:00—55:00 | 要求公开研究一栏明确来源版本。 | 写自己实际阅读范围的一句话。 | 不虚构已亲自查阅全文。 |
| 55:00—56:00 | 要求机制一栏指出优化对象而非只列缩写。 | 选一个机制解释对应开销。 | 术语和对象连接。 |
| 56:00—57:00 | 要求复算栏列出今天真正执行的材料与步骤。 | 写四卡排序、混合和费用台账的实际方式。 | 本地与外部运行范围准确。 |
| 57:00—58:00 | 组织两人互换，找真实规格与玩具数是否混用。 | 给同伴指出一项可改进的范围说明。 | 互审意见具体到句子。 |
| 58:00—59:00 | 请学生写听到更便宜后会先问的两个条件。 | 补任务质量与费用范围等可核查问题。 | 离堂问题有对象和条件。 |
| 59:00—60:00 | 收 Q1—Q6 和运行或纸面记录，强调比例不能替代测量。 | 提交工作纸与研究卡。 | 完整交付包含过程与边界。 |

---

# 第 36 课参考答案｜独立练习结束后使用

答案适用于本课给定的玩具材料，不能据此报告实际 DeepSeek 路由或服务成本。学生可保留分数形式，页面显示最多四位小数；写清相同算式比小数尾数完全一致更重要。Q1 的首次猜测不计对错分，应保留并解释修订。

## Q1：没有参与，不等于不属于模型

原句由“一次计算参与了多少参数”跳到“整个模型必须保存多少权重”。四张专家卡都属于模型，本轮只使用选中的卡。其余权重仍要有存储和可访问安排；可以分布、卸载或按需搬运，但应另查搬运、延迟、硬件和实现条件。不能进一步说必须全部常驻同一块 GPU，课堂没有给这种部署约束。

合格修订示例：“这次只激活部分专家，所以专家计算具有稀疏性；全体权重仍属模型，实际显存需结合部署和运行开销测量。”只写“错，因为参数很多”没有说明两个口径。

## Q2：路由、混合、参数账是三个不同步骤

4、3、2、1 中选 E1、E2。选中分数和为 7，权重为 4/7、3/7，贡献分别为 40/7、60/7，总和 100/7≈14.2857。若使用 0.4 与 0.3，未按本课规则对入选者重新归一化；若直接得 30，则遗漏加权。

全部参数为 4×100+100=500；本轮激活为 2×100+100=300；比例 300/500=60%。两个算式都包含共享及其他参数 100。把比例写成 2/4=50% 忽略这项。这里没有计算真实模型的注意力、共享输出和完整文本生成；混合数大或小都没有直接的任务质量含义。

页面表格列出全部卡的固定输出是为了核验材料；未选专家本轮贡献为 0，不应据此声称四个网络都实际运行。

## Q3：控制改动才能解释比较

选 1 个时只有 E1，权重 1，混合输出 10；总参数仍 500，激活为 100+100=200，占 40%。固定模型的全体卡没变，所以总数不变。费用也仍是旧费用输入的计算，不能把 60%→40% 自动写成耗时下降三分之一。

恢复选 2，仅将分数改为 1、2、5、2，选 E3、E2。E2 与 E4 同分，编号小的优先。权重为 5/7、2/7，结果为 30×5/7+20×2/7=190/7≈27.1429。激活仍 300，总数仍 500。这显示路由对象改变会影响演示结果，同一激活量不能保证同一输出。

MoE 对应按输入选择专家计算；MLA 对应注意力历史状态的压缩路线；低精度对应数值表示、存储和运算条件。训练调度还可能减少通信或等待。它们不是同一个比例的三个名字，真实收益要保留实现、硬件与质量条件。

GPU 小时 4×12=48；该次 GPU 费用 48×3=144；已知费用小计 144+35=179。探索成本写“未知，未计入”，不能写 0，也不能称总研发成本 179。正式训练消耗、研发全部投入和对外售价范围不同。

## Q4：独立题逐项核对

同分按编号选 E1、E2、E3，权重各 1/3，混合输出 (10+20+30)/3=20。总参数 4×120+60=540；激活参数 3×120+60=420；比例 420/540=7/9≈77.7778%。写 75% 的学生只算了专家比例，应回补每次都使用的 60。

GPU 小时 2×5=10；该次 GPU 费用 10×4=40；已知其他费用加 7，已知小计为 47。失败试验成本仍未知。不能把相同输出 20 当成四个专家都被选中的证据：默认分数选全体专家也可碰巧得到 20，过程必须看选择表。

独立计算后运行得到一致值是指定算例核验；不等于已经在真实模型上复现同一机制、成本或性能。若未运行，准确记录纸面复算即可，不能编运行记录。

## Q5：需要补齐哪种证据

第一句混淆激活比例与实际显存。需查全体权重的存储位置、数值精度、缓存、工作区与部署方式；下一问可为“这个型号在指定上下文与并发条件下实际占用多少显存？”不能只用激活参数乘一个字节数下保证。

第二句混淆单次正式训练 GPU 费用与全部研发。需明确是否包括前期试验、数据、人力等范围，并统一比较对象。下一问可为“两份数字包含的项目、价格假设和模型质量条件一致吗？”

第三句把观察到的速度归因为一个内部机制。需知道实际型号、设置、输入输出长度以及可以分离因素的对照；排队、缓存和硬件也可能影响等待。仅网页体验不能证明当前后台一定是某架构，更不能证明 MLA 是唯一原因。

读论文的合格记录包括版本和可定位节名，用自己的话表述一项支持内容；离线范围卡阅读必须按实际方式标记。不能把 R1 的推理后训练路线、V3 的正式训练报告和当前应用页面全部写成一个版本。相关范围依据 [V3 v2](https://arxiv.org/html/2412.19437v2) 与 [R1 v1](https://arxiv.org/html/2501.12948v1)。

## Q6：合格研究卡示例

“我阅读的是指定版本的 V3 技术报告来源说明。该报告讨论了稀疏专家、注意力状态及训练效率；我今天实际复算的是四张原创专家卡的排序和参数账、虚构 GPU 小时费用。没有实测产品的响应、显存或总研发投入。要判断某方案更便宜，先统一任务质量、费用范围和运行条件。”允许不同表述，但四栏应各有所指。若学生已亲自读原文，应填写实际定位信息；不能照抄示例声称未做过的阅读。

## 10 分评分

- Q1 1 分：指出使用与保存范围的差别，能作有条件修订。
- Q2 2 分：入选者与权重过程 1 分，包含共享项的两种参数数目及比例 1 分。
- Q3 2 分：单条件对照有记录 1 分；开销定位和未知费用处理 1 分。
- Q4 3 分：选择及混合 1 分，参数与比例 1 分，费用和未知项 1 分。
- Q5 1 分：三条至少明确指出各自缺证据，不能只改语气。
- Q6 1 分：来源、玩具复算和未验证范围分开记录。

预测猜错不扣分；程序运行出数字却不能指出输入依据，不视为掌握。教师可针对错误所在环节补练。此评分只描述本课作业，不给学生贴普遍能力等级。