第 28 课 · 多模态与推理

开放与托管:先把拿到什么、在哪里跑和代价分清

面对开放权重和云API,怎样根据明确约束筛选可验证的方案?

建议 60 分钟先观察再解释本地真实条件筛选和构造成本计算,不替代选型实测

学完这一课,你能做到什么

  1. 分别列权重、代码、训练资料与使用条款证据。
  2. 沿实际路径判断资料是否外发,并计算同口径成本。
  3. 运行条件筛选器,允许没有候选或仍有待核事项。

网站对应:开源与闭源:大模型版图。按网站显示顺序编为第 28 课。

先预测 · 操作材料 · 改变条件

同一任务条件下筛选方案

A/B/C是虚构方案,费用单位为课堂单位/月。程序筛选已知约束,不评价模型质量。

本地真实条件筛选和构造成本计算,不替代选型实测

  1. 先手算B的完整月成本。
  2. 运行默认条件,分别记录通过、排除与待核。
  3. 只改变正文外发条件或可用内存,比较候选变化。

先记录你的预测,再点击运行。每次结果都由本课程序根据当前输入生成。

留下自己的解释

文字只保留在当前页面,离开前可导出;工作纸还有本课的具体记录题。

教师可以怎样一步步讲

完整教师讲稿

第28课|开放与托管:把材料、路径和成本分开看

这节课用60分钟完成一次有限的方案筛选。我们不根据品牌或开源标签选阵营,也不让学生现在购买服务或硬件。学生会操作一个真实计算的筛选器:输入任务允许范围、设备条件和预算,看看哪些方案违反已知条件、哪些还缺证据,哪些才值得继续小试。A、B、C都是虚构资料。

教师备课与准确材料

页面按钮“核对条件并计算账本”。默认正文允许外发、可用内存16GiB、月预算20课堂单位。候选A只提供远端API,条款在题设中已核对,每月服务费12。候选B提供权重和推理代码,训练资料说明未提供,当前采用本地路径,需8GiB可用内存,条款已核对;月成本为硬件摊销8、能源2、维护5。候选C也提供训练资料说明,但条款、内存需求以及部分成本仍未知。

“条款已核对”只是本题给定的事实,不表示真实世界某许可证已获法律审查。成本也是统一任务量下的构造账本,不是当前报价。本地内存要求是候选卡给定条件,不是通用模型硬件公式。下一课之后还会专门讨论运行资源,这节先训练根据证据作决定。

请教师打印或显示完整JSON和中文候选卡;学生无需懂所有编码语法,先读中文材料,再把字段与资料对应。未知使用null,不能偷偷当成零。准备空白比较表:实际拿到什么、正文走哪里、已知硬约束、未核事项、下一步试验。答案页与独立题分开。

0—5分钟:先问“你拿到的到底是什么”

教师说:“有人告诉你,一个模型开放了。你现在能确定拿到了什么?一个网址、一组参数文件、一份运行程序,还是从头训练的完整资料?”请学生在Q0先列自己的理解,不纠正术语,留下可以回看的起点。

再给一句话:“你能下载权重。”问这句话是否已经回答能否在当前电脑运行、能否对任意用途使用、是否能从零复现训练。学生可能觉得这些都应该随之成立,教师请他分别指出哪份材料证明这三件事。看不到证据就暂时标未知,不用急着否定整个方案。

本节的开源与闭源讨论落到可查的东西上。不要把个人喜好包装成技术结论,也不根据下载按钮多少比较模型能力。我们先分清取得的材料,再看本次使用路径。

5—10分钟:把权重、推理程序和训练资料放开

教师用已有课程的阈值模型回忆:“训练后保存的数值与使用它的程序不是同一件东西。大模型的权重也是训练得到的参数;还需要结构与运行程序才能进行计算。要知道这些参数如何产生,又需要训练代码、配置和数据信息等证据。”

给三张纸分别写参数、运行、形成过程,让学生把权重文件、推理代码、训练资料说明放到对应位置。提醒“有训练资料说明”也不是自动具备完全复现所需的一切,真实项目还要看内容是否充分及相应条件。

OSI的开放AI定义提供一套明确参照,涉及使用、研究、修改、分享以及相应材料。此处只帮助学生意识到开放权重这个具体描述比模糊的开源标签更易核对;不把“所有原始训练数据必须一字不漏公开”当作简单定义,也不代替真实条款阅读。

10—15分钟:开放程度与本次运行位置是两条线

教师画“我的输入→服务→结果”两条路径。一条输入发到外部API,另一条输入交给本机已有运行程序。问:“如果权重可以下载,但我这次仍调用别人托管的API,正文有没有离开设备?”让学生看实际箭头,不凭开放标签判断。

再问:“一个聊天窗口在电脑上,能证明全部计算在本地吗?”不能仅凭界面位置。真实程序可能有云模式、远端工具或其他网络依赖,应该查看实际使用的配置和调用路径。今天候选卡已经给出route,我们按题设处理;真实应用还需要取得对应证据。

学生如果把Server与远端画等号,可回想上节本地服务概念。我们按是否把正文发到外部区分本次任务路径,而不是只背云、本地两个词。这样当任务约束发生变化时,能够解释到底哪项冲突。

15—20分钟:先筛硬条件,再考虑偏好

展示默认任务:处理允许外发的公开教材,可用内存16GiB,月预算20课堂单位。教师说:“先查是否满足这些明确条件,再讨论哪个值得试。模型效果尚未测,页面不会给最强榜单。”

逐个读A、B、C。让学生在表上区分明确不满足、满足已知条件、还没查清。C资料较多,但内存、条款、部分成本未知;不能因为材料公开得多,就把其他空白补成可用。A也不能仅因没拿到权重就被判不适合所有任务,它提供的是一种服务使用方式。

重要的是把“没有”与“未知”写开。例如B明确没提供训练资料说明;C内存需求未核对。前者描述材料状态,后者是还需调查的条件。把两者都记为零,会使计算给出过于确定的结论。

20—25分钟:手算一张完整账本

教师说:“B下载文件不收费,不等于整个使用过程没有成本。这里硬件摊销8、能源2、维护5,先自己加起来。”学生在Q2写计算,再看A的服务费12。必须确认两张卡按同样月份、任务量和比较范围构造,不能拿一次调用费与整月维护费混比。

如果有人只算8加2,教师问:“维护那一栏有没有被纳入我们说的总成本?”如果有人说已有电脑所以硬件费用必为零,教师回应题设用了摊销8,不能擅自改;现实中如果要用另一种核算口径,应明确更改并对两方案一致处理。

C成本含null。教师问:“null可以按0算吗?”让学生解释缺失信息并不是已知免费。程序会保留未知,不为了排顺序制造一个低价结论。这里的算术很简单,真正要学的是比较口径。

25—30分钟:运行默认筛选并读每个状态

核对四个输入区,再点击“核对条件并计算账本”。按候选逐行读材料、路径、总成本与状态。教师要求学生先对照手算B,再找C为什么不能进入已确认的小试列表。

可进入小试的列表只按完整构造成本排列,并且明确质量仍需实测。教师说:“条件满足与效果达标之间,还差同任务检查。页面算得出价格顺序,却没有运行这些模型,更没有评出哪个最适合所有学生。”

请学生为一个暂定候选写“可以先试,因为哪些已知条件满足;仍需测什么”。如果他只写选A因为便宜,追问是否已经比较摘要事实、中文表达和缺资料行为。教师不逼迫所有人选同一个方案,只要求理由受当前证据支持。

30—35分钟:只改变正文外发条件

现在把任务改为正文明确不得外发,内存与预算仍默认。先预测哪些行会变化,再运行。学生应检查实际路径,而不是改变开放材料标记。A路径是远端;B和C路径本地,但仍各有原来的条件和未知。

教师问:“开放权重的模型如果被别人托管成API,这次该放哪一边?”必须按实际请求路径回答。不要说只要模型开放,正文发到哪里都算本地。这个单一变更让学生看见,选择是任务条件的函数,不是一次贴标签永久站队。

若有人想把A的route直接改成local来让它通过,教师问:“你只是改了表格文字,还是实际获得并验证了本地运行条件?”本题没有提供A本地权重与程序,不能通过改描述制造能力。允许提出以后调查替代路径,但当前结论仍据题设。

35—40分钟:可用内存减少时,允许暂时没有方案

保持不得外发,把可用内存从16改4,预算仍20。学生先预测再运行。让他分别记录硬冲突和待核事项,不把C的未知变成一个“也许正好能跑”的通过项。

教师说:“如果暂时没有足够证据支持任何方案,我们可以停止当前执行、找更小的已验证方案、使用合适的现有环境,或者改变任务材料范围。没有必要为了得到一个答案立刻买硬件。”这是一份决策记录,不是购买建议。

问学生“无候选”是否意味着开放路线永远不适合。它只表示这些候选在当前条件和证据下没有可直接小试者。把任务范围、候选集合或设备条件改变后,应重新检查,而不是沿用原结论。

40—45分钟:为候选设计一组小试

教师提供统一公开材料:“周三15:00在图书馆二楼举办资料分享,报名方式未提供;两次整理分别12分钟、18分钟。”设计三题:提取时间地点;问报名网址并观察是否编造;核算两次整理总时间。所有候选使用同一题目与输出要求。

如果有真实已可用工具,学生课后可执行并保留响应;课堂核心不要求新订阅。今天先写核验表:必须保留原事实、缺失项写未提供、总时间能核对、记录实际模式和用量。模型卡中的任务、限制和评估信息用于指导准备,不能直接替代这组实际资料的结果。

教师说:“小试通过仍不是长期保证,但它把笼统最强改成了一个能检查的主张。”让学生写一个会让自己改变暂定选择的观察,例如持续编造缺失网址,或实际资源超出限制。

45—50分钟:独立筛选新条件

Q4给定:不得外发,可用内存8GiB,预算16,候选资料完全保持原样。学生先手写每个候选状态与理由,再运行。要求A、B、C都说明,不只圈一个名字。教师只问“依据来自哪项题设”“这一项未知能否当作零”,不公布答案。

学生完成第一轮后保存原判断,再把预算单独改14,其他仍相同,先预测再运行。不能同时增加内存或改成本以让某个方案重新通过。记录要说明变化发生在哪个约束,而不是只写选不到。

50—55分钟:把开放与路径迁移到新描述

独立文字题:“某模型权重公开,但本次通过外部API使用;界面在本机,正文被发送到供应商。”问它是否满足正文不得外发,以及还缺哪类证据才能说本地运行。另问“已下载权重是否证明可以完整复现训练”,要求引用材料类别。

这一段不发布答案。教师收原答后才允许小组讨论。若学生认为所有未知都必须立即查完,说明实际决策先查影响当前任务的关键条件;但影响执行资格的未知不能跳过。把调查顺序写清,比一次收集所有技术参数更有用。

55—60分钟:讲评与离堂

默认A成本12,B总15,二者满足当前已知约束,可进同题小试;C有缺失,保留待核。不得外发、内存4时,无已确认候选。独立内存8预算16时B可以进入小试,A路径冲突,C仍有未知;预算改14后B也超预算,没有可直接小试的候选。

离堂要求写四句话:拿到什么、本次在哪里跑、依据哪些条件暂定、还需什么结果才能接受。不要只交品牌名。教师查看学生是否把未知写为零、把开放误当本地,针对真实混淆补问。

模型卡怎样读,怎样避免读成宣传页

学生打开模型卡时先找预期用途、限制、训练或实验信息、评估条件和使用条款链接。不要把一个榜单数字抄下来就认为对所有任务适用。问测试集是什么、比较条件是否相同、是否覆盖自己的语言和材料,这些问题可以使下一次小试更有针对性。

模型卡是作者公开的信息入口,不是第三方保证。缺某项时记录未找到,不能自行补成没有限制或免费商用。许可证具体适用性需要阅读对应条文;本课只教记录证据位置,不替真实项目作法律结论。学生的表里应有链接与核对日期,以免把旧介绍当成永久状态。

当学生追问时可以继续讲的两个例子

“我已经有电脑,为什么还有成本?”教师区分现金支出与使用资源的核算口径。课堂B明确给摊销8,我们必须照题比较;现实可以另列新增现金支出,但不能一边用现金、一边用总成本制造便宜结论。维护时间也可能影响学生能否持续使用,所以要先定义比较目标。

“如果换一套量化权重就能省内存,为什么不直接把需求改小?”教师说这可以成为下一项可检验方案,但量化版本、运行程序、质量和内存都要实际核对。不能只为了筛选通过而改资料表。下一节本地模型课会把估算和运行记录分开,正好继续验证这个问题。

后备、扩展与来源

页面不可用时手工填写条件表与账本,同样保留未知;记录纸面核对。课后可用教师已经允许的两个工具完成三题小试,不要求为了作业增加订阅。成本和设备均按实际记录填写,不把本课构造单位换算成现实美元报价。

参考OSI开放AI定义1.0和Hugging Face模型卡说明,本轮读取日期2026-09-10。候选、条件和算例原创;程序只核对输入资料,不确认真实许可证、运行成功或模型质量。

60 分钟安排

每行给出具体讲解、学生动作和可检查的结果。根据学生反应调整,尚未真人计时试教。

时间教师讲解与操作学生动作检查依据
00:00—
01:00
只给权重可下载一句话。写能确认的信息。开放声明:写能确认的信息。有记录。
01:00—
02:00
问拿到了哪些材料。列仍需文件或说明。开放声明:列仍需文件或说明。有记录。
02:00—
03:00
问能否立即证明当前电脑可跑。写设备证据缺口。开放声明:写设备证据缺口。有记录。
03:00—
04:00
再问是否能完整复现训练。区分训练资料需求。开放声明:区分训练资料需求。有记录。
04:00—
05:00
保留Q0初判。保存原理解。开放声明:保存原理解。有记录。
05:00—
06:00
回忆参数与运行程序区别。画参数/运行/形成过程三栏。材料分类:画参数/运行/形成过程三栏。有记录。
06:00—
07:00
说明权重属于训练后参数。放入权重文件。材料分类:放入权重文件。有记录。
07:00—
08:00
列推理代码与训练资料。分别填写两类说明。材料分类:分别填写两类说明。有记录。
08:00—
09:00
给OSI定义作为明确参照。记需查自由与材料。材料分类:记需查自由与材料。有记录。
09:00—
10:00
不把数据说明等同所有原始数据公开。写一个不能擅自推出的结论。材料分类:写一个不能擅自推出的结论。有记录。
10:00—
11:00
画外部API路径。标离开设备的位置。实际路径:标离开设备的位置。有记录。
11:00—
12:00
再画本机程序路径。标本机处理节点。实际路径:标本机处理节点。有记录。
12:00—
13:00
给开放权重却托管API反例。区分开放与当前路径。实际路径:区分开放与当前路径。有记录。
13:00—
14:00
问本机窗口是否保证本机计算。写仍需配置或调用证据。实际路径:写仍需配置或调用证据。有记录。
14:00—
15:00
按实际箭头判断正文去哪。完成Q1两图。实际路径:完成Q1两图。有记录。
15:00—
16:00
读允许外发16GiB预算20。圈三项约束。默认硬条件:圈三项约束。有记录。
16:00—
17:00
读A服务方式。填A材料与路径。默认硬条件:填A材料与路径。有记录。
17:00—
18:00
读B权重与本地要求。填B8GiB要求。默认硬条件:填B8GiB要求。有记录。
18:00—
19:00
读C缺失项。写C待核条件。默认硬条件:写C待核条件。有记录。
19:00—
20:00
区分未知与明确没有。标null不等于0。默认硬条件:标null不等于0。有记录。
20:00—
21:00
先算B摊销8能源2维护5。写完整加式。手算账本:写完整加式。有记录。
21:00—
22:00
确认三项同月口径。记费用单位。手算账本:记费用单位。有记录。
22:00—
23:00
比较A服务12。列A总费用。手算账本:列A总费用。有记录。
23:00—
24:00
追问漏维护会改变什么。核对有无漏项。手算账本:核对有无漏项。有记录。
24:00—
25:00
C成本缺失不按零算。保留未知。手算账本:保留未知。有记录。
25:00—
26:00
核对完整候选JSON。检查字段与中文卡一致。默认筛选:检查字段与中文卡一致。有记录。
26:00—
27:00
点核对条件并计算账本。运行默认。默认筛选:运行默认。有记录。
27:00—
28:00
对照B手算。记录实际总数。默认筛选:记录实际总数。有记录。
28:00—
29:00
找C无法确认的原因。记录待核项。默认筛选:记录待核项。有记录。
29:00—
30:00
说明列表不是能力排序。写资格与质量区别。默认筛选:写资格与质量区别。有记录。
30:00—
31:00
只改不允许外发。记单一变更。禁止外发:记单一变更。有记录。
31:00—
32:00
先预测各行变化。写初判。禁止外发:写初判。有记录。
32:00—
33:00
运行后依据路径解释。对照实际route。禁止外发:对照实际route。有记录。
33:00—
34:00
不能改A路径标签伪造本地能力。写真正本地还需证据。禁止外发:写真正本地还需证据。有记录。
34:00—
35:00
保留当前候选与未知。完成第一轮对照。禁止外发:完成第一轮对照。有记录。
35:00—
36:00
保持不外发再改16为4。记录当前全部条件。内存4GiB:记录当前全部条件。有记录。
36:00—
37:00
先预测有无候选。留下预期。内存4GiB:留下预期。有记录。
37:00—
38:00
运行分别读冲突与待核。写A/B/C状态。内存4GiB:写A/B/C状态。有记录。
38:00—
39:00
允许暂时不执行而不是立刻购买。列一个后续调查动作。内存4GiB:列一个后续调查动作。有记录。
39:00—
40:00
不把当前无方案说成永远不可行。写有限结论。内存4GiB:写有限结论。有记录。
40:00—
41:00
给公开活动与整理时间材料。保存完整输入。同题小试:保存完整输入。有记录。
41:00—
42:00
设计事实提取题。写应保留的事实。同题小试:写应保留的事实。有记录。
42:00—
43:00
设计缺报名信息题。写不应新增的资料。同题小试:写不应新增的资料。有记录。
43:00—
44:00
设计时间加总检查。写核验方式。同题小试:写核验方式。有记录。
44:00—
45:00
写改变选择的实际观察条件。列退出或改选条件。同题小试:列退出或改选条件。有记录。
45:00—
46:00
读不外发8GiB预算16。圈新条件。独立第一轮:圈新条件。有记录。
46:00—
47:00
要求A/B/C各给依据。逐项写判断。独立第一轮:逐项写判断。有记录。
47:00—
48:00
先作答后运行。运行对照。独立第一轮:运行对照。有记录。
48:00—
49:00
只问未知能否当零不代答。补本人证据。独立第一轮:补本人证据。有记录。
49:00—
50:00
保存首次判断。保留修订痕迹。独立第一轮:保留修订痕迹。有记录。
50:00—
51:00
只改预算14。记单一变化。独立预算与迁移:记单一变化。有记录。
51:00—
52:00
先预测再运行。记录预算影响。独立预算与迁移:记录预算影响。有记录。
52:00—
53:00
给开放权重但远端API情境。按正文路径独立回答。独立预算与迁移:按正文路径独立回答。有记录。
53:00—
54:00
问下载权重与复现训练关系。列仍缺材料。独立预算与迁移:列仍缺材料。有记录。
54:00—
55:00
提交后再讲评。锁定原答。独立预算与迁移:锁定原答。有记录。
55:00—
56:00
核对B15与两预算。检查计算与条件。讲评离堂:检查计算与条件。有记录。
56:00—
57:00
说明A路径限制与C未知。修订错误原因。讲评离堂:修订错误原因。有记录。
57:00—
58:00
不把资格当质量实测。标尚未实测。讲评离堂:标尚未实测。有记录。
58:00—
59:00
写四句条件化结论。完成Q5。讲评离堂:完成Q5。有记录。
59:00—
60:00
收记录,真实小试课后另记。提交未解问题。讲评离堂:提交未解问题。有记录。

来源与使用范围

原始数据为虚构A/B/C,不涉及当前产品报价或采购建议;官方定义和模型卡用于阅读方法。