04

模型选型报告

模型工程线

为一个业务场景(如合同审查、客服质检、代码生成)写模型选型报告:先把场景翻译成明确的模型任务(任务类型/输入输出/上下文长度/质量要求),再按「先评再选」用 EvalScope 式评测设计在候选模型里选出赢家,然后算清显存账(参数量、量化、并发),最后交代合规考量。选型结论要有数字支撑,不堆名词。

评审 rubric

维度权重评分标准
任务翻译30%场景被翻译成明确的模型任务:任务类型(生成/分类/抽取/Agent)、输入输出形态、上下文长度需求、可判定的质量标准;翻译后的任务定义能直接指导评测集构建
评测设计30%体现「先评再选」:用自有业务样本建评测集而非只看榜单,指标与门槛可量化,候选模型至少两个且维度可比,结论由评测数据推出而非品牌偏好
显存账25%显存账有计算过程:参数量×精度字节数、量化节省多少、KV Cache 随上下文与并发的增长、结论落到具体硬件建议(单卡能否放下、需要几张卡),数字量级正确
合规考量15%交代数据敏感等级与出境/驻留要求、内容安全与备案义务、供应商锁定风险与替换预案,与任务翻译和部署建议呼应而非泛泛而谈
0 字 · 未保存