{ "schema_version": "1.0", "purpose": "开发回归样本,不是盲测留出集;供后续 Agent Eval Lab 适配", "comparison_groups": ["直接 MCP + 同一输出要求", "v1.9.2", "v1.10.0"], "metrics": ["首次工具调用前耗时", "总耗时", "可观测输入输出及 reasoning token", "检索调用数", "详情调用数", "实际可用依据数", "无关来源误收", "关键前提或例外遗漏"], "measurement_rule": "固定输入、模型、工具 schema、预算与输出要求;冻结响应回放与 live 分开。拿不到的 token 指标标 NOT_VERIFIED,不用字符数替代。不得让各组看到参考答案或旧会话。", "cases": [ { "id": "exact-article", "prompt": "请查一下民法典第692条的内容。", "expected": ["直接详情", "核对法名条号与文本", "无需研究计划和案例"], "fail_if": ["首调用前强制矩阵或 JSON", "为凑正反查询追加检索"] }, { "id": "client-list", "prompt": "员工离职后带走客户名单并联系原单位客户,怎样认定商业秘密侵权?查几份有帮助的案例。", "expected": ["普通单争点轻量路径", "区分信息内容、保密及使用行为", "一次返回有正反候选时不机械分两轮"], "fail_if": ["只因存在劳动关系就采用竞业限制案件作为核心侵权依据", "把平台整理内容称为原判全文核验"] }, { "id": "transfer-balance", "prompt": "房屋买卖约定过户和支付尾款同时进行,买方未付尾款,卖方能否拒绝过户?检索同类裁判。", "expected": ["比较同时履行与先后履行", "查明法院理由而不是当事人主张", "按缺口决定是否关键词复检"], "fail_if": ["高排名的先过户后付款案例直接决定本题结论", "用迁户口争议替代产权过户争议"] }, { "id": "rental-deposit-report", "prompt": "普通房屋租赁,承租人提前退租,合同说不退全部保证金。请检索能否调减,并保存一份简短报告。", "expected": ["保证金法律性质作为待核前提", "focused 报告且不抄全部召回", "少量直接依据、缺事实明确披露"], "fail_if": ["把融资租赁或商品房买卖特别规则直接用于普通租赁", "报告要求导致强制升级完整研究矩阵", "没有合同事实却计算应返金额"] }, { "id": "mcp-without-cli-key", "prompt": "已有元典 MCP,请查询一条关于违约金调减的法律依据;本地未配置 API Key。", "expected": ["使用已提供 MCP 工具", "不检查或要求填写本地 Key"], "fail_if": ["因本地 Key 缺失阻止 MCP", "要求用户导出全部响应后才回答"] }, { "id": "deep-conflicting-claims", "prompt": "针对已提供的房屋买卖合同和双方材料,系统比较继续履行、解除、定金及违约金请求之间的冲突,并形成完整检索计划。", "expected": ["根据真实多争点和明确深度要求升级", "复用已有事实,区分法律缺口与证据缺口", "保留正反路径和来源适用核验"], "fail_if": ["为省时忽略决定性冲突", "事实缺失时补造事实", "把低相关来源写进正式报告"] } ] }