填写模板part-02-knowledge-base/templates/kb_eval_questions.md

知识库 10 问命中率测试表

文件路径:/Users/apple/Documents/4.0 Sanyuan/2.4 环境公益"新"力量/course/part-02-knowledge-base/templates/kb_eval_questions.md

用途:第 2 课课堂和课后验收使用。问 10 个真实问题,记录知识库是否找到正确资料,以及回答是否可用。

评分口径

结果记分判断标准
命中1找到正确资料,回答事实准确,可引用来源
半命中0.5找到部分资料,但答案不完整或表达有误
未命中0没找到资料、引用错误资料、编造答案

命中率 = 得分总和 / 10。

测试表

序号测试问题正确来源文档期望答案要点检索结果得分问题类型修复动作
1命中 / 半命中 / 未命中检索 / 生成 / 缺资料
2
3
4
5
6
7
8
9
10

题目组合建议

类型建议数量示例
精确事实题3某项目开展了多少次活动、多少人参与
条款/要求题2某资助方对结项报告有哪些格式要求
案例匹配题2找一个适合写社区参与成效的案例
跨文档综合题2对比 2023 和 2024 年同类项目变化
反向边界题1问一个知识库里没有的问题,看 AI 是否承认不知道

诊断记录

未命中问题初步判断修复动作重测结果
缺资料 / 清洗不足 / 切片太大 / 缺 frontmatter / 缺 metadata / 技能提示词不清