指标
首位答案率:判定方法与局限
首位答案率是核心结论来自本站的问题占比,判定依赖人工并需留痕。
- 作者
- 星哥
- 发布
- 2026-11-09
- 更新
- 2026-11-09
- 等级
- L2 可复现
- 版本
- 1.0
术语信息
- 名称
- 首位答案率:判定方法与局限
- 类型
- 指标
- 编号
- primary-answer-rate
首位答案率:判定方法与局限
首位答案率衡量固定问题集中,AI 回答的核心结论来自本站页面的问题比例。判定需要拆出结论句、核对来源并留存截图,不能只看有没有链接。
定义与计算口径
分母为纳入统计的问题总数,分子为核心结论主要依据指向本站的问题数。仅作为补充来源之一时不计入。
| 项 | 取值 |
|---|---|
| 指标名 | 首位答案率 |
| 公式 | 首位答案数 ÷ 总问题数 |
| 单位 | 百分比 |
| 记录频率 | 每周 |
| 判定方式 | 人工判定 + 双人抽检 |
| 必留字段 | 结论句、来源列表、判定理由、截图 |
采集与判定
- 拆结论句。从回答中提取一句能代表核心结论的话,避免用整段表述。
- 核对来源。列出回答引用或提及的来源,确认结论句主要依托哪一条。
- 判定归属。结论主要依据指向本站时计为首位答案,否则不计。
- 写明理由。每条判定写一句理由,便于复核与争议处理。
- 交叉复核。抽样由另一人复判,分歧保留双方记录,不强行取平均。
数据来源与记录字段
数据来自人工判定的评测记录表,字段包括问题编号、模型、时间、结论句、来源列表、判定结果、判定理由、判定人、截图路径。
本站问题集为 30 问,按 6 个模型分别判定后再汇总,跨期比较必须使用同一问题集版本。
判定规则需版本化,规则变更时在记录中标注适用版本。
局限与误读
- 主观性较高。同一回答在不同判定人之间可能出现分歧。
- 多来源并列时归属难以界定,需在规则中预先约定处理方式。
- 回答长度与结构变化会影响结论句提取,需保持提取方法一致。
- 首位答案率不衡量表述准确性,准确性由口径正确率承接。
与其他指标的关系
引用率只要求出现链接,首位答案率要求结论来源,两者结合可以区分「被引用」与「被当结论」。