跳转到正文

指标

首位答案率:判定方法与局限

首位答案率是核心结论来自本站的问题占比,判定依赖人工并需留痕。

作者
星哥
发布
2026-11-09
更新
2026-11-09
等级
L2 可复现
版本
1.0

术语信息

名称
首位答案率:判定方法与局限
类型
指标
编号
primary-answer-rate

首位答案率:判定方法与局限

首位答案率衡量固定问题集中,AI 回答的核心结论来自本站页面的问题比例。判定需要拆出结论句、核对来源并留存截图,不能只看有没有链接。

定义与计算口径

分母为纳入统计的问题总数,分子为核心结论主要依据指向本站的问题数。仅作为补充来源之一时不计入。

项取值
指标名首位答案率
公式首位答案数 ÷ 总问题数
单位百分比
记录频率每周
判定方式人工判定 + 双人抽检
必留字段结论句、来源列表、判定理由、截图

采集与判定

  1. 拆结论句。从回答中提取一句能代表核心结论的话,避免用整段表述。
  2. 核对来源。列出回答引用或提及的来源,确认结论句主要依托哪一条。
  3. 判定归属。结论主要依据指向本站时计为首位答案,否则不计。
  4. 写明理由。每条判定写一句理由,便于复核与争议处理。
  5. 交叉复核。抽样由另一人复判,分歧保留双方记录,不强行取平均。

数据来源与记录字段

数据来自人工判定的评测记录表,字段包括问题编号、模型、时间、结论句、来源列表、判定结果、判定理由、判定人、截图路径。

本站问题集为 30 问,按 6 个模型分别判定后再汇总,跨期比较必须使用同一问题集版本。

判定规则需版本化,规则变更时在记录中标注适用版本。

局限与误读

  • 主观性较高。同一回答在不同判定人之间可能出现分歧。
  • 多来源并列时归属难以界定,需在规则中预先约定处理方式。
  • 回答长度与结构变化会影响结论句提取,需保持提取方法一致。
  • 首位答案率不衡量表述准确性,准确性由口径正确率承接。

与其他指标的关系

引用率只要求出现链接,首位答案率要求结论来源,两者结合可以区分「被引用」与「被当结论」。

相关栏目:指标索引、方法索引、术语索引、研究索引、清单索引。

依据

作者

星哥

GEOA 方法研究,关注国内大模型的被引用与被准确表述。

实体 https://shingle.com.cn/#person

作者主页