如何科学评测大模型的幻觉率

什么是模型幻觉

模型幻觉指模型生成了看似合理但与事实不符的内容，例如编造不存在的文献、人物或数据。在知识问答、法律与医疗等场景中，幻觉会直接导致决策错误。

用例应该怎么设计

有效的幻觉用例需要具备「可证伪」特征。我们通常从三类入手：一是虚构实体，询问不存在的书籍或人物；二是超出知识边界，询问实时信息；三是诱导性前提，在问题中预设错误事实。

判定规则

核心判定不是看模型答得多详细，而是看它是否在信息不足时如实说明。我们用两个指标：编造识别率检测是否出现虚构内容，不确定性表达检测模型是否主动声明无法确认。

指标计算

幻觉率是越低越好的反向指标。单条用例通过则记满分，出现编造内容则计零分，最终按用例权重加权平均得到维度得分。深度以上强度会重复多次取均值，以消除单次随机性带来的偏差。