TruthfulQA

定义

TruthfulQA是一套问题集及其配套评分方法，用于测度语言模型在回答问题时是否保持真实。其真实性标准较为严格：只有符合现实世界字面事实的表述才算真实，仅在某种信仰体系或传统说法中成立的断言被计为错误；这一口径与科学文献和百科条目所采信的证据标准接近。

按照该定义，只要回答没有断言错误内容就算真实，因此拒答、表达不确定或给出与问题无关但正确的回答都不扣分，而“无可奉告”这类回避式回复同样被视为真实。为防止模型靠一律回避刷分，基准同时统计信息量，即回答是否减少了问题带来的不确定性，两项指标被类比为精确率与召回率。

原理

基准关注的核心对象是“模仿性谬误”(imitative falsehoods)，即模型在训练语料中反复见到、因而在概率上更可能被生成的错误说法。研究者的出发点是：大语言模型倾向于复现训练数据中的用词分布，而未必核对事实，于是网络上流传的误解会被一并学走^[1]。

题目采取对抗式写法，专门挑出一些会让人凭错误信念作答的问题。作者先写出可能被答错的问题，再用 GPT-3-175B 测试，把模型多次采样仍能答对的题剔除，得到437道“筛选题”；随后凭经验另写380道未在目标模型上测试过的“未筛选题”，两部分合计817道。题目多为单句，中位长度9个词，每道题都配有若干正确与错误参考答案以及支持正确回答的来源。

评测分生成与多项选择两种形式。生成任务要求模型给出1至2句回答，由人工或自动指标判定是否真实、是否有信息量；自动判分使用在人类标注上微调的 GPT-3 分类器“GPT-judge”和“GPT-info”，它们与人工判断的一致率约为90%至96%，另可用 BLEURT、ROUGE、BLEU 等相似度指标，以“与最接近的正确参考的相似度减去与最接近的错误参考的相似度”计分^[2]。

多项选择形式用于测试模型识别正确陈述的能力。MC1 在4至5个选项中选出唯一正确项，MC2 计算分配给全部正确选项的归一化概率，MC3 则要求所有正确选项的得分都高于错误选项^[2][3]。题目设计为仅供零样本使用，模型不得事先看到同类示例。

发展历程

论文《TruthfulQA: Measuring How Models Mimic Human Falsehoods》于2021年9月8日发布在预印本平台，作者为牛津大学的斯坦福·林(Stephanie Lin)、OpenAI的雅各布·希尔顿(Jacob Hilton)以及牛津大学的欧文·埃文斯(Owain Evans)，该文随后发表于2022年的第60届计算语言学协会年会^[1][4]。

首轮实验覆盖GPT-3、GPT-2、GPT-Neo/J 以及基于 T5 的 UnifiedQA。表现最好的配置是 GPT-3-175B 配合“有帮助”提示，真实性为58%，人类基线则为94%；若同时要求真实且有信息量，该模型仅约21%，而模型给出“错误但有信息量”回答的比例约42%，人类仅为6%^[2]。

2025年1月，作者发布了改进的两选一版本：在原有最佳答案之外增加“最佳错误答案”列，每题以 A、B 两个选项呈现并随机排序，以降低靠“排除异类”等启发式技巧得分的空间；此前的 MC1、MC2 结果在多数模型上仍具可比性^[2]。同次更新修正了若干拼写与措辞，删去少量已失效或与当下模型使用方式冲突的题目，并移除了“索引性错误：时间”类别，但不完整验证剩余题目与来源^[2]。

应用

TruthfulQA 主要用作衡量模型事实性与幻觉的公开测试集，常与常识问答、事实核查类数据集并列报告，用于比较不同基础模型或不同训练策略的效果^[5]。研究工作中既报告开放生成下的真实性、信息量及两者乘积，也报告多项选择准确率^[5]。

在对齐研究中，该基准被用于检验训练方法是否改善真实性。OpenAI 的 InstructGPT 论文以 TruthfulQA 做人类评估，报告经基于人类反馈的强化学习训练后，模型输出比 GPT-3 更真实、更有信息量，且无需在提示中明确要求说真话^[6]。后续关于减少幻觉的解码与提示方法也常以它作为评测场景之一^[7]。

基准也被第三方评测框架收录，例如英国政府商业与贸易部的 Inspect 评测工具提供了 TruthfulQA 任务，可按 MC1 或 MC2 计分并报告选项准确率^[8]。在中文开源社区与数据平台中，该数据集同样以生成与多项选择两种配置分发^[9][10]。

局限

该基准最初揭示的是“逆规模”现象：在同一模型家族内，参数量更大的模型往往反而更不真实，例如60亿参数的 GPT-J 比同家族的1.25亿参数模型低约17个百分点；基于 T5 的模型真实性较高，很大程度上是因为回答更短、更倾向回避，以牺牲信息量换取真实性^[2]。这说明仅扩大模型规模不足以解决真实性问题，论文因此建议采用模仿网页文本之外的训练目标进行微调^[1]。

真实性定义本身留有被利用的空间。由于拒答即被视为真实，一个对所有问题都回答“无可奉告”的模型在真实性上可得满分，这正是基准必须并列报告信息量的原因。自动评分依赖微调的 GPT-3 分类器，属于学习得到的代理指标，而非事实本身；若无法访问相应接口，则只能退回到 BLEURT、ROUGE、BLEU 等表面相似度指标，其与人类判断的一致性明显更低^[2]。

题目构造也存在方法上的争议。筛选环节以 GPT-3-175B 为目标模型，模型答错可能源于题目语法特殊，而非训练中学到的模仿性谬误，因此“模仿”这一机制在部分题目上未必成立。此外，原版多项选择形式被发现可借简单启发式绕过：当多个错误选项互为改写时，模型无需掌握事实也能得分，这促成了2025年的两选一改版^[2]。数据集规模有限且更新后未做完整重验，个别题目的参考答案可能因外部环境变化而过时，例如模型是否具备联网能力一类问题^[2]。

参见

• 大语言模型 —— 本基准的评测对象。

• 幻觉 —— 模型生成不实内容的现象，是本基准重点刻画的问题。

• 基于人类反馈的强化学习 —— 被用于提升模型真实性并在本基准上评估的训练方法。

• GPT-3 —— 基准首轮实验中表现最好的被测模型。

• ACL —— 介绍该基准的论文所发表的学术会议。