AI检测

定义

AI检测指通过算法对一段内容进行分析，判断其由人工智能生成的可能性。在文本方向上，它通常被描述为一个二分类任务，即把输入判定为机器生成或人类撰写；在图像、音频、视频等方向上，同类方法则针对各自的生成痕迹展开判别^[1][2]。

检测结果一般不是确定的是非结论，而是一个概率或比例数值。系统会把文档切分成若干片段，分别判断各片段更接近机器生成、人类撰写还是两者混合，再综合计算整体比例，因此「高比例 AI」表示文本具有较强的机器生成特征，并不等于作者有相应比例的内容由机器完成^[3]。

与查重不同，AI检测关注的不是文本与已有文献的重合程度，而是文本自身的生成特征。知网等机构在学术场景中把 AI 特征值与疑似片段分布作为报告内容，并注明检测结果仅供参考，最终判断仍需人工复核和机构审查^[4]。这一技术也与 水印、内容溯源等手段并列，被视为可信内容生态的组成部分^[5]。

原理

大语言模型按概率预测下一个词元并逐步输出文本，其产物在统计上往往比人类写作更平滑、更规整。检测技术的基本假设是，这种解码方式和训练目标会在文本中留下可测量的规律，例如句法过度规整、措辞重复、语法变化较少等^[2][6]。

早期方法主要依赖两个指标：困惑度(perplexity)衡量文本对语言模型而言的意外程度，下一个词越容易被预测，困惑度越低；突发性(burstiness)关注句子长短与结构的变化幅度，人类写作起伏较大，机器输出则相对均匀^[3]。在此基础上可以构造简单的判别规则，例如以困惑度阈值 $\tau$ 区分两类文本：当 $PPL(x)<\tau$ 时判为机器生成。

更常见的是基于训练的检测方法：用人类文本与机器文本作为训练数据，训练一个专用分类模型，例如以 RoBERTa、BERT 等预训练模型为骨干的二分类器，学习两类文本在语义、句法和结构上的细微差别；另一条路线是零样本检测，直接调用预训练语言模型并设计分类标准，无需专门训练^[7][6]。

还有研究把多个语言模型的概率分布加以比较或集成，以弥补单一模型作为「观察者」时的脆弱性；也有工作不再依赖困惑度阈值，转而直接优化文本条件概率差异与目标值之间的差距，以提升对未见模型的泛化能力^[1][7]。

flowchart LR

A[待检测内容] --> B[切分为片段]

B --> C[特征提取: 困惑度/突发性/语义特征]

B --> D[分类模型判别]

C --> E[片段级评分]

D --> E

E --> F[汇总为整体比例与报告]

F --> G[人工复核]

发展历程

生成式 AI 普及后，「这段内容是不是人写的」成为新的问题，检测器随之进入公众视野。早期系统以困惑度和突发性为主要依据，实现简单，但对文风严谨的学者或非母语写作者容易误判，一些高校一度停止或限制使用此类工具^[3]。

随后检测思路转向数据驱动。以 Pangram 为例，其做法是用大量人类文本与机器文本训练模型，并让模型自己生成与真实文本相近的「镜像文本」，针对易误判样本反复训练；该公司公布的技术报告称，在其测试数据中英文文本误判率降至 0.0041%。《自然》杂志也提到，2026 年 7 月 Epoch AI 测试了 495 篇纯人类撰写的文章，未发现该工具误判^[3]。

学术场景的检测产品也在同步迭代。Turnitin 的英文 AI 写作检测功能可对 300 至 30000 字的文档生成报告，识别范围从 GPT-3 系列逐步扩展到 GPT-4、GPT-4o、Gemini、LLaMA 及其衍生工具生成的文本^[8]。国内知网则依托文献数据资源开发知识增强检测技术，从语言模式与语义逻辑两条路径识别中英文内容，并于 2025 年前后完成算法 3.0 升级^[4]。

研究方法层面，2025 年 ACL 会议已出现专门讨论生成内容检测的论文与共享任务，涉及多语言、多模型条件下的检测性能比较^[1][9]。同年，南开大学团队提出直接差异学习方法，并构建覆盖 17 个模型的测试基准 MIRAGE，相关论文被 ACM MM 2025 接收^[7]。

应用

教育与学术审查是主要应用场景。检测工具被用于判断作业、学位论文、期刊投稿中是否存在机器生成的段落，出版机构和科研单位则用于维护学术诚信。Pangram、GPTZero 等产品已进入出版社、学校和科研机构，原本作为辅助判断的技术越来越多地参与实际决策^[3]。

出版环节同样在使用此类工具。有报道提到，一部小说曾被检测工具判定为 78% 由 AI 生成，作者予以否认，随后出版商取消了该书在美国的出版计划^[3]。这类情形说明检测分数已能影响作品能否面世，也使结果的可靠性成为关注焦点。

在内容平台与多媒体领域，检测对象扩展到图像、音频、视频等由大模型生成的内容，用于识别合成图表、伪造影像等^[2]。与之配套的思路还包括在生成阶段嵌入水印或元数据，使内容可被主动识别和溯源^[5]。

此外，检测被用于识别机器生成的虚假信息。研究指出，机器生成的错误信息对人和自动检测器而言都可能更难发现，这使检测在信息治理中的作用受到重视^[2]。

局限

误判是人类撰写内容面临的主要风险。检测器依赖的流畅度、用词可预测性等指标，恰恰是严谨写作的常见特征；已有大量案例显示，写作年代远早于大语言模型出现的作品被判定为高比例 AI 生成^[10]。有研究者在测试中发现，仅经 AI 润色、主体由人完成的文章，升级后的检测器仍给出 96% 的 AI 比例^[3]。

结果稳定性同样不足。同一段文字单独检测与放入全文检测，分数可能不同；对文本作一些修改后，检测分数也会变化^[3]。短文本、经过人工修改的文本以及写作风格本就正式流畅的作者，都容易落在难以判别的区间^[6]。

跨模型与跨领域的泛化能力有限。针对特定模型训练的检测器，换用其他模型生成的内容时效果可能明显下降；有评估显示，多种检测器在新模型构成的困难数据集上准确率从约 90% 降至约 60%，而采用新训练策略的检测器仍保持 85% 以上^[2][7]。

检测与规避之间存在持续对抗。改写工具可以把机器生成的句子重新组织，使检测器漏检率明显上升；研究还发现，当模型被要求模仿特定作者风格时，部分输出能够绕过检测，扩散模型生成的文本在困惑度与突发性上也接近人类写作^[3][11]。此外，多数性能数据来自企业自测，第三方独立评估仍然不足^[3]。

参见

• 大语言模型 —— 生成式内容的主要来源，也是检测技术针对的对象。

• 困惑度 —— 早期 AI 文本检测所依赖的核心统计指标。

• 水印 —— 在生成阶段嵌入标记以实现内容溯源的手段。

• 人工智能幻觉 —— 机器生成内容可信度问题的一种典型表现。

• 学术诚信 —— AI 检测在学术与出版场景中的主要应用目标。