A02版 社论

AI检测工具也该经得起检测

2026年11月19日

  ■ 观察家

  AI检测工具标准不透明、判定不稳定、机制不严谨的问题,需要相关平台高度重视。

  “10月24日中国知网更新人工智能生成内容(AIGC)检测算法(以下简称AI生成率),一模一样的论文内容在9月30日查是没事的,等到10月25日重新查一遍就全‘红’,检测到的AI生成内容占比高,至今不知道判定AI生成率的标准是什么。”

  据报道,近日,不少网友在社交平台反映,知网AI生成率检测结果波动明显,同一篇文稿在不同时间检测,得到差异较大的AI特征值。对此,知网客服回应称,现阶段算法处于迭代过渡阶段,AI疑似率仅作参考,不能作为最终判定依据,用户对结果存疑可申请人工复核。

  当前,不少高校把AI生成率纳入论文审核,用以甄别AI代写、防范学术不端。可如果检测工具本身的判定标准不科学、不专业、不稳定,那么依托检测结果做出的评判,自然也就缺乏可信度、公信力。因此,AI检测工具在用来检测学生论文之前,自身首先要经得起检测。

  AI检测的结果之所以差异很大,根源在于AI检测技术本身存在明显局限。AI检测的判定方式,是依靠算法识别文本中常见的AI句式、表达习惯与行文风格,以此推算AI生成比例。但需要注意的是,绝大多数AI模型的训练素材,本身就是海量的已有文献、经典著作和规范范文。这就导致结构规范、逻辑通顺、表达严谨的人工原创文章,很容易被机器误判为AI生成内容。

  与此同时,部分检测平台兼具AI检测、AI降重的商业业务,依靠检测次数、字符数量收费盈利。在商业利益驱动下,平台可能会调整后台算法、改动判定阈值,人为拉高AI生成率,制造检测波动,诱导学生多次付费复测。这将进一步导致检测标准混乱,严重影响检测的专业性与公正性。

  要规范学生AI使用行为,必须先规范检测平台。包括知网在内的AI检测平台,应当主动公开AI生成内容的判定依据、判定标准和算法规则,做到可复核、可追溯、可检验,让检测结果透明可信。

  此外,也必须理性看待AI检测的作用,不能过度依赖算法数据。AI检测只能发现文本表层的风格特征问题,无法识别文章的创新价值、学术思考和科研质量。单纯依靠机器判定,本身就是简单粗放的评价方式。

  总之,AI检测工具标准不透明、判定不稳定、机制不严谨的问题,需要相关平台高度重视。只有让AI检测工具先经得起专业检验,建立公开可复核的判定体系,才能规范学生“人机协同”的科研与学术写作行为。

  □赵亦安(媒体人)