▲近日,不少网友在社交平台反映,知网AI生成率检测结果波动明显。图/澎湃新闻


“10月24日中国知网更新人工智能生成内容(AIGC)检测算法(以下简称AI生成率),一模一样的论文内容在9月30日查是没事的,等到10月25日重新查一遍就全‘红’,检测到的AI生成内容占比高,至今不知道判定AI生成率的标准是什么。”


据澎湃新闻报道,近日,不少网友在社交平台反映,知网AI生成率检测结果波动明显,同一篇文稿在不同时间检测,得到差异较大的AI特征值;不少用户称,知网于10月24日更新算法后,检测AI生成率的数值出现暴涨。


为通过检测,许多学生不得不反复自费复测、不断修改文稿,甚至出现以AI对抗AI的“魔法对轰”现象。对此,知网客服回应称,现阶段算法处于迭代过渡阶段,AI疑似率仅作参考,不能作为最终判定依据,用户对结果存疑可申请人工复核。


当前,不少高校把AI生成率纳入论文审核,用以甄别AI代写、防范学术不端。可如果检测工具本身的判定标准不科学、不专业、不稳定,那么依托检测结果做出的评判,自然也就缺乏可信度、公信力。因此,AI检测工具在用来检测学生论文之前,自身首先要经得起检测。


AI检测的结果之所以差异很大,根源在于AI检测技术本身存在明显局限。AI检测的判定方式,是依靠算法识别文本中常见的AI句式、表达习惯与行文风格,以此推算AI生成比例。但需要注意的是,绝大多数AI模型的训练素材,本身就是海量的已有文献、经典著作和规范范文。这就导致结构规范、逻辑通顺、表达严谨的人工原创文章,很容易被机器误判为AI生成内容。


此前,就有网友指出,一些经典文学作品,居然也被检出很高的AI生成率,让人对AI检测系统的可靠性产生怀疑。


与此同时,部分检测平台兼具AI检测、AI降重的商业业务,依靠检测次数、字符数量收费盈利。在商业利益驱动下,平台可能会调整后台算法、改动判定阈值,人为拉高AI生成率,制造检测波动,诱导学生多次付费复测。这将进一步导致检测标准混乱,严重影响检测的专业性与公正性。


要规范学生AI使用行为,首先必须规范检测平台。包括知网在内的AI检测平台,应当主动公开AI生成内容的判定依据、判定标准和算法规则,做到可复核、可追溯、可检验,让检测结果透明可信。


公开、规范的检测标准,也是引导学生建立AI写作规范的前提。目前高校学术规范并非完全禁止学生使用AI工具,只是严禁AI代写。学校应当依托科学的检测标准,明确学生的AI使用边界。清晰的规则,能够引导学生正确、规范、适度使用AI工具,杜绝完全依赖AI代写的学术不端行为。


除此之外,也必须理性看待AI检测的作用,不能过度依赖算法数据。AI检测只能发现文本表层的风格特征问题,无法识别文章的创新价值、学术思考和科研质量。单纯依靠机器判定,本身就是简单粗放的评价方式。


部分教师之所以依赖AI检测报告,本质上是因为它简化了教学指导工作,以机器结果代替人工评价。真正培养学生的学术规范与学术能力,保障论文原创性与写作质量,关键在于发挥教师的指导作用。教师应当对学生开展持续的学术训练、规范指导和论文反复修改打磨。如此,也就不必片面依赖AI检测判定原创性。


总而言之,AI检测工具标准不透明、判定不稳定、机制不严谨的问题,需要相关平台高度重视。只有让AI检测工具先经得起专业检验,建立公开可复核的判定体系,才能规范学生“人机协同”的科研与学术写作行为。与此同时,高校要强化导师指导作用,摆脱AI检测依赖,真正保障高校人才培养质量。


撰稿 / 赵亦安(媒体人)

编辑 / 柯锐

校对 / 张彦君