
近日,《系统神经科学前沿》(Frontiers in Systems Neuroscience)期刊的一位副主编Michael Okun教授宣布辞职,以抗议出版商Frontiers的AI系统在同行评审流程中的不当应用,他认为这正在损害期刊的学术诚信。
诺丁汉大学神经科学副教授Michael Okun于6月10日在社交媒体上宣布了这一决定。此前,期刊官员告知他,无法关闭与AI相关的自动寻找潜在审稿人的工具。这些功能集成在出版商的“人工智能研究助理”(Artificial Intelligence Research Assistant, AIRA)系统中。Frontiers在几年前推出AIRA,旨在帮助编辑进行同行评审并提高效率。
Okun在接受《The Transmitter》采访时详细阐述了他的经历。今年5月初,他收到期刊请求处理一篇关于神经元网络动态的稿件。他向大约六位潜在审稿人发出了邀请,但在任何一位接受之前,AIRA系统便开始向其他研究人员发送审稿请求。Okun指出,AIRA联系的两位审稿人——根据他的判断,他们并不具备相关专业知识——竟然接受了审稿请求。
这一情况促使Okun向Frontiers反映问题。他被告知忽略AIRA发出的请求,并继续自行寻找审稿人。然而,当他按照指示操作,并且他邀请的一位专家接受了请求后,AIRA却撤销了他所有其他的邀请。Okun对此表示强烈不满:“一个手动邀请的、真正在该领域有专长的专家,在邀请发出几小时后就被撤销,这简直不可思议。”
对Okun而言,这成为了一个不可接受的底线。他批评道:“期刊似乎更关注尽可能多地发表稿件,而不是太在意质量。这些并非系统漏洞,而是有意为之的功能,旨在尽可能地取代人类编辑。”
Frontiers位于瑞士洛桑的首席执行编辑Frederick Fenter在给《The Transmitter》的一份声明中回应称,Frontiers开发的每一项功能都旨在节省科学家的时间,让他们能够专注于研究。“我们很遗憾Dr. Okun有不愉快的经历,我邀请他直接讨论他的担忧,这一邀请仍然有效。”
Fenter强调,编辑在任何阶段都有能力暂停审稿人邀请,但这一点在Okun的案例中并未明确体现。因此,Frontiers正在进行内部审查,以查明沟通中断的原因,并确保未来不再发生类似事件。Fenter补充说,自2018年以来,Frontiers一直使用AI来帮助编辑识别和邀请审稿人,但他坚称人类判断是这一过程的核心。“编辑对是否使用自动化建议拥有完全的裁量权;他们可以在发送任何邀请之前审查所有建议,决定邀请谁以及以何种顺序邀请,并可以在任何时候添加、删除或重新分配审稿人。”他强调,“接受和拒绝的决定始终由人类编辑做出,无一例外。”
Fenter还指出,AI辅助编辑带来了显著的好处:在过去一年中,Frontiers获得愿意进行审稿的同行审稿人的平均时间缩短了30%。Frontiers的数据显示,80%的处理编辑认为自动化有助于加快审稿人分配,94%的作者对他们的同行评审体验评价为良好或优秀。“编辑们还得到了一个专门的科研诚信团队的支持,该团队负责监督我们编辑流程各个阶段的自动化质量检查,”Fenter写道,“我们仍然致力于将人类专业知识置于同行评审的中心,并公开为学术出版中负责任地使用AI的更广泛讨论做出贡献。”
然而,Okun的经历并非孤例。斯特拉斯克莱德大学系统神经科学教授Shuzo Sakata表示,他也曾有过与该期刊自动化系统类似的经历。“即使在我决定拒绝一篇稿件后,系统未经我的允许就邀请了另一位审稿人。”Sakata回忆道。Sakata表示,他已不再接受该期刊的编辑邀请。“自动化很重要,通常也很有帮助,但他们的系统已经越过了界限。”
《The Transmitter》采访的其他几位编辑表示,他们并未遇到Okun所强调的AIRA问题,其中一些人指出他们为该期刊编辑的论文数量不多。但也有其他研究人员指出AIRA会向他们发送不寻常的请求。麻省理工学院皮考尔神经科学教授Earl K. Miller说:“Frontiers不断向我发送与我的专业知识完全无关的审稿或编辑请求。”国际高级研究学院探索感官体验神经基础实验室负责人Mathew Diamond补充道:“我确实经常收到担任编辑的请求,但97%的时候,所涉稿件与我的专业领域不重叠。”
Okun表示,利用大型语言模型寻找外部专家的想法是好的。“我完全赞成,只要咨询人类编辑的意见。”他补充说,如果出版商披露所有编辑工作都是由AI完成的,他也可以接受一个完全自动化的系统。“只要它是诚实的,并且你不会随意把别人的名字贴上去,那也可能完全没问题。”