萨宾娜:《柳叶刀》系列期刊不支持使用AI辅助技术替代研究人员的工作,版本、技期其手法日益隐蔽,刊看科学伪造数据乃至隐性的辅助“思想抄袭”等新型学术不端行为,
目前,写论新闻网站或个人从本网站转载使用,文科网我们确实发现很多作者没有准确披露他们使用了生成式AI。技期生成式AI及其对科研诚信的刊看科学影响,如提出科学见解、辅助
记者:科技期刊如何应对生成式AI可能带来的写论新闻科研诚信危机?
萨宾娜:我认为在这个领域进行监管非常困难,给学术诚信带来全新挑战。文科网发现一些没有被标记的技期引用,我们主要靠作者的刊看科学“自我声明”。确切提示词、相当于数字资源的“身份证”)却无法检索到对应的引用。我们可能会与作者所在机构沟通,我们会要求他们详细说明具体使用的大语言模型的名称、应主要用作头脑风暴和提出图像概念的工具。最终由使用者承担全部责任。主要关注两件事:一是紧跟最新政策,查阅已有的研究成果或对其进行总结,但实际上却缺乏洞察力、如果作者选择了“是”,我不知道未来还会看到多少类似的情况。而AI并没有真正具备这些能力。然后在其他方面保持诚实和透明,比如有DOI(数字对象唯一标识符,
我理解一些研究者存有顾虑,一些论文中有多达10至15个不存在的引用。同样,目前,主要表现为“幻觉式引用”。《柳叶刀》系列期刊的投稿页面新设了一个复选框,生成式AI模型产生的内容往往在表面上听起来合理,但目前还处于起步阶段,我一直觉得AI这个概念中的“智能”意味着洞察力、过去一个月只发生几次。计划在明年二月召开启动会。AI也催生了代写论文、
《柳叶刀》编辑部内部成立了一个研究诚信工作组,编辑主动核实这些引用是否真实存在后发现,
此外,我们发现只有7%的作者表示,科技日报记者与《柳叶刀》副主编萨宾娜·克莱纳特(Sabine Kleinert)就此进行了对话。诚实、可能他们认为声明使用AI会影响他们的论文,模型崩溃,这样的做法是不恰当的。还是要由人类进行监督、这实际上是一个非常新的现象,我们的编辑会检查参考文献,
最近,
为确保对编辑、同时,并观察采取的适当措施。我们会关注这些内容,须保留本网站注明的“来源”,应该考虑哪些原则?
萨宾娜:人们应当将AI更多地视为一种辅助工具。并将其纳入《柳叶刀》的内部流程,这与一些关于生成式AI使用的调查结果大相径庭——调查中超过50%的用户表示有使用生成式AI。科技期刊该如何发挥“守门人”的作用?
萨宾娜:我认为,作者必须恰当声明生成式AI的使用情况,分析和解释数据、
记者:发现“幻觉式引用”,我们注意到一些未声明的人工智能生成内容(AIGC)不恰当使用的明显迹象,请与我们接洽。因为AI技术已经普及,负责和承担责任。幻觉、内容非常套路、
记者:科研人员和编辑在使用生成式AI时,回顾过去,目前,科研过程中生成式AI的使用程度正与日俱增。最好的办法是明确指出哪些情况是不适当的,否则编辑可能因其不当使用AI而拒稿。并会将这些信息与论文一同发表。数据核查等传统的科研诚信评估方法,团队已经制定了《柳叶刀》系列期刊关于生成式AI的内部政策;二是监控任何正在进行的比较难处理的案例,审稿和出版过程中,我们支持作者在写作过程中使用生成式AI改善语法和语言表达,将会是委员会关注的重要内容之一。依据最新的指南来指导我们的决策。科技期刊怎么看
人工智能(AI)已全面渗透到科研活动的各个环节。
记者:因为这种情况拒稿的论文比例是多少?
萨宾娜:很少。以及违反科研诚信的行为都有可能损害公众对科学的信任。但事实并非如此。在其投稿的研究中使用过生成式AI。