《自然》杂志：生成式AI工具“香饽饽”

【金色港湾资讯网为您推荐阅读】

◎本报记者 刘霞

2022 年 11 月，生成式人工智能 (AI) 工具将发布。 鉴于生成式人工智能可以快速创建文本、图像等内容，两个月后，他以作者身份出现在一些学术论文上。 英国纽卡斯尔大学数字创新研究员萨瓦斯·帕帕亚尼斯表示，在竞争激烈的学术界，任何能够提高研究人员学术产出的工具都是“红薯”。

英国《自然》杂志网站在最近的一篇报道中指出，大语言模型（LLM）正在重塑科学写作和出版的面貌。 但是，虽然这些工具提高了生产力，但它们也可能产生负面影响。 出版商和科学家必须考虑如何更合乎道德地使用这些工具，以及过度依赖它们将对学术研究领域产生什么影响。

成为科学家的“得力助手”

LLM 帮助科学家编写代码、撰写文献评论和集思广益。 此外，LLM工具也在不断完善，拥有相关技能的研究人员甚至可以根据自己的写作风格和研究领域开发自己的个性化LLM。

2023年，《自然》杂志对1600多名科学家进行了一项调查。 近30%的受访者表示，他们曾使用生成式AI工具来辅助撰写论文； 大约 15% 的人表示他们曾使用这些工具来帮助撰写科研资助申请。

在这项调查中，大约 55% 的受访者认为生成式人工智能的一个主要好处是它能够为母语非英语的研究人员编辑和翻译论文。

欧洲研究理事会（ERC）在 2023 年 12 月进行的一项民意调查也显示，1000 多名 ERC 资助者中，有 75% 的人认为生成式 AI 工具将减少研究中的语言障碍； 85%的人认为生成式人工智能可以承担重复性或劳动密集型的任务，例如文献综述； 38% 的人认为生成式人工智能将提高科学生产力，例如帮助研究人员更快地撰写论文。

筛选有价值的论文更加困难

生成式人工智能还可能产生一些与来源无关的荒谬或不切实际的东西，这被称为“幻觉”。

专家认为LLM有望提高学术产出。 这看起来不错，但它也带来了另一个问题：期刊的投稿量急剧增加，让编辑和同行审稿人不堪重负。 帕帕亚尼斯表示，从大量已发表的论文中筛选出有意义的研究已经很困难。 如果其他LLM的论文产量大大增加，筛选出有价值的论文就更困难了。

在这种环境下，研究人员应该专注于撰写真正高水平的论文。 当前学术界“不发表，就什么都没有”的模式要求从事学术研究的人快速、持续地发表研究论文。 但这需要改变，学术界应该建立一个重视质量而非数量的新体系。 一些机构已经意识到了这一点； 例如，德国研究基金会要求申请人在提案中仅列出 10 篇出版物。

出版商为人工智能制定规则

随着生成式AI等工具逐渐渗透到学术论文领域，学术出版商已经开始为它们“制定规则”，并发布关于如何在写作过程和其他LLM中使用它们的规定。 1 月 31 日发表在《英国医学杂志》上的一篇论文指出，截至去年 10 月，100 种顶级学术期刊中有 87 种提供了作者如何使用生成式 AI 的指导。

例如，施普林格·自然出版集团（ Group）于2023年1月发布了作者指南，增加了两条新原则：第一，等待LLM目前不符合作者标准。 因为任何作者都要对作品负责，而AI工具无法承担责任。 其次，使用法学硕士工具的研究人员应在方法或致谢部分列出这种用途。 如果论文不包含方法或致谢，作者应在引言或其他适当的地方列出LLM的使用。

《科学》杂志主编霍顿·索普强调，虽然截至2023年11月，美国科学促进会允许研究人员在撰写稿件时使用生成式人工智能，但在同行评审期间使用LLM仍然是被禁止的。 《自然》还禁止同行评审员将手稿上传到生成人工智能工具。 出于保密考虑，包括美国国立卫生研究院和澳大利亚研究委员会在内的一些研究资助机构禁止审稿人使用生成式人工智能来帮助申请研究经费。

尽管研究人员正在竞相开发法学硕士检测工具，但索普指出，目前还没有一个工具能够产生令人信服的结果来更好地筛选期刊提交的文章。

随着生成式AI技术的不断发展，学术界也应该找到更好的方法，更有效地利用它，促进高质量科研论文的产出，推动科技进步。