人工智能技术对科研诚信建设提出新挑战-科研处

科学道德和学风建设

当前位置: 首页 >> 科学道德和学风建设 >> 正文

人工智能技术对科研诚信建设提出新挑战

发布时间：2023年08月08日 09:29

以ChatGPT为代表的人工智能生成技术带来的变革，将对基于现有研究范式的科研诚信建设提出新挑战。应从人、政策、技术三个维度引导学术工作者合理使用技术，加强科研诚信监管。

　　ChatGPT是人工智能生成技术AIGC（Artificial　Intelligence　Generated　Content）的一款具体应用和产品，是一款人工智能对话系统，自2022年11月30日被推出以来，引起科技工作者对AIGC技术的广泛关注。AIGC技术是通过人工智能算法使用大量数据训练的模型自动生成文本、音频、图像、视频等内容的技术，可完成文本交互、AI绘图、视频编辑、生成代码等任务，目前已在媒体、设计与制图、在线教育、游戏开发等多个领域都有应用，实现了图像、文本之间的跨模态数据的生成，未来将会有更多跨模态的应用。

　　AIGC技术为科研人员提供了功能强大的工具，助力科学研究

　　AIGC人工智能生成技术可实现跨学科、跨语种、跨模态的数据资源的访问与处理，通过与科研人员的对话不断学习、优化，辅助科研人员开展科学研究，快速解决相关科研任务：

　　头脑风暴：AIGC技术具备大数据快速处理能力，可实现已有数据的检索、推荐、发现和融合，为科研人员提供灵感、素材或信息支持等，有助于挖掘潜在的、更具深度的研究内容和思路。

　　文献综述：AIGC技术具备跨学科、多模态知识的关联处理等能力，可以辅助科研人员更加全面地理解知识，快速提炼核心内容。

　　内容生成与编辑：AIGC等人工智能技术能根据科研人员的要求快速生成文本、代码、图像等工作，辅助完成自动摘要、关键词提取、语言润色、机器翻译等工作。

　　可视化和智能互动：AIGC技术支持可视化呈现及建立多样化的智能模型，实现人机互动，有助于将复杂信息以更易于理解和交流的形式呈现，辅助研究人员直观、互动式地展示研究样品、分析数据、研究成果等。

　　AIGC技术对科研诚信建设提出新挑战

　　科学技术是一把双刃剑。3月底，埃隆·马斯克等2800多人签名的一封公开信认为，当前人工智能研究未能正视阿西洛马人工智能原则，并提出了若干令人深刻思考的问题。AIGC技术带来研究范式的变革将对基于现有研究范式的科研诚信建设提出新挑战。

　　AIGC等人工智能技术的实现基础和使用过程均缺乏透明度。AIGC技术应用依赖于大量的数据，而数据源缺乏透明度必然会引起人们对于结论的怀疑。AIGC生成的内容缺乏对于数据源的引用，影响了科学研究的透明性，一方面这可能会引发生成内容的抄袭剽窃与知识产权纠纷，另一方面，AIGC技术的滥用或非诚信的使用，可能导致科研人员简单地将AIGC生成的内容作为自己的研究成果，抑制了真正的科技创新。

　　AIGC技术生成内容的真实性和可靠性让人担忧。AIGC技术仅仅是一个统计模型，无法产生原创性想法，因此不能完全或者深入理解提示内容的含义，因此可能会生成看似合理实则虚假的信息，并产生道德层面的问题，使科研的创新性和可靠性受到抑制。如2022年12月，一个程序员互问互答的热门论坛Stack　Overflow临时禁用了ChatGPT，因为管理者发现一些用户上传了大量由大型语言模型生成的回答，错误率很高。

　　AIGC技术的滥用可能引发更为严重的科研失信行为。AIGC技术可以通过排列组织预训练数据生成文本、图像、数据、代码、视频等，这些内容可能会形成论文或项目申请书，存在观点剽窃等隐患，也极易引发新形式的论文代写、抄袭剽窃、洗稿等学术不端行为。根据Retraction　Watch的数据统计，自2021年截止到2023年7月6日共有914篇因“Randomly　Generated　Content（随机生成的内容）”原因被撤稿，约占近三年来撤稿论文总数的8．34％。

　　AIGC技术对科研失信行为的识别和科研诚信监管形成新挑战。当下的AIGC技术生成内容无法明确知识来源，加上更加隐蔽的虚假数据“成果”，洗稿、新形式的论文代写等学术不端行为，原有的相似度查重和图像识别等技术逐渐失效，加大了识别这些学术不端行为的难度。AIGC生成内容具有迷惑性，可能会在已发表的文献中引入虚假或剽窃的内容，而同行评议专家具备的知识存储与核查精力是有限的，可能无法检测到AIGC技术生成的内容。在最近的一项研究中，学术评议专家仅能发现63％由ChatGPT创建的摘要。

　　科技界教育界出版界制定政策采取措施应对快速发展的AIGC技术

　　ChatGPT及人工智能生成技术给科学研究带来多重便利与挑战被社会各界热议，对于教育界和出版界的影响最为直接。

　　学校与教育机构发表声明、出台规范，引导规范使用ChatGPT及人工智能生成技术。据调查，全球已有超过20所大学或教育机构对ChatGPT的使用作出回应。多数机构针对ChatGPT的使用标准进行界定，一些机构对于涉及ChatGPT的引用与署名标准、使用指南等发表相关声明与建议。如，美国普林斯顿大学、德国赫蒂管理学院及澳大利亚昆士兰大学等一致肯定了人工智能生成工具对教育领域产生的积极影响，鼓励教员与学生尝试使用人工智能工具，以创新的方式获取和组织知识。与此同时，从人工智能使用范围、使用规范及方法等方面进行规范，强调应如何负责任地使用ChatGPT。香港大学对ChatGPT使用条款和条件进行界定，声明ChatGPT的使用仅限于工作与研究用途。此外，英国剑桥大学，强调在学术成果中阐明人工智能贡献的必要性，加拿大滑铁卢大学等对如何引用人工智能生成工具进行规范。

科研处

2023年8月8日

上一条：关于进一步加强统筹国家科技计划项目立项管理工作的通知下一条：中国科协推荐（提名）院士候选人工作“十不准”

【关闭】