瑞典研究警告:AI生成的“垃圾科学”正侵蚀谷歌学术平台

研究人员认为,由AI生成的“垃圾科学”侵蚀学术平台,意味着恶意行为者能以更低成本制造和传播虚假科学,对社会和科研界来说都是一种危险情况。

该研究发现,AI生成的研究带来的主要担忧之一,是证据篡改风险增加,即虚假研究可能被用于战略操纵。此次发现,这些有问题的文章已经传播到网络研究基础设施的多个组成部分,渗透进了各种档案库、社交媒体平台以及其他相关网络渠道。由于传播速度很快,且在谷歌学术平台处于公开状态,即使文章被撤回,也有可能已经传播开来,造成潜在影响。

此外,AI生成的研究也给已经压力重重的同行评审系统带来问题。AI生成的研究在搜索引擎数据库中传播,对参与在线研究的人员的信息素养提出了更高要求,否则,人们很有可能基于错误的信息作出决策。这既是科学不端行为的问题,也是媒体和信息素养的问题。

研究人员强调,谷歌学术平台并不等同于专业的学术数据库。尽管它使用便捷、搜索迅速,但缺少必要的质量保证流程。这一缺陷在普通的谷歌搜索结果中已显现出问题,而当涉及科学知识的普及与传播时,这一问题则变得更为严峻和复杂。

 

版权声明:ainav 发表于 2025-01-15 15:02:13。
转载请注明:瑞典研究警告:AI生成的“垃圾科学”正侵蚀谷歌学术平台 | AI导航站