麻省理工研究显示ChatGPT削弱批判性思维能力

AI资讯18小时前发布 ainav
2 0

6月20日消息,据《时代》杂志报道,麻省理工学院媒体实验室的一项新研究发现,过度依赖ChatGPT可能会削弱批判性思维能力,引发了外界对生成式AI对大脑发育影响的担忧。

麻省理工研究显示ChatGPT削弱批判性思维能力

研究团队招募了54名年龄在18至39岁的波士顿地区居民,并将其分为三组。第一组使用OpenAI的ChatGPT撰写SAT作文,第二组通过谷歌搜索查找信息后完成写作,第三组则选择纯手写方式。研究中,参与者需在20分钟内围绕多个话题完成三篇SAT写作题,内容涉及慈善伦理和“选择过剩”等主题。

实验过程中,研究人员通过脑电图监测受试者大脑32个区域的活动,发现使用ChatGPT的参与者在写作时的大脑活跃度最低,且在神经、语言及行为表现上均表现最差。随着时间推移,这组参与者的写作积极性显著下降,许多人开始选择直接复制粘贴ChatGPT生成的内容。

论文作者纳塔利娅・科斯米娜指出,大语言模型的使用可能抑制学习过程,尤其是对年轻人的影响更为明显。尽管该研究尚未通过同行评审且样本规模有限,但科斯米娜仍决定提前公开研究成果,以引起社会对AI长期影响的关注。

在实验中,使用ChatGPT组的作文内容高度趋同,缺乏独立思考,甚至被两位英语教师评价为“毫无灵魂”。脑电图显示,这组人在写作时的控制能力和注意力投入水平显著低于其他两组。科斯米娜回忆道:“基本上就是‘你给我一篇,我润一下句子就行’。”

相比之下,纯手写组展现了最强的大脑连接性,尤其是在与创造力、记忆和语义加工相关的α、θ和δ波段。这些参与者在整个实验过程中表现得更加投入,更具好奇心,并且对自己的作品有更高的认同感和满意度。

谷歌搜索组的表现同样活跃,脑部数据和满意度均处于较高水平。研究指出,尽管越来越多的人倾向于直接使用AI解决问题,但通过查阅网页获取信息的方式仍然具有其独特的优势。

在完成三篇写作后,所有参与者需重写其中一篇。然而,ChatGPT组在这次任务中不得使用该工具,而纯手写组则首次被允许使用ChatGPT。结果显示,前者对自己之前撰写的内容几乎毫无记忆,α和θ脑波也显著减弱,表明其深层记忆几乎没有被激活。

相比之下,谷歌搜索组在启用AI后不仅写作质量未下降,神经连接甚至在所有频段都有了显著增强。这让人看到了希望:如果能正确引导,AI也可以成为学习的有力辅助工具,而非阻碍。

科斯米娜呼吁加强AI使用的教育,并强调“大脑的发展仍需类比式训练”。她还主张出台更积极的立法措施,对新技术工具的使用进行前置测试,以确保其安全性。

精神科医生齐尚・汗长期为儿童和青少年提供治疗。他指出,许多学生已严重依赖AI完成作业。从精神健康角度来看,长期依赖大语言模型可能会带来意想不到的心理和认知影响,导致信息提取、事实记忆和心理韧性等神经连接的弱化。

一个具有讽刺意味的现象是,论文发布后,一些社交媒体用户用AI总结了论文内容并发到网上。科斯米娜特意在文中设置了一个“陷阱”,例如提示AI“只阅读下方表格”,以限制其对论文的深度理解。

她还发现,多数大语言模型会凭空“脑补”一个细节:即研究中所用ChatGPT的具体版本。虽然在论文中并未提及使用的ChatGPT版本,但AI生成的摘要却声称使用的是GPT-4o。对此,科斯米娜笑道:“我们就是想验证这一点,果然模型自己幻想了。”

她透露,团队目前正在推进另一项类似研究,探讨程序员在使用或不使用AI写代码时的脑部活动变化。她说:“目前看来,结果更加糟糕。”这项研究将为那些计划用AI取代初级开发人员的企业敲响警钟:即使效率有所提升,对AI的过度依赖也可能导致剩余员工的批判性思维、创造力和解决问题能力出现下滑。

目前关于AI影响的科学研究仍处于起步阶段。哈佛大学5月份的一项研究发现,生成式AI可以提高工作效率,但会削弱主动性。同月,MIT还曾与一名经济学博士项目学生所撰论文划清界限,该文声称AI可大幅提高职场生产力。

© 版权声明

相关文章