央视曝光AI造谣乱象：自媒体引流发布虚假信息被依法处理

6月22日，央视新闻报道了一起引发广泛关注的网络谣言事件。据报道，近日网络上频繁出现利用AI技术生成的虚假信息，其中最为典型的案例是由公安部网安局通报的一起案件：犯罪嫌疑人通过AI生成了”华山医院前院长张明远因阑尾炎未得到及时救治客死他乡医院走廊”等耸动内容，并在多个网络平台发布。

上海市公安局静安分局网安支队经过调查发现，所谓的’华山医院前院长张明远’并不存在。该院院长及员工名册中均无此人信息。同时警方查明，实际操作相关账号发布谣言的并非账号注册者本人，而是通过兼职方式将账号转交他人使用。

警方进一步调查发现，这起网络谣言的背后是一个有组织的自媒体工作室。该工作室实际控制着约500个自媒体账号，通过每天持续追踪热点事件，利用AI技术自动生成大量未经核实的”新闻”文章，并在自己控制的多个账号上进行传播。据统计，这些账号共发布了约10余万条虚假信息，造成了恶劣的社会影响。

根据警方通报，涉案的主要犯罪嫌疑人王某某、郭某某、石某某等三人因涉嫌非法利用信息网络罪，已被上海静安警方依法采取刑事强制措施。相关违法违规账号也已全部被封禁处理，案件正在进一步侦办中。

央视网指出，随着AI深度合成技术的快速发展，网络空间出现了大量AI造假现象。除了传播虚假新闻外，还存在一些不法商家利用AI技术生成名人带货广告或视频等违法行为。针对这一乱象，国家网信办正在开展专项打击行动。截至6月20日，专项行动第一阶段已累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个，取得显著成效。