央视通报多起AI制造假新闻

7月27日最新消息显示，随着人工智能技术的迅猛发展，AI技术在社会各个领域的应用日益普及。然而，一些不法分子却将这一前沿科技用于非法用途，通过AI制造传播虚假信息，严重危害网络环境和社会秩序。对此，央视网近日发布文章，曝光了一系列利用AI技术伪造新闻的典型案例。

以近期引发广泛关注的”游船翻覆30人落江”假新闻为例。7月20日，网络上突然出现消息称”湖北宜昌一游船侧翻，多人落水”。对此，湖北省公安厅与宜昌市公安局迅速联动，联合网安部门展开调查，最终锁定了一名利用AI工具编造谣言的男子。据警方透露，该男子为提升其账号的关注度，在某款AI工具上输入了相关关键词，自动生成了这条虚假新闻。目前，这名男子因传播谣言已被依法行政拘留。

另一个典型案例发生在云南大理。近日，漾濞县公安局查处了一起利用AI技术编造交通事故的网络谣言案件。当地警方在工作中注意到，有人在网络上发布了多段声称发生在大理州的交通事故视频，视频中显示有人员伤亡情况。

经调查，视频发布者赵某某交代称，他为了吸引流量、增加粉丝数量，使用AI工具制作了这些看似真实的交通事故视频，并上传到自己的视频号上。据其供述，通过简单的操作，AI工具就能生成高度逼真的事故现场画面。赵某某的这一行为幸好被警方及时发现，成功控制了谣言的传播范围。

针对此类利用AI技术造假的行为，警方提示：当前AI技术在视频制作领域的应用已非常普遍。不法分子只需简单操作，就能生成难以辨别的虚假视频。普通民众很难凭借肉眼识别这些经过AI加工的假内容。因此，在亟需加强技术监管的同时，也需要全社会提高警惕，提升对AI生成内容的辨别能力。