随着互联网的普及，人工智能利用其广泛传播的能力来传播虚假信息，这不仅满足了公众对情感需求的追求，同时也导致了社会信任成本的剧增。
1月7日，在西藏日喀则市定日县发生了一场震级达到6.8的地震。在这次地震中，有一个小男孩被埋在废墟下，然而令人惊讶的是，这个小男孩实际上只是由人工智能生成的图片。灾情引起了无数人的关注和担忧，很多网友纷纷在社交媒体上为受灾民众祈福。然而与此同时，一些看似虚假的信息开始广泛传播开来，其中包括使用AI生成图片所造成的误导情况。
就好比一张照片，画着一个戴帽子的孩子被废墟所压迫。这个照片在某个短视频平台上广泛传播，至少有10个以上的账号发布了这一内容，并将其与日喀则地震联系在一起。其中一些账号获得了数以万计的转发、评论和点赞，许多网友都对那个小孩现在的情况表示关切。
根据新京报的调查结果，上述图片是利用AI工具创作而成的。原始作者在2024年11月18日发布了一段相同画面的短视频，并明确指出该作品是由人工智能生成的。
可以推断，这幅图并非出于追求灾情热度而创作，然而多个账号却将其与日喀则地震联系在一起，甚至没有明确标注是由人工智能生成的。这种行为可以说是利用公众对灾情的关注来获取关注度，并且存在故意误导之嫌。
在新闻报道中，除了这张照片之外，还有一些与地震相关的图像。其中，一些被作者标注为由人工智能创作，而另一些则被平台标记为可能由人工智能创作。还有一些没有任何提示，这可能会导致事实的混淆。
地震发生后，人们的焦点主要集中在灾情和救援工作上。此刻，最关键的是获得真实可靠的信息。无论是利用人工智能生成相关灾情图片和视频，还是有意传播包含人工智能生成内容的虚假信息，这种行为不仅会给抢险救灾工作带来混乱，更可能扰乱社会秩序。
每当灾情发生，总会有一些人为了追求曝光度而编造各种谣言，这实际上是一种浪费救援工作时间和精力的行为。核实相关信息并进行辟谣需要付出巨大成本。此外，公众对于制造和传播谣言的行为深感厌恶，尤其是在涉及灾情时。虚假信息广泛传播甚至可能引发社会恐慌风险。
随着人工智能技术的迅猛进步，如今我们可以轻而易举地利用人工智能生成逼真的图片、音频和视频。然而，这种便利性也引发了一种全新的虚假信息传播方式——“AI造谣”。通过互联网广泛传播，AI造谣不仅引起了公众情感共鸣，同时也大幅增加了社会信任的成本。
也许有些人认为，只要不是自己原创或生成的内容，转发传播一下并不会对他们产生太大影响。然而，在网络时代，我们每个人都扮演着信息传播者的角色。因此，避免传播未经证实的消息已成为我们应具备的基本媒介素养。当涉及到谣言传播链条时，无论是最初散布谣言者、放任传播的平台还是转发消息的用户，没有一个可以逃脱责任。
必须认识到，无论是否利用人工智能技术，制造并有意散布虚假信息的行为都可能触犯法律。如果伪造虚假的险情、疫情、灾情或警情，并广泛传播于网络或其他媒体上，严重干扰社会秩序的个人将面临严厉的刑事追究。
考虑到人工智能制造虚假信息的门槛较低，识别难度较大等特点，我们需要进一步提升治理虚假信息的手段。对于人工智能软件开发者而言，他们是否可以强制标注人工智能生成的内容，以减弱虚假信息从源头传播的效果；对于平台方来说，则应该严格履行审核责任，在灾害事故等情况下加强信息筛查，并采取事后惩罚措施，不给那些散布谣言者逃避责任的机会。
总的来说，地震灾情紧急，我们应该把抗震救灾放在首要位置，不容许人工智能传播虚假信息以谋求炒作。
相关文章
