西藏地震有人不当利用AI生成灾害场景 抖音：严格处罚！

快科技1月10日消息，西藏日喀则市定日县发生地震后，灾情牵动着全国人民的心，然而，在这令人揪心的特殊时刻，少数别有用心之人却妄图利用AI技术制造谣言，博取关注。

今日，抖音安全中心发布于治理灾害期间不当使用AI生成内容”的公告。

公告称，近期西藏自治区发生地震灾害，全网出现多起不当利用AI技术生成灾害场景的情况，给救灾工作带来了干扰，平台已严肃处置23652条涉地震不实信息并配发了辟谣内容。

抖音发现，有部分用户发布AI生成的灾难图片时，自认为这是艺术创作”，目的是祈福”，主观上并非要造谣”。

在此，抖音重申，AI创作易让人混淆虚假与现实，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，须遵循以下规范：

1、发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。

2、发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。

3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。

4、禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于侵犯肖像权、知识产权等。 一经发现，平台将严格处罚。

5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。 一经发现，平台将严格处罚。

2023年和2024年，抖音先后发布《关于人工智能生成内容的平台规范暨行业倡议》，《关于不当利用AI生成虚拟人物的治理公告》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

据了解，最近，一系列小男孩被埋图”在网上广泛传播，并配文日喀则地震等关键词，其中，一张戴着帽子的小男孩被压在废墟下”的图片在多个账号发布，获得大量转评赞。

但事实上，这张图片并非真实的地震现场画面，而是通过AI生成的图片，且这张图片于2024年11月18日首发，作者在发布时并未关联地震且声明是AI生成。

据媒体报道，经查，青海某网民为博取眼球，将小男孩被埋图”与日喀则地震相关的信息进行关联拼凑、移花接木，混淆视听、误导群众，致使谣言信息传播扩散。

目前，涉案人员已被属地公安机关依法行政拘留。