快科技 1 月 10 日消息，西藏日喀则市定日县发生地震后，灾情牵动着全国人民的心，然而，在这令人揪心的特殊时刻，少数别有用心之人却妄图利用 AI 技术制造谣言，博取关注。
今日，抖音安全中心发布于治理 「灾害期间不当使用 AI 生成内容」 的公告。
公告称，近期西藏自治区发生地震灾害，全网出现多起不当利用 AI 技术生成灾害场景的情况，给救灾工作带来了干扰，平台已严肃处置 23652 条涉地震不实信息并配发了辟谣内容。
抖音发现，有部分用户发布 AI 生成的灾难图片时，自认为这是 「艺术创作」，目的是 「祈福」，主观上并非要 「造谣」。
在此，抖音重申，AI 创作易让人混淆虚假与现实，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，须遵循以下规范：
1、发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。
2、发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。
3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
4、禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于侵犯肖像权、知识产权等。 一经发现，平台将严格处罚。
5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。 一经发现，平台将严格处罚。
2023 年和 2024 年，抖音先后发布 《关于人工智能生成内容的平台规范暨行业倡议》，《关于不当利用 AI 生成虚拟人物的治理公告》，明确平台不鼓励利用 AI 生成虚拟人物进行低质创作，将严格处罚违规使用 AI 生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
据了解，最近，一系列 「小男孩被埋图」 在网上广泛传播，并配文日喀则地震等关键词，其中，一张 「戴着帽子的小男孩被压在废墟下」 的图片在多个账号发布，获得大量转评赞。
但事实上，这张图片并非真实的地震现场画面，而是通过 AI 生成的图片，且这张图片于 2024 年 11 月 18 日首发，作者在发布时并未关联地震且声明是 AI 生成。
据媒体报道，经查，青海某网民为博取眼球，将 「小男孩被埋图」 与日喀则地震相关的信息进行关联拼凑、移花接木，混淆视听、误导群众，致使谣言信息传播扩散。
目前，涉案人员已被属地公安机关依法行政拘留。
