法治在线丨谨防这些病毒视频！ “AI拼接怪物”

今年以来，人工智能短视频在各大平台迅速走红，一些被称为“海外海洋山地经典”的视频在矿工中掀起热潮。有些孩子记住了视频中怪物的名字。 “动漫人物”有很多种类型 全部由AI拼接生成 在这些视频中，孩子们重复着笨拙且毫无意义的音节。其实这不是废话，而是网上各种动漫人物的名字。让我们仔细看看这些“动画人物”。有简笔画。一头有着仙人掌身体和拖鞋的大象。一只有着轮胎身体的青蛙。鳄鱼与军用飞机的融合。它还包括违背常理的奇怪图像，例如长着猩猩头的香蕉和长着猫头的鱼。这些图像并非来自传统动画或经典IP，而是由AI拼接生成。 B公司网络数据技术部职员 王玉凯北京网信局：其实最大的受众是未成年人，特别是中小学生和一些幼儿。他们很容易被此类视频内容中叙事和夸张的怪物图像和元素所吸引。 很受孩子们的欢迎。 相关视频的点赞数量惊人。 那么这部所谓的“外国山海经典”在孩子们中的受欢迎程度如何呢？记者搜索各短视频平台发现，带有“海外山海经典”“山海AI经典”等标签的视频很容易获得数十万甚至数百万的点赞和重复转发。评论区，不少家长感叹：“我连句子都记不住，但我却能背三海经典”。 “孩子们每天都能说出一长串清单。” “没必要背，读得越多，记住的就越多。”有网友贴出手写的“角色名单”，上面写着这些人工智能角色被仔细地复制在纸上。 关注视频的来源 为何让孩子着迷？ 观看这些视频会告诉你，成年人并不真正理解这些荒谬的人工智能动画图像的含义。正如你所看到的，孩子们对它们非常着迷。那么这些人工智能生成的视频从哪里来呢？为什么它们在短短几个月内就如此受到未成年人的欢迎？ 北京市网信局网络数据技术处工作人员王玉凯：《海外山海经》诞生于2025年初国外社交平台上一类被称为“烂脑米姆”的视频。这类视频的本质是利用人工智能技术产生非理性行为。同时，也有一些神奇的洗脑视频。看着它让人感觉你的大脑已经退化了，这也是为什么它在国外被称为“脑腐梗”。 移居国外“脑腐视频” 它服务为二次创作和传播的机会。 这些都是国外社交平台上流行的“脑腐视频”。它使用意大利语等外语和神奇的音效，利用AI图像生成工具将动物、物体和人类的特征随机拼接在一起，创造出一系列荒诞、奇怪的图像。 今年年初，这些视频被网友转发到国内短视频平台，立即引起大量衍生作品和传播。有人绘制人物插画，有人为故事创造新的背景。场景与动画形象之间的联系引起了许多未成年人的注意。 随后，这些视频被网友称为“海外山海经典”或“AI山海经典”，并迅速在未成年人中流行。其实，它与中国古代经典《山海经》没有任何关系。 从线上传播到线下周边玩具也很畅销。 而且，它的传播不再局限于互联网，而是从线上到线下。 记者调查发现，一些传统网购平台在搜索“山海外国经典”时，会自动关联一系列相关词语。除了以AI动漫人物为主题的玩具、手办外，还有文具、漫画、生活用品等，很多商品页面都写着“销量超过10万件”，销量非常大。显示地址。 记者走访学校附近的文具店、超市和玩具店时发现，也有与“外国山海经典”相关的玩具在售。 北京市网信局网络数据技术处工作人员 王友凯：很多小学生把“海外海洋山地经典”作为学校的社交货币。孩子们甚至为能够比较谁而感到自豪记得最多的《海外山海经》中的怪物图片和名字。也有家长反映，孩子做作业时模仿《山海经》里的怪物，或者发出奇怪的声音。事实上，它对未成年人的学习和生活产生了负面影响。 北京市网信办工作人员发现，一些在网络平台流传的与《海外海山经典》相关的短视频，不仅会耽误学习、分散注意力，还会危害未成年人的身心健康。 北京市网信局网络数据技术处工作人员 王友凯：像《山海经》一样，含有大逃杀、打斗甚至软色情等元素和题材，很容易引起未成年人的抗议。 含有软色情和暴力色情内容。 容易忽悠未成年人 在这些视频中，暴力场景经常使用 A 来描述我生成的动画图像。一个巨大的怪物，在城市街道上凶猛地追逐人类。这些攻击性和破坏性的图像不仅夸大了暴力，而且还由于人物的卡通性而弱化了伤害感。未成年人很容易将其误解为“有趣”或“酷”，从而导致模仿行为。 还令人担忧的是，一些利用这些图像开发的小游戏含有软色情内容，损害未成年人的身心健康。 在这些视频的评论区，不少家长反映，自己的孩子对所谓的“山海经典外国片”非常着迷。有些孩子不知道中国有《山海经》，先入为主地认为《山海经》是外国的。对此，中国政法大学网络法研究所所长李怀生表示，现在孩子接触互联网网。日本人的年龄越来越年轻，许多人认为他们在了解真正的传统文化之前就被这些有害内容误导了。 技术门槛低 算法推荐“宣扬”不当内容 记者调查发现，不少家长确实意识到此类短视频存在的问题，并正在想尽一切办法阻止孩子接触此类短视频。但令他们困惑的是，为什么这些内容在互联网上传播得如此之快。为此，我们咨询了互联网和人工智能领域的专家。事实证明，技术门槛的降低和算法推荐推动了这一趋势。 如今，人工智能、大数据等新技术、新应用不断涌现，对网络生态治理提出新挑战。 这两个动画视频是由情报研究人员artificia随机生成的我使用了市场上最常见的两种大型型号。只需输入几个描述人物或场景的关键词，只需几十秒即可生成所述动画内容。 技术的便利也伴随着责任和限制。 人工智能、大数据等新技术的快速发展给我们的日常生活带来了前所未有的便利。通过减少内容创作的障碍，普通大众的表达和创作的可能性将会扩大。然而，技术的便利也伴随着责任和限制。 法律专家指出，根据《互联网信息内容生态治理规定》的相关规定，该法鼓励网络信息内容创作者创作、复制、发布创作符合社会主义基本价值观、积极健康、有益于人民群众的内容。公众特别是未成年人的发展。然而，目前人工智能生成的视频内容荒诞、逻辑混乱、缺乏文化意义，没有教育或审美价值。 此类视频很受未成年人欢迎。高点击率和完成率可通过支持算法平台推荐实现“拆分”采用。Masú。 “我越看它，我就越推动它。我越看它，我就越推动它。” 算法推荐形成一个循环。 人工智能研究人员指出，像《海外山海经》这样的视频，利用夸张、新颖、震撼的画面来吸引未成年人的注意力。只要孩子出于好奇而点击、寻找几秒钟，算法就会很快表现出兴趣，并不断推送类似的内容，形成“越看越推、越推越看”的循环。 一些家长意识到这种行为的负面影响帐篷里有自己的孩子，主动举报或阻止。但即便如此，人工智能研究人员指出，算法可以继续根据用户行为和类似内容特征来增强此类视频。 北京致远人工智能研究院高级行业研究员金洪波：如果平台处理举报行为的话，会是一个人工审核的过程。人工决策过程需要几分钟、几小时甚至几天的时间跨度，而算法推送是毫秒级别的实时推送，因此人工审核或人工干预的速度与算法交付的速度存在较大的时间差。 法律是明确的 禁止传播有害未成年人成长的内容 那么为什么人工智能生成的动画视频能够在短视频平台上广泛传播呢？我国法律对传播内容有相关规定吗？网络平台应如何履行监管职责？中国政法大学网络法研究所所长李怀生：作品本身是否符合社会主义核心价值观，是否违法或者犯罪，是否违法或者煽动，会对未成年人的发展产生负面影响吗？ 《互联网信息内容生态治理条例》也对哪些类型的信息可以在网络空间传播进行了相关规定，也有明确的禁止性规定。有《中华人民共和国未成年人保护法》和《未成年人网络保护条例》，这方面还是有非常明确、具体的规定的。 《互联网信息内容生态治理条例》第六条规定，网络信息内容生产者不得创作、复制、发布淫秽、色情、赌博、暴力、色情等违法信息。秩序、恐怖主义或犯罪。 《互联网未成年人保护条例》第二十二条规定，任何组织和个人不得在网上制作、复制、发布、传播含有淫秽、色情、暴力、邪教、迷信、赌博、煽动自残、自杀、恐怖主义、分裂主义、极端主义以及其他危害未成年人身心健康内容的信息。 法律专家指出，除了对网络内容本身有明确的法律规定外，中国法律对平台的责任和义务也有严格的要求。 中国政法大学互联网法研究所所长 李怀生：对于网络平台来说，他们实际上负有首要责任，第一责任。平台要有效主动监控信息，主动屏蔽可能损害他人身心健康的信息。未成年人。对严重违背社会主义基本价值观、违法犯罪或者淫秽、色情、暴力、凶杀等内容的信息平台，必须立即采取措施，制止信息进一步传播。平台发现涉嫌违法违规行为的，应当向有关主管部门举报。 打造适合未成年人的系统算法推荐 北京市网信局工作人员指出，我国相关部门也对算法推荐制定了明确的规定，以限制此类恶意短视频的传播。 北京网信局网络数据技术处工作人员 王友凯：国家网信办早在2021年就发布了《互联网信息服务算法推荐管理规定》，明确要求算法推荐服务提供者坚持主导文化价值观和导向，同时不要过度建立诱发用户成瘾的算法推荐逻辑。同时，未成年人需要提供未成年人保护模型相关要求，打造适合未成年人的算法推荐系统。 专家表示，推广大规模人工智能模型和算法技术以满足主流价值观是当前人工智能研究的一个重要方向。 政府相关的混乱 关键平台职责需要整合 法律专家认为，应对“海外山海经”这样的干扰，不仅要提高算法技术的成熟度，还要强化平台自身的责任。平台作为内容分发的中心枢纽，必须主动履行审核、过滤、删除任务，鼓励推荐健康、有用、优质的内容。 李怀生，我所所长中国政法大学网络法学院：坚持社会主导方向、手动干预、有效干预和机会干预的平台。 Debemos tener cuidado con las cosas que son perjudiciales para los menores.在所有美洲驼的红色作品中，我们都将推动健康卫生、精神卫生和心理健康，将政府整合和整体性与这些现象作斗争。 2025年4月，国家网信办发出通知，在全国开展为期三个月的“清理审查滥用人工智能技术”专项行动。拟整改的七类未解决问题包括“存在诱发未成年人沉迷的人工智能应用、未成年人模式内容影响未成年人身心健康”等。 行政管理中国北京网络空间建立本地网站平台，坚决遏制人工智能技术滥用造成的网络乱象，通过加强算法修改、开展违法内容排查清理，切实保护未成年人网络空间安全。 今年9月1日起，《人工智能生成合成内容标识办法》将正式实施，明确所有人工智能生成的文字、照片、视频等内容必须“清晰识别”，并带有人工智能生成标识。 北京市网信办工作人员在接受记者采访时也表示，网络平台用户如遇到有害内容短视频，可及时举报，共同参与网络环境治理，为未成年人筑起保护屏障。 王志辉 网工作人员北京市网信局工作信息服务管理处：指导在网站平台开设举报专区。网民如发现违法或有害信息，可按照网站平台举报指引进行举报。另一方面，如果您向网信部门举报，我们会立即受理举报并作出决定。 针对“西洋山海画”等视频及其线下衍生周边产品对未成年人造成的不良影响，北京市网信局相关负责人表示，将会同教育文化执法部门等部门开展协同治理，保障未成年人健康成长环境。 确保未成年人安全上网 保护孩子们的心灵 节目中报道的AI拼接怪物造成的混乱，经过相关部门的纠正，已明显减少但我们必须继续警惕新的类似现象的出现。治理不仅仅是删除视频或清理产品。我们还必须从源头上阻止人工智能生成内容的野蛮扩散，并鼓励更好的算法和引人入胜的内容。保护孩子的心脏力量，就是保护他们未来的健康成长。不要让算法产生的奇怪幻想掩盖了真正有益于你的精神成长的领域。