小学生沉迷于奇特暴力的“山海外国经典”。这背后的“怪物”到底是谁？

法治日报记者近日调查发现，《海外山海经》、《人工智能山海经》等AI魔改（即利用人工智能技术对原作进行大幅度或破坏性改动）内容在网络上迅速走红，并渗透到年轻人群中。 《海外山海经》以其暴力、血腥的内容，在小学生中流行起来。 “Tun Tun Tun Sahur”（读作“Tun Tun Tun Sahur”）、“Lilili”、“Lala”（与“Li Ting Shin”同音）……最近从小学生嘴里冒出的神秘咒语词，其实是几部人工智能动画的名字。例如，上面的两个单词分别对应“火柴人”和“仙人掌大象”。还有很多用AI拼凑出来的图像，孩子们统称为“海外山海”《海外山海经典》/图片来自Ciao News 有家长发现，“自家孩子好像‘着魔’了，有时嘴里会冒出这样的词，和他们一起玩的孩子也是如此。”为何强行连接不相关的元素而做出的奇怪图画如此受孩子欢迎？ 《经典》不仅造型奇特，还包含很多暴力、血腥的文字和内容。“孩子可能听不懂意思，但可以模仿。”更让一些家长担心的是，正是通过这些国外的人工智能生成产品，孩子第一次接触到“山海经典”的概念，“山海经典是外国的，中国的山海经典一点吸引力都没有。”和硒有记者发现，像《外国山海经》这样的人工智能图片和视频的制作过程非常简单，几乎任何用户只需向人工智能发送基本的人物图片、文字描述和相关指令，就可以快速生成动态视频，还可以添加音效和背景音乐。奥特曼怀孕、卡通人物被挖眼的“邪教视频”卷土重来。 3岁女儿在短视频平台上观看视频和动画片时，经常被迫观看动画“邪教视频”。“这些视频大多是图画，对孩子来说很有吸引力，但其中也包含很多令人不安的画面。”父亲举例说，其中有断肢、人物从高处坠落等血腥场景，甚至还有“拉扯”等恐怖场景。但当这些家长试图为孩子屏蔽“邪教视频”内容时，他们发现，无论是投诉视频还是点击“不喜欢”，相关内容仍然会发送给孩子。一位曾在视频公司工作的受访者告诉记者，他以前所在公司的数百个视频账号不断推广“邪教动画”，利用人工智能生成技术重现经典动画人物，这些视频对孩子更有吸引力。山顶上的蜘蛛侠》《戴兔头面具的奥特曼迷晕绑架小奥特曼》/来源：潮新闻“这类视频不仅有较高的知名度和良好的流量表现，而且在创作此类视频时为了吸引眼球，内容非常刻板，有浪漫的阴谋和暴力的对抗和打斗场面。s 贝壳要填充。孩子们的判断力有限，所以容易相信这是真的。”受访者强调，平台的算法助长了恶意内容，形成了沟通闭环。“当孩子们看到的时候，平台会推送更多相同的内容。”此外，《红楼梦》中的人物进行“魔法战争”，而在《三国演义》中，两军之间的冲突变成了“激光战”，被“魔法AI”污名化。他伪装的那些也属于“邪教视频”的范畴。有专家指出，人工智能对经典作品的魔改造成的伤害远远超出了内容层面。把“低俗好奇心”呈现为“有趣的创新”，正在逐渐侵蚀我们传承文化、培育下一代的健康土壤。最终你可能会误以为“经典可以随意拆解”、“历史可以变成笑话”。进化造成了扭曲的产业链。记者发现，在社交平台、短视频平台相关帖子的评论区，不少用户公开传授如何利用关键词利用AI生成大尺寸图像。例如，如何规避现有限制，平台尝试通过替换关键词，免费生成包含性暗示等元素的“二次元”风格儿童软色情图片，甚至包含“儿童怀孕”等不良内容。现实世界也逐渐被AI神奇修改的内容“入侵”。在电商平台上，《海外山海经》中的诸多人物形象被印在服装上，加工成盲盒、积木等产品进行销售。一些卖家表示，他们可以为自己的人物创建由人工智能生成的定制照片。产品展示照片包含暴露的服装、挑衅性的动作，且对年龄不敏感。萨“海外山海经典”衍生的产品也在不断增加。例如，某商店销售一款包含24个盒子的盲盒娃娃，售价仅为11.99元，付款人数超过2万人。多家知名游戏IP纷纷推出联名“洋山海经典”的盲盒和卡牌。有小学老师反映，学生经常向家长要钱，只是为了购买同学的“海外山海经”卡。从这个意义上说，有家长指出，“海外山海经典”的相关产品会引发未成年人“隐性”的比较。 “当孩子们聚在一起玩耍时，其他人如果有别人没有的东西，孩子可能会产生心理上的疏离感，甚至被排斥。“AI魔改”的畸形产业链无法“成为怪物”。利用人工智能技术进行有趣的创新，传承传统文化，是新瓶酿好酒的有益实践。但实际上，正是歪曲和诽谤，浪费了精华，制造了糟粕。还有一些人的外貌奇俗、名字难以辨认，比如前面提到的《海外山海杰作》和《邪教视频》中的人物。有些画面诡异恐怖，充满暴力、血腥元素。这些视频内容荒诞、逻辑混乱，深受青少年欢迎，已成为学生群体中流行的亚文化。它们造成的损害不可低估。现在，随着人工智能技术的出现，门槛和生产成本都大幅降低。任何人都可以通过简单的操作创建神奇的动画和“邪教视频”。然而，“杀人的不是刀，而是手。”握着刀。”问题不在于技术进步本身lf，而是畸形产业链的“怪物”。如果我们努力创作提高文化觉悟、打造成长净土的文艺作品，我们就会变得“忘恩负义”，甚至得不到应有的认可和好处。在人工智能的帮助下，制作和推广“邪教视频”成为一项低成本且有利可图的业务。有些人萌生了利用“有毒流量”窃取孩子和家长钱包的坏主意。这说明，必须制止“邪教动漫”的不良风气，防止所谓的“国外山海名作”、“绯红梦恶搞”腐蚀未成年人心灵。仅靠个人自觉很难从根本上净化市场环境。具体来说，家长迫切需要加强对健康上网的引导，建立手机、平板电脑等电子产品等家庭防护网，确保防沉迷为未成年人激活离子模式。我们应该在国内加强有效的友谊，主动减少对网络的依赖。 – 你必须面对它。网络平台主要负责管理信息内容。维护网络空间清洁是我们的责任。除了按照国家要求完善青少年模式、堵住账号切换漏洞外，还要积极清理平台内容，营造正向网络导向，保障青少年健康上网。事实上，青少年对世界非常好奇。人工智能可以提供个性化的学习资源，拓宽知识范围，根据孩子的兴趣提供具体、详细的内容。我们将竭尽全力为创建者提供良好的工作激励，并为他们带来回报。只有创造良性循环，才能我们用真正有营养的知识“喂养”年轻人。如今，网络生活已经成为每个人不可避免的第二生活空间。创造一个隔离的环境，比如所谓的“无菌室”，既不现实也不可行。阻塞比间隔更糟糕。虚拟空间的数字化和增强人工智能的能力是现代教育的重要意义。 （央视网）