
“通通通通撒呼啦”“哩哩哩辣力辣”……天津市河东区某小学生家长李女士发现,我方的孩子最近老是念叨着这些宛如机密咒语的词汇。经了解,李女士才知说念,这些看似不测旨的音节,实则是几幅AI生成的动画形象的名字,“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)是所谓的“木棒东说念主”,“Lirili larlla”(音同“哩哩哩辣力辣”)是“仙东说念主掌象”,“Tralalerotralala”(音同“特拉辣累喽特拉拉辣”)是“耐克鞋鲨鱼”。诸如斯类由AI拼接而成的形象还有好多,它们被孩子们统称为“番邦山海经”或者“AI山海经”。
“孩子仿佛‘着了魔’,口中频频常蹦出来这些词语,跟他一都玩耍的小一又友们也都如斯。这些将绝不相关元素强行强迫出的潦草形象,为何能在孩子们的圈子里流行起来?”李女士说,“番邦山海经”不仅造型诡异,更混合不少暴力、血腥词汇和内容,“孩子约略并不睬解其中的含义,但会效法学习,很容易对他们产生负面影响”。
《法治日报》记者拜访发现,近期,“番邦山海经”“AI山海经”等AI魔改(指诳骗AI技艺对原作品进行大幅或颠覆性改编的行动)内容在采集上赶快走红,致使渗入到低龄群体中。与此同期,包含血腥暴力、恶搞低俗内容的“邪典动画”也借助AI技艺卷土重来。部分经AI魔改后的内容还被制作成商品,在电商平台销量不俗。

漫画:高岳
“番邦山海经”成酬酢密码
本年暑假,山东的韩女士在家休息时,6岁的侄子小宇一会儿问她:“姑妈,中国也有山海经吗?”这个问题让韩女士一时语塞——小宇的书包上挂着“耐克鞋鲨鱼”挂件,房间里也摆满了多样造型潦草的玩物。这是孩子第一次斗争“山海经”的观点,尽然是通过这些外来的且由AI生成的产物。
韩女士告诉记者,小宇斗争“番邦山海经”的主要原因是班级里的流行风潮。“孩子们都在聊这些,他想融入集体,只可主动去了解。”韩女士曾尝试向侄子先容实在的《山海经》,但小宇并不感深嗜深嗜,致使还说“山海经即是外洋的,中国的山海经少量儿也活气目”。
在韩女士看来,短视频平台的招是搬非是导致孩子千里迷其中的热切原因之一。小宇平时可爱的内容都是短视频平台频繁保举的。受这些内容的影响,小宇照旧出现了明显的效法行动,“频频效法视频里潦草形象的动作,认为很帅,还会频频常念叨内部的‘咒语’”。
韩女士说,为了纠正孩子的认识,其父母曾经尝试收尾小宇刷短视频的时间,刻意斥地他不雅看优质动画,耐性素质不良内容的危害,但成效甚微。“我能潜入他想融入集体的激情,但眼睁睁看着他被这些内容所影响,我的确很颤抖。”
李女士刺眼到,好多由AI生成的图片和视频作风诡异,其中不乏“杀死”“烧死”等暴力词汇,以及“用刀砍东说念主”等危生动作。
记者尝试发现,“番邦山海经”等AI图片和视频制作经由相配简便。在多款常见的AI视频网站上,用户只需向AI发送基础的东说念主物形象图片,再通过笔墨描画想要生成的图片内容,发送领导即可赢得对应的图片;随后将生成的图片行为要道帧,补充描画两个要道帧之间的画面变化细节,便能快速生成一段动态视频,还可加入音效和布景音乐。
“邪典视频”卷土重来
广东的梁先生有个3岁的犬子,他偶尔会让犬子玩一会儿手机。犬子还不认字,常在短视频平台上刷视频或者动画片。
关联词,他最近发现,犬子频繁被短视频平台推送动画作风的“邪典视频”。“这些视频大多是卡通或3D作风,很诱骗小孩子,可是却遁入着好多令东说念主不适的画面。”梁先生例如说,视频中存在迫害肢体、变装从高处陨落等血腥场景,致使有“把我方的眸子子挖出吃掉”这么的可怕画面。
“有些内容成年东说念主看了都认为不适,更何况3岁的孩子。我很惦记这类视频会对孩子形成不良影响。”梁先生说。为了屏蔽这类内容,他曾尝试投诉视频、点击“不可爱”,但筹商内容仍会被握续推送给孩子。
浙江省的俞女士也发现,孩子在不雅看超等飞侠、奥特曼等正版动画片后,平台会自滚动出一批神采秀丽却毫无养分的养殖视频,其中不乏“奥特曼孕珠”“小猪佩奇打骷髅”等暴力恶搞内容。
俞女士担忧地说:“我惦记长久斗争这类短视频,会影响孩子的认识才气和专注力。当今他对篇幅稍长的绘本、竹帛照旧有了摈斥心情,根柢莫得耐性看完。”为了减少这些不良视频对孩子的侵蚀,俞女士不仅向孩子反复强调这类视频的危害,还尽量下载正版动画片供孩子不雅看。“平台审核太不到位了,这种恶搞经典动漫变装的视频应该被严格收尾。”
有又名曾在某视频公司任职的受访者向记者表示,其前公司就在制作这种类型的视频,旗下几百个视频号都在握续推送“邪典动画”。这类视频本体是将经典的动漫东说念主物进行二次创作。AI技艺的进步大幅镌汰了制作门槛。使用AI生成的视频色调秀丽,更诱骗儿童。“未成年东说念主流量在平台占很大比重,这类视频不仅曝光度高,流量阐扬优异,致使能赢得平台复旧。这类视频在创作时为博取缓和,内容套路化严重:以动漫变装为外壳,填充恋爱情节或暴力突破、混战花式。由于儿童的判断才气有限,容易信以为真。”
这名受访者还强调,平台算法助推不良内容形成传播闭环——“孩子一朝刷到不雅看,平台就会推送更多同类内容。”
另一类“邪典视频”是对中华优秀传统文化进行误解和恶名化的。比如,《红楼梦》中的东说念主物在进行“魔法干戈”,《三国小说》两军对垒演变成“激光大战”等,经典作品的中枢内涵被透顶颠覆。
有大师指出,AI魔改对经典的伤害早已超越内容层面,它将“低俗猎奇”包装为“意念念转变”,寂静侵蚀文化传承与下一代成长的健康泥土,致使可能在他们心中埋下“经典可磨蹭解构”“历史可大力戏说”的演叨认识。
AI魔改催生无理产业链
值得刺眼的是,记者发现,在酬酢平台筹商帖文和短视频平台筹议区,有许多用户公然熏陶若何用要道词让AI生成大次序图片,其中部安分容触及未成年东说念主。比如在“×梦”等AI器具上,诚然径直用“未成年东说念主”“儿童”等要道词无法生成敏锐像片,但如若替换成其他要道词,即可免费生成包含性表示等元素的“二次元”作风的儿童软色情图片,致使出现“儿童孕珠”等恶劣内容。
此外,记者拜访发现,一些AI魔改内容照旧实体化,逐步“侵入”施行世界。
比如,以“番邦山海经”为要道词在电商平台检索,有不少形象被印在衣服上或作念成盲盒、积木等产物售卖。有些商品标签径直标注“给孩子的礼物”“儿童玩物”等词语。还有些商家表示不错制作AI生成手办定制像片,商品展示图穿着走漏、动作挑逗,况且未作年事区别。
“番邦山海经”养殖出的筹商产物还会激勉未成年东说念主之间的“隐性”攀比。韩女士先容,这种盲盒价钱便宜的单价仅一两元,价钱便宜却在孩子间激勉采集飞扬。“孩子们聚在一都玩耍的时候,如若别东说念主有我方莫得,孩子会产生心情落差,致使遭到排挤。”
记者在多家网购平台检索“山海经玩物”发现,这类盲盒产物销量较高。某店铺一款包含24盒的盲盒公仔售价仅11.99元,付款东说念主数已超2万,便宜的价钱与可不雅的销量进一步助推其在校园中的流行。
此外,还有一些有名游戏IP推出与“番邦山海经”联名的盲盒、卡牌。有小学教师响应,学生频繁向家长要钱,只为购买同学手中的“番邦山海经”卡牌——这类卡牌已成为小学生群体中的“酬酢货币”。据学校相近的文具店店主表示,此类卡牌的销量远超其他品类。
“但愿平台和筹商部门加强监管,咱们家长也要负起遭殃,把不良AI魔改内容拒绝在外,让技艺证据正确价值。”采访中,有家长如是说。
新闻并吞>>
中国青少年征询中心2025年对寰宇7个省份的8500余名未成年东说念主进行的拜访自大,超越六成未成年东说念主使用过AI。有两成多的未成年东说念主存在“想依赖AI,不想我方念念考”的惰性,两成多倾向于“只和AI聊天,不肯与真东说念主接头”,还有两成多因为过度使用AI感到颤抖。这些数据走漏出未成年东说念主斗争AI易产生影响颓靡念念考、阻止真实酬酢、依赖与千里迷等问题。
比年来,我国政府高度喜爱未成年东说念主采集安全保护责任,弃取了一系列积极举措,不断完上策略法例体系。2019年,国度网信办发布《儿童个东说念主信息采集保护限定》,对儿童个东说念主信息职权给以重心保护。新变调的未成年东说念主保护法于2021年6月1日起隆重实施,突出创设“采集保护”专章,进一步强化了对未成年东说念主采集内容的监管,加强了个东说念主信息保护,并针对采集千里迷问题制定了突出限定。2024年1月1日,我国第一部突出性的未成年东说念主采集保护抽象立法《未成年东说念主采集保护条例》隆重彭胀。该条例旨在为未成年东说念主提供愈加安全、成心的采集空间,确保他们的正当职权得到充分保险,促进其身心健康成长。
有部分AI器具正在探索未成年东说念主保护模式。例如,本年8月26日,字节超越公司旗下AI器具豆包隆重上线未成年东说念主保护模式。家长输入密码开启该模式后,保举视频、浏览第三方网页和豆包除外的智能体对话、AI创作功能将被默许关闭,而翻译、深入征询等功能仍可宽阔使用。
