每經(jīng)編輯｜金冥羽    

近日，《法治日?qǐng)?bào)》記者調(diào)查發(fā)現(xiàn)，“外國(guó)山海經(jīng)”“AI山海經(jīng)”等AI魔改（指利用AI技術(shù)對(duì)原作品進(jìn)行大幅或顛覆性改編的行為）內(nèi)容在網(wǎng)絡(luò)上迅速走紅，甚至滲透到低齡群體中。

夾雜暴力、血腥內(nèi)容

“外國(guó)山海經(jīng)”爆火小學(xué)生圈

“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)、“Lirili larlla”(音同“哩哩哩辣力辣”)……這些近來(lái)經(jīng)常出現(xiàn)在小學(xué)生們口中，宛如神秘咒語(yǔ)的詞匯，實(shí)則是幾幅AI生成的動(dòng)畫(huà)形象的名字，比如上述兩個(gè)詞匯分別對(duì)應(yīng)“木棒人”“仙人掌象”。

諸如此類(lèi)由AI拼接而成的形象還有很多，它們被孩子們統(tǒng)稱(chēng)為“外國(guó)山海經(jīng)”或者“AI山海經(jīng)”。

“外國(guó)山海經(jīng)”  圖片來(lái)源：潮新聞

有家長(zhǎng)發(fā)現(xiàn)，“孩子仿佛‘著了魔’，口中時(shí)不時(shí)蹦出來(lái)這些詞語(yǔ)，跟他一起玩耍的小朋友們也都如此。”

這些將毫不相干元素強(qiáng)行拼湊出的怪異形象，為何能在孩子們的圈子里流行起來(lái)？”上述家長(zhǎng)百思不得其解，而且，這“外國(guó)山海經(jīng)”不僅造型詭異，更夾雜不少暴力、血腥詞匯和內(nèi)容，“孩子或許并不理解其中的含義，但會(huì)模仿學(xué)習(xí)，很容易對(duì)他們產(chǎn)生負(fù)面影響”。

更讓部分家長(zhǎng)憂心的是，這孩子第一次接觸“山海經(jīng)”的概念，竟然是通過(guò)這些外來(lái)的且由AI生成的產(chǎn)物。甚至還有孩子認(rèn)為，“山海經(jīng)就是國(guó)外的，中國(guó)的山海經(jīng)一點(diǎn)兒也不好看”。

“外國(guó)山海經(jīng)”的來(lái)歷也很可疑。有記者發(fā)現(xiàn)，由于“外國(guó)山海經(jīng)”等AI圖片和視頻制作流程十分簡(jiǎn)單，幾乎任何用戶都能在多款常見(jiàn)的AI視頻網(wǎng)站上，通過(guò)向AI發(fā)送基礎(chǔ)的人物形象圖片、文字描述以及有關(guān)指令，就能快速生成一段動(dòng)態(tài)視頻，還可加入音效和背景音樂(lè)。

奧特曼懷孕、卡通人物挖眼珠子吃

“邪典視頻”卷土重來(lái)

最近廣東一家長(zhǎng)發(fā)現(xiàn)，自己3歲的女兒在短視頻平臺(tái)上刷視頻或者動(dòng)畫(huà)片時(shí)，頻繁被推送動(dòng)畫(huà)風(fēng)格的“邪典視頻”。

“這些視頻大多是卡通或3D風(fēng)格，很吸引小孩子，但是卻暗藏著很多令人不適的畫(huà)面。”該家長(zhǎng)舉例，視頻中存在殘害肢體、角色從高處墜落等血腥場(chǎng)景，甚至有“把自己的眼珠子挖出吃掉”這樣的可怕畫(huà)面。

浙江也有家長(zhǎng)發(fā)現(xiàn)，孩子在看完正版動(dòng)畫(huà)片后，平臺(tái)會(huì)自動(dòng)彈出一批顏色鮮艷卻毫無(wú)營(yíng)養(yǎng)的衍生視頻，其中不乏“奧特曼懷孕”“小豬佩奇打骷髏”等暴力惡搞內(nèi)容。

然而，當(dāng)上述家長(zhǎng)試圖為孩子屏蔽“邪典視頻”內(nèi)容時(shí)，卻發(fā)現(xiàn)，無(wú)論是投訴視頻、點(diǎn)擊“不喜歡”，相關(guān)內(nèi)容仍會(huì)被持續(xù)推送給孩子。

有一名曾在某視頻公司任職的受訪者向記者透露，其前公司旗下幾百個(gè)視頻號(hào)都在持續(xù)推送“邪典動(dòng)畫(huà)”，將經(jīng)典的動(dòng)漫人物用AI生成技術(shù)進(jìn)行二次創(chuàng)作，這些視頻色彩鮮艷，更吸引兒童。

“白雪公主霸凌艾莎” “米奇在山頂腳踹蜘蛛俠”“兔頭面具奧特曼打暈綁架小奧特曼” 圖片來(lái)源：潮新聞

“這類(lèi)視頻不僅曝光度高，流量表現(xiàn)優(yōu)異，甚至能獲得平臺(tái)支持。這類(lèi)視頻在創(chuàng)作時(shí)為博取關(guān)注，內(nèi)容套路化嚴(yán)重：以動(dòng)漫角色為外殼，填充戀愛(ài)情節(jié)或暴力沖突、混戰(zhàn)場(chǎng)面。由于兒童的判斷能力有限，容易信以為真。”這名受訪者強(qiáng)調(diào)，平臺(tái)算法助推不良內(nèi)容形成傳播閉環(huán)，“孩子一旦刷到觀看，平臺(tái)就會(huì)推送更多同類(lèi)內(nèi)容。”

此外，《紅樓夢(mèng)》中的人物進(jìn)行“魔法戰(zhàn)爭(zhēng)”，《三國(guó)演義》兩軍對(duì)壘演變成“激光大戰(zhàn)”等，通過(guò)“AI魔改”對(duì)中華優(yōu)秀傳統(tǒng)文化進(jìn)行歪曲和污名化的，也屬于“邪典視頻”。

有專(zhuān)家指出，AI魔改對(duì)經(jīng)典的傷害早已超越內(nèi)容層面，它將“低俗獵奇”包裝為“趣味創(chuàng)新”，逐步侵蝕文化傳承與下一代成長(zhǎng)的健康土壤，甚至可能在他們心中埋下“經(jīng)典可隨意解構(gòu)”“歷史可肆意戲說(shuō)”的錯(cuò)誤認(rèn)知。

AI魔改催生畸形產(chǎn)業(yè)鏈

記者發(fā)現(xiàn)，在社交平臺(tái)有關(guān)帖文和短視頻平臺(tái)評(píng)論區(qū)，有許多用戶公然教學(xué)如何用關(guān)鍵詞讓AI生成大尺度圖片。

比如，如何通過(guò)替換關(guān)鍵詞，規(guī)避平臺(tái)既有限制，免費(fèi)生成包含性暗示等元素的“二次元”風(fēng)格的兒童軟色情圖片，甚至出現(xiàn)“兒童懷孕”等惡劣內(nèi)容。

現(xiàn)實(shí)世界也在被AI魔改內(nèi)容逐漸“侵入”。

在電商平臺(tái)上，有不少“外國(guó)山海經(jīng)”里角色形象被印在衣服上或做成盲盒、積木等產(chǎn)品售賣(mài)；還有些商家表示可以制作AI生成手辦定制照片，商品展示圖衣著暴露、動(dòng)作挑逗，并且未作年齡區(qū)分。

“外國(guó)山海經(jīng)”的衍生產(chǎn)品銷(xiāo)量也較高。比如某店鋪一款包含24盒的盲盒公仔售價(jià)僅11.99元，付款人數(shù)已超2萬(wàn)；一些知名游戲IP推出與“外國(guó)山海經(jīng)”聯(lián)名的盲盒、卡牌。有小學(xué)教師反映，學(xué)生頻繁向家長(zhǎng)要錢(qián)，只為購(gòu)買(mǎi)同學(xué)手中的“外國(guó)山海經(jīng)”卡牌。

對(duì)此，有家長(zhǎng)指出，“外國(guó)山海經(jīng)”衍生出的相關(guān)產(chǎn)品會(huì)引發(fā)未成年人之間的“隱性”攀比。“孩子們聚在一起玩耍的時(shí)候，如果別人有自己沒(méi)有，孩子會(huì)產(chǎn)生心理落差，甚至遭到排擠。”

不能讓“AI魔改”的畸形產(chǎn)業(yè)鏈“作妖”

借助AI技術(shù)，進(jìn)行趣味創(chuàng)新，傳承傳統(tǒng)文化，本是新瓶裝好酒的有益實(shí)踐。然而，現(xiàn)實(shí)中卻是糟蹋精華、制造糟粕的歪曲丑化。

正如在上述“外國(guó)山海經(jīng)”“邪典視頻”中的角色，有的外形怪誕低俗、名稱(chēng)晦澀難懂；有的形象詭異驚悚，充斥暴力與血腥元素。這些內(nèi)容荒誕、邏輯混亂的視頻受到青少年追捧，進(jìn)而發(fā)展成為一種流行于學(xué)生群體間的亞文化，其造成的危害不容小覷。

眼下，AI技術(shù)的出現(xiàn)，大幅降低了制作門(mén)檻和成本，任何人只需簡(jiǎn)單操作，即可生成魔改動(dòng)畫(huà)和“邪典視頻”。然而，“殺人的不是刀，而是執(zhí)刀的手”，錯(cuò)不在科技進(jìn)步本身，根本原因還是畸形產(chǎn)業(yè)鏈在“作妖”。

當(dāng)用心用情用力去創(chuàng)作提升文化認(rèn)知、開(kāi)辟成長(zhǎng)凈土的文藝作品，變得“吃力不討好”，甚至無(wú)法得到應(yīng)有的認(rèn)可和收益；而借助AI之手，制造推送“邪典視頻”，則是一本甚至無(wú)本萬(wàn)利的生意時(shí)，有些人就動(dòng)起利用“毒流量”的歪心思，收割孩子和家長(zhǎng)的錢(qián)包。

由此可見(jiàn)，剎住“邪典動(dòng)畫(huà)”的歪風(fēng)，讓所謂“外國(guó)山海經(jīng)”“惡搞紅樓夢(mèng)”不再侵蝕未成年人的心智，單靠個(gè)人自覺(jué)，很難從根本上凈化市場(chǎng)環(huán)境，唯有重拳出擊，方能讓魑魅魍魎無(wú)處藏身。

具體而言，家長(zhǎng)亟需加強(qiáng)健康上網(wǎng)引導(dǎo)，樹(shù)立家庭防護(hù)網(wǎng)，如手機(jī)、平板等電子產(chǎn)品，都要確保開(kāi)啟未成年防沉迷模式。在家里要增強(qiáng)有效陪伴，帶頭對(duì)網(wǎng)絡(luò)依賴說(shuō)不，更別把孩子簡(jiǎn)單丟給手機(jī)和短視頻。

網(wǎng)絡(luò)平臺(tái)是信息內(nèi)容管理第一責(zé)任人。維護(hù)清朗網(wǎng)絡(luò)空間，責(zé)無(wú)旁貸。除按國(guó)家要求完善青少年模式，堵住賬號(hào)切換的漏洞以外，還需主動(dòng)凈化平臺(tái)內(nèi)容，塑造正向的網(wǎng)絡(luò)導(dǎo)向，為青少年健康上網(wǎng)保駕護(hù)航。

實(shí)際上，青少年對(duì)世界充滿好奇，AI可以提供個(gè)性化學(xué)習(xí)資源，可以根據(jù)孩子興趣，拓展知識(shí)邊界，提供有針對(duì)性的深度內(nèi)容。關(guān)鍵在于，如何有效激勵(lì)優(yōu)質(zhì)作品，讓有良知、有底線的創(chuàng)作者得到應(yīng)有的回報(bào)。只有形成正向循環(huán)，才能讓青少年得到真正有營(yíng)養(yǎng)的知識(shí)“投喂”。

如今，網(wǎng)絡(luò)生活已經(jīng)成為每個(gè)人避不開(kāi)的第二生存空間，制造所謂“無(wú)菌室”一樣的斷網(wǎng)環(huán)境，不現(xiàn)實(shí)也不可行。堵不如疏，進(jìn)一步提升孩子接觸虛擬空間的數(shù)字素養(yǎng)，增強(qiáng)其在人工智能浪潮中前行的能力，也是現(xiàn)代教育的應(yīng)有之義。

編輯|金冥羽 杜恒峰

校對(duì)|許紹航

封面圖片來(lái)源：潮新聞

 

每日經(jīng)濟(jì)新聞綜合自央視網(wǎng)、法治日?qǐng)?bào)、極目新聞、紅星新聞、潮新聞