精準(zhǔn)推送的背后，是平臺監(jiān)管的滯后與被動，更是內(nèi)容制作者本身價值觀與責(zé)任感缺失的映照。

近日，“驚悚AI玩偶視頻入侵未成年人”引發(fā)關(guān)注和熱議，相關(guān)話題登上熱搜。

6歲兒童刷到驚悚AI玩偶視頻

單條視頻觀看量達(dá)141萬

近期，有網(wǎng)友反映在網(wǎng)絡(luò)視頻平臺上出現(xiàn)大量以動畫人物形象為原型的玩偶AI視頻與圖片，部分內(nèi)容涉嫌呈現(xiàn)血腥暴力、低俗辱虐、恐怖等不當(dāng)要素，并通過玩偶外觀包裝提升點擊，且評論區(qū)出現(xiàn)“幼兒園兒童沉迷觀看”等反饋。

根據(jù)線索，記者確實發(fā)現(xiàn)大量相關(guān)視頻，這類視頻均為AI生成，有著類似定格動畫的鏡頭風(fēng)格，內(nèi)容圍繞三個擬人化的虛擬角色“anon犬、soyo貍、天素羅”，視頻標(biāo)題常標(biāo)注為“略向”（注：即“虐向”）。據(jù)悉，“虐向”是中文網(wǎng)絡(luò)用語，尤其在二次元、同人創(chuàng)作、短視頻、AI生成內(nèi)容等圈層中常見，用來描述以“施虐—受虐”關(guān)系為核心、帶有痛苦、折磨、壓迫、控制等元素的內(nèi)容風(fēng)格或情節(jié)走向。

“虐向”視頻截圖

在某視頻平臺，一條名為“anon犬的觀察實驗（略向，慎入）”的視頻熱度頗高，截至12月2日，其播放量已達(dá)141萬。視頻內(nèi)容顯示，擬人化的anon犬和soyo貍淪為“實驗對象”，遭受了各種虐待。

通過評論區(qū)，記者聯(lián)系到網(wǎng)友鄧女士（化姓）。她講述了自己6歲的兒子趁其不備，用家人的手機觀看一些令人毛骨悚然的視頻：“一些擬人化的玩偶，被喂糞、扔進(jìn)火鍋，甚至上演玩偶媽媽食子的情節(jié)�！编嚺�士表示，她曾在數(shù)個視頻下留言批評制作者，但留言幾乎都被刪除。

調(diào)查過程中，記者還體驗到平臺算法的推送機制：在觀看多個“虐向”視頻后，平臺即向記者賬號的首頁推薦了更多同類視頻。若要完全屏蔽這類內(nèi)容，需開啟軟件內(nèi)的“未成年人模式”。

專家：沖擊未成年人對“人性”的認(rèn)知

如何看待“略向”視頻的傳播？對此，記者采訪了成都市婦女兒童中心醫(yī)院精神衛(wèi)生醫(yī)生康瑞麟、成都七中專職心理教師梁振、草堂小學(xué)西區(qū)分校心理健康教師歐陽雪茹。

歐陽雪茹強調(diào)，這些視頻的核心是對擬人化角色進(jìn)行系統(tǒng)性的、詳細(xì)的虐待、侮辱和暴力展示。其目的不是為了調(diào)節(jié)情緒，而是刻意制造獵奇、恐怖與不適感，通過“可愛形象”與“殘酷內(nèi)容”的強烈反差來吸引點擊、滿足極少數(shù)人的不良心理需求，甚至可能帶有誘導(dǎo)、教唆等性質(zhì)。

康瑞麟補充道，“喂糞、肢解、食子”等內(nèi)容違背倫理和公序良俗，且這類視頻還有一定的成癮性，因為其內(nèi)容表現(xiàn)出一種強烈的刺激，會在大腦中建立“獎勵的循環(huán)”，讓人產(chǎn)生渴求。

梁振建議，家長應(yīng)首先杜絕孩子繼續(xù)觀看此類視頻，將相關(guān)APP設(shè)置為青少年模式，觀察孩子的情緒與行為反應(yīng)，必要時尋求專業(yè)幫助，開展家庭教育與心理建設(shè)。

平臺回應(yīng)：全面排查，從嚴(yán)管控

一條播放量超140萬的“虐向”視頻被鎖定（限制觀看）

針對上述“虐向”視頻傳播的問題，12月3日，相關(guān)短視頻平臺負(fù)責(zé)人作出回應(yīng)。

他們表示，針對最新出現(xiàn)的涉嫌侵害引導(dǎo)的內(nèi)容已展開全面排查，從嚴(yán)管控，目前在搜索及內(nèi)容端已展開定向處置。而另一短視頻平臺，對此類新型邪典內(nèi)容堅決打擊，已對相關(guān)違規(guī)內(nèi)容予以下架處置。

目前，上述多個“虐向”視頻已下架。

律師說法：涉嫌違法，在技術(shù)加持下影響深遠(yuǎn)

四川方策律師事務(wù)所郭剛律師、四川縱目律師事務(wù)所張柄堯律師表示，上述“虐向”“邪典”視頻在中國法律及社會倫理層面均屬于違法行為及不良行為，具有嚴(yán)重的法律后果和社會危害性，顯然會對孩子的身心健康造成嚴(yán)重危害，涉嫌違反《未成年人網(wǎng)絡(luò)保護(hù)條例》《中華人民共和國網(wǎng)絡(luò)安全法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)。

郭剛表示：“此類視頻雖能帶流引流，但卻有扭曲價值觀、助長暴力傾向、破壞公序良俗、損害社會善良風(fēng)俗、傷害動物福利與生態(tài)倫理等社會危害性，與生態(tài)文明建設(shè)理念嚴(yán)重相悖�！睆埍鷪虮硎荆骸斑@種情況在AI技術(shù)、算法等技術(shù)加持之下，影響將變得深遠(yuǎn)�！�

他們指出，有關(guān)部門應(yīng)積極行動，主動承擔(dān)監(jiān)管責(zé)任；平臺有責(zé)任刪除、屏蔽相關(guān)內(nèi)容，并對發(fā)布者采取封號、報告監(jiān)管部門等措施；對于侵犯未成年人合法權(quán)益，給未成年人造成損害的，依法承擔(dān)民事責(zé)任；構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

治理此類亂象

平臺首先應(yīng)明確責(zé)任

披著動畫的“外衣”，內(nèi)容卻充斥著暴力、恐怖等低俗內(nèi)容，這樣的視頻，成年人看都尚有不適，更何況是心智未成熟的孩子。此類AI視頻不僅會誘發(fā)少年兒童的恐懼情緒，引起不當(dāng)模仿，更可能在潛移默化中扭曲兒童的價值觀與認(rèn)知方式。

精準(zhǔn)推送的背后，是平臺監(jiān)管的滯后與被動，更是內(nèi)容制作者本身價值觀與責(zé)任感缺失的映照。治理此類亂象，平臺首先應(yīng)該明確責(zé)任，建立并實行“事前預(yù)防、事中監(jiān)控、事后追責(zé)”的完整治理辦法，并不斷完善機制，鼓勵用戶創(chuàng)作更多有價值的優(yōu)質(zhì)作品。監(jiān)管部門應(yīng)與時俱進(jìn)，在AI浪潮下及時明確“少兒不宜”的判定標(biāo)準(zhǔn)，依法依規(guī)對故意制作、傳播不良內(nèi)容的行為予以處罰。同時，家長與學(xué)校應(yīng)協(xié)同開展網(wǎng)絡(luò)素養(yǎng)教育，在日常生活中對孩子接觸的內(nèi)容進(jìn)行有效篩選，幫助他們建立健康、理性的信息辨別能力與網(wǎng)絡(luò)使用習(xí)慣。

對此，許多網(wǎng)友表示要堅決抵制此類視頻。

也有不少網(wǎng)友指出，這種亂象的背后是平臺監(jiān)管的不到位。

還有不少網(wǎng)友呼吁加強AI創(chuàng)作管理。

對此，你怎么看？

來源：央廣網(wǎng)綜合紅星新聞等

本期編輯：熊瑋 關(guān)靈子