"毒動(dòng)畫"猛于虎 嚴(yán)防披著卡通外衣的精神垃圾！

“毒動(dòng)畫”悄然流入國內(nèi)，多個(gè)視頻平臺(tái)著手專項(xiàng)清理。對(duì)這些披著卡通外衣的“精神垃圾”，專家建議，視頻平臺(tái)方面，強(qiáng)化人工智能“算法”的同時(shí)應(yīng)加強(qiáng)人工審核，以開設(shè)讓家長(zhǎng)完全放心的全人工過濾兒童視頻精選頻道；而家長(zhǎng)也應(yīng)該對(duì)孩子經(jīng)由電子產(chǎn)品接觸的媒體內(nèi)容做到心中有數(shù)，別把孩子扔給“電子保姆”。

疲于“打地鼠”

篩查有難度

在西方，“毒動(dòng)畫”或稱“艾莎門”，主要指視頻分享網(wǎng)站YouTube上的兒童不宜視頻。它們大多由成年人制作，以經(jīng)典卡通形象誘使兒童點(diǎn)擊觀看，內(nèi)容卻包含血腥、暴力、色情或詭異情節(jié)。2013年，廣受孩子們喜愛的迪士尼動(dòng)畫片《冰雪奇緣》女主角艾莎公主成為這類視頻的主角，因而有人把艾莎與用以描述丑聞事件的后綴詞“門”（gate）組成新詞，即“艾莎門”（Elsa Gate）。試想一下，一個(gè)三四歲的孩子看到艾莎公主做開顱手術(shù)，血腥畫面會(huì)給他留下什么樣的心理陰影？

這些“精神垃圾”近一段時(shí)間來開始流入國內(nèi)，一度進(jìn)入視頻網(wǎng)站兒童頻道。更有甚者，包括動(dòng)畫及真人的“本土”視頻已然出現(xiàn)，部分視頻甚至有兒童出鏡。全國“掃黃打非”辦公室目前已部署深入監(jiān)測(cè)和清查；同時(shí)，多個(gè)網(wǎng)站開始自查和清理相關(guān)內(nèi)容。

“毒動(dòng)畫”通常在未獲法律許可的情形下使用經(jīng)典卡通形象，由匿名用戶上傳，內(nèi)容粗制濫造。為進(jìn)入搜索結(jié)果并引起用戶注意，“毒動(dòng)畫”大多配以歡快音樂和兒童笑聲，標(biāo)題和描述也常包含卡通形象名稱及“教育”“學(xué)習(xí)色彩”“童謠”等關(guān)鍵詞，由上傳者歸入“卡通”或“教育”類別，與正常動(dòng)畫混雜在“兒童頻道”中，除非家長(zhǎng)“一陪到底”，粗看無法發(fā)現(xiàn)異樣。更讓家長(zhǎng)擔(dān)心的是，在社交網(wǎng)站或手機(jī)應(yīng)用程序所含“算法”推波助瀾下，只要點(diǎn)開類似視頻一次，后續(xù)視頻會(huì)源源不斷推送至用戶。

“‘艾莎門’欺騙性地讓兒童、家長(zhǎng)和管理工具相信它們是‘兒童友好型’內(nèi)容，讓人相當(dāng)不安，”美國技術(shù)倫理學(xué)者戴維·瑞安·波爾格22日說，“兒童在觀看他們喜愛的卡通形象作出猥褻或暴力行為后，可能遭受心理創(chuàng)傷。”

長(zhǎng)期以來，技術(shù)企業(yè)嘗試借助審核人員和人工智能算法篩查并刪除兒童不宜視頻。但是，這就像玩“打地鼠”游戲，要逐一打掉那些冒出頭的不良視頻，作業(yè)量相當(dāng)大。“YouTube每分鐘上傳的內(nèi)容達(dá)到300小時(shí)，一秒一秒地審查每部視頻不可能，”波爾格說，“為簡(jiǎn)化流程，YouTube等主要平臺(tái)結(jié)合使用人工智能工具、用戶報(bào)告和版主。然而，不少家長(zhǎng)可能會(huì)想當(dāng)然地認(rèn)為YouTube兒童頻道等完全由人工挑選并審查，壞人正是利用這個(gè)漏洞，故意把不良內(nèi)容標(biāo)記為看似適合兒童的內(nèi)容。”

潛藏利益鏈

網(wǎng)站需警惕

國外對(duì)于“艾莎門”的批評(píng)聲最早出現(xiàn)在2016年年中，一年后它成為美國社交媒體“推特”上熱門的主題標(biāo)簽。美國社交網(wǎng)站“紅迪”(Reddit)創(chuàng)建“艾莎門”社區(qū)討論平臺(tái)，吸引數(shù)以萬計(jì)用戶參與。

不得不說，“毒動(dòng)畫”的惡意背后潛藏一條外人難見的利益鏈條。

視頻網(wǎng)站業(yè)內(nèi)人士說，YouTube等國內(nèi)外視頻網(wǎng)站通行規(guī)則是，只要視頻點(diǎn)擊達(dá)到一定數(shù)量，就可以在視頻上附加“貼片廣告”，上傳者獲得一定分成，網(wǎng)站自身同樣可以獲利。

爭(zhēng)議中，一些廣告商發(fā)現(xiàn)自身廣告出現(xiàn)在“毒動(dòng)畫”上，與品牌定位相悖，開始暫停向YouTube投放廣告。壓力之下，YouTube總裁蘇珊·武伊齊茨基去年12月宣布，將投入更多人力篩查視頻內(nèi)容。2018年，YouTube所屬谷歌公司的內(nèi)容審核人員將增至至少1萬人，同時(shí)開發(fā)新的人工智能算法，與兒童安全機(jī)構(gòu)合作。

YouTube一名發(fā)言人22日在電子郵件中聲稱：“過去幾個(gè)月，我們有意識(shí)地采取措施，解決YouTube家庭內(nèi)容視頻面臨的諸多新挑戰(zhàn)，包括更嚴(yán)格執(zhí)行我們的社區(qū)指南、對(duì)不當(dāng)定位至家庭的內(nèi)容‘去貨幣化’并采取年齡限制，同時(shí)把這些內(nèi)容從YouTube兒童頻道中刪除。”

標(biāo)準(zhǔn)待調(diào)整

各方應(yīng)協(xié)力

波爾格說，沒有任何自動(dòng)識(shí)別工具能做到百分百準(zhǔn)確。由于以圖像和音樂作偽裝，“艾莎門”更難識(shí)別；所以，為凈化視頻內(nèi)容，“我們需要負(fù)責(zé)任、積極響應(yīng)的技術(shù)平臺(tái)與家長(zhǎng)和孩子齊心協(xié)力……一旦有內(nèi)容被標(biāo)記為具有攻擊性，視頻網(wǎng)站必須快速反應(yīng)”。

他說，家長(zhǎng)自然希望所有兒童頻道的視頻完全經(jīng)由人工篩查，“YouTube依照人人都是內(nèi)容創(chuàng)作者并能上傳視頻的想法構(gòu)建，但可能會(huì)隨時(shí)間推移發(fā)生變化”。“如果我是YouTube運(yùn)營者，”波爾格說，“我會(huì)創(chuàng)建一些類似YouTube兒童精選的內(nèi)容，完全人工策劃和過濾，讓家長(zhǎng)完全放心。”

騰訊視頻23日回應(yīng)，打擊“毒動(dòng)畫”，騰訊應(yīng)用了音視頻指紋、ES搜索等技術(shù)，以快速處置有害視頻。“針對(duì)少兒內(nèi)容，我們將重新制定審核標(biāo)準(zhǔn)和尺度，”騰訊視頻表示，“我們將運(yùn)用人工智能(AI)學(xué)習(xí)有害的視頻樣本，打擊后續(xù)有害內(nèi)容的上傳和傳播。”

明確做規(guī)矩

家長(zhǎng)要知情

“艾莎門”之所以讓家長(zhǎng)格外恐慌，是因?yàn)?ldquo;毒動(dòng)畫”混雜在正常兒童動(dòng)畫片中，且色情和暴力行為的主角涉及知名動(dòng)畫形象，隱蔽性更高。

心理咨詢師高璇認(rèn)為，“毒動(dòng)畫”雖然有蔓延趨勢(shì)，但家長(zhǎng)不必過于恐慌：首先，如果家中平時(shí)溝通氛圍較好，孩子看到?jīng)]有見過的畫面時(shí)，通常會(huì)問家長(zhǎng)“這是什么”，這可以引起家長(zhǎng)警惕。第二，媒體中的暴力色情畫面讓孩子恐懼焦慮后，只要家長(zhǎng)及時(shí)與孩子溝通，不會(huì)產(chǎn)生久遠(yuǎn)心理影響。第三，研究發(fā)現(xiàn)，媒體視頻中的暴力行為，極少導(dǎo)致兒童出現(xiàn)模仿行為，不會(huì)直接增加受暴力和性犯罪者侵害的風(fēng)險(xiǎn)。

那么，如果發(fā)現(xiàn)孩子接觸“毒動(dòng)畫”之類視頻，家長(zhǎng)應(yīng)如何處置？

■ 注意孩子是否有恐懼情緒，多陪伴孩子，孩子晚上睡覺時(shí)可以留一盞燈；

■ 告訴孩子“如果遇到害怕的事情應(yīng)該怎么做”，如調(diào)整呼吸、向父母傾訴，轉(zhuǎn)移孩子對(duì)恐怖畫面的注意力，同時(shí)教孩子應(yīng)對(duì)恐懼的方法；

■ 帶孩子欣賞美好畫面，如畫面優(yōu)美的繪本和視頻，多帶孩子到戶外游玩，以驅(qū)逐、替代丑惡畫面給孩子留下的印象。

■ 丑惡視頻可能會(huì)激起孩子的好奇心，讓孩子“又害怕又想看”，所以家長(zhǎng)需要態(tài)度嚴(yán)正地“立規(guī)矩”，明確告知孩子這類視頻不能看，如同告訴孩子“不能撒謊”一樣。

這一事件還給家長(zhǎng)提了一個(gè)醒：對(duì)孩子平時(shí)使用電子產(chǎn)品和上網(wǎng)時(shí)做些什么，父母必須“心中有數(shù)”。在中國，很多家長(zhǎng)把手機(jī)、平板電腦當(dāng)成“電子保姆”，為“省事”而任由孩子自己玩這些電子裝置，不檢查和過濾視頻和游戲內(nèi)容。一些手機(jī)和網(wǎng)絡(luò)平臺(tái)，“就連最簡(jiǎn)單的低幼兒童游戲，玩的過程中也會(huì)彈出一些包含色情、暴力畫面信息的廣告”。

高璇認(rèn)為，家長(zhǎng)讓孩子接觸新媒體、包括看視頻和玩游戲的前提是明確規(guī)則：除限制使用時(shí)間外，最重要的是“不能讓孩子單獨(dú)在自己的房間里玩，必須（讓他們）在家長(zhǎng)可以看到的場(chǎng)所，以便家長(zhǎng)隨時(shí)監(jiān)控孩子接觸的視頻和游戲內(nèi)容”。