“毒動畫”悄然流入國內，多個視頻平台著手專項清理。對這些披著卡通外衣的“精神垃圾”，國內外監管有哪些難點和短板？如何在視頻網站和家長之間形成合力，讓它們無處遁形？

　　專家建議，視頻平台方面，強化人工智能“算法”的同時應加強人工審核，以至開設讓家長完全放心的全人工過濾兒童視頻精選頻道﹔家長方面，應對孩子經由電子產品接觸的媒體內容做到心中有數，別把孩子扔給“電子保姆”。

　　疲於“打地鼠” 篩查有難度

　　在西方，“毒動畫”獲稱“艾莎門”，主要指視頻分享網站“優兔”（YouTube）上的兒童不宜視頻。它們大多由成年人制作，以經典卡通形象誘使兒童點擊觀看，內容卻包含血腥、暴力、色情或詭異情節。2013年，迪士尼動畫片《冰雪奇緣》女主角艾莎公主常出現在這類視頻中，因而有人把艾莎與用以描述丑聞事件的后綴詞“門”（gate）組成新詞，即“艾莎門”（ElsaGate）。

　　“毒動畫”通常在未獲法律許可的情形下使用經典卡通形象，由匿名用戶上傳，內容粗制濫造。為進入搜索結果並引起用戶注意，這類視頻的標題和描述常包含卡通形象名稱及“教育”“學習色彩”“童謠”等關鍵詞。一些時候，它們能規避優兔內置的兒童安全算法，進入頗受家長信任的優兔兒童頻道。

　　“‘艾莎門’欺騙性地讓兒童、家長和管理工具相信它們是‘兒童友好型’內容，讓人相當不安，”美國技術倫理學者戴維·瑞安·波爾格22日接受新華社記者採訪時說，“兒童在觀看他們喜愛的卡通形象作出猥褻或暴力行為后，可能遭受心理創傷。”

　　長期以來，技術企業嘗試借助審核人員和人工智能算法篩查並刪除兒童不宜視頻。但是，波爾格解釋，這就像玩“打地鼠”游戲，要逐一打掉那些冒出頭的不良視頻，作業量相當大。

　　“優兔每分鐘上傳的內容達到300小時，一秒一秒地審查每部視頻不可能，”波爾格說，“為簡化流程，優兔等主要平台結合使用人工智能工具、用戶報告和版主。然而，不少家長可能會想當然地認為優兔兒童頻道等完全由人工挑選並審查，壞人正是利用這個漏洞，故意把不良內容標記為看似適合兒童的內容。”

　　潛藏利益鏈 投入需加大

　　對“艾莎門”的批評聲最早2016年年中出現。一年后，它成為美國社交媒體“推特”上熱門的主題標簽。美國社交網站“紅迪”（Reddit）創建“艾莎門”社區討論平台，吸引數以萬計用戶參與。

　　作家詹姆斯·布萊德爾去年11月發表博客文章，題為“互聯網上一些地方出錯了”，指認“某些人、某些東西或某些人與物的混合體正在利用優兔，成規模和系統化地恐嚇、傷害和虐待兒童。這讓我質疑自己對互聯網的信仰，對各方面都產生質疑。”

　　不得不說，“毒動畫”的惡意背后潛藏一條外人難見的利益鏈條。

　　視頻網站業內人士說，優兔等國內外視頻網站通行規則是，隻要視頻點擊達到一定數量，就可以在視頻上附加“貼片廣告”，上傳者獲得一定分成，網站自身同樣可以獲利。

　　爭議中，一些廣告商發現自身廣告出現在“毒動畫”上，與品牌定位相悖，開始暫停向優兔投放廣告。壓力之下，優兔總裁蘇珊·武伊齊茨基去年12月宣布，將投入更多人力篩查視頻內容。2018年，優兔所屬谷歌公司的內容審核人員將增至至少1萬人，同時開發新的人工智能算法，與兒童安全機構合作。

　　優兔一名發言人22日回復新華社記者提問，在電子郵件中聲稱：“過去幾個月，我們有意識地採取措施，解決優兔家庭內容視頻面臨的諸多新挑戰，包括更嚴格執行我們的社區指南、對不當定位至家庭的內容‘去貨幣化’並採取年齡限制，同時把這些內容從優兔兒童頻道中刪除。”

　　這名發言人說，優兔將致力於“正確解決難題”，投入人力和工程資源，以應對不斷變化的環境。

　　標准待調整 各方應協力

　　波爾格說，沒有任何自動識別工具能做到百分百准確。由於以圖像和音樂作偽裝，“艾莎門”更難識別﹔所以，為淨化視頻內容，“我們需要負責任、積極響應的技術平台與家長和孩子齊心協力……一旦有內容被標記為具有攻擊性，視頻網站必須快速反應”。

　　他說，家長自然希望所有兒童頻道的視頻完全經由人工篩查，“優兔依照人人都是內容創作者並能上傳視頻的想法構建，但可能會隨時間推移發生變化”。“如果我是優兔運營者，”波爾格告訴記者，“我會創建一些類似優兔兒童精選的內容，完全人工策劃和過濾，讓家長完全放心。”

　　騰訊視頻23日回應，打擊“毒動畫”，騰訊應用了音視頻指紋、ES搜索等技術，以快速處置有害視頻。“針對少兒內容，我們將重新制定審核標准和尺度，”騰訊視頻表示，“我們將運用人工智能（AI）學習有害的視頻樣本，打擊后續有害內容的上傳和傳播。”

　　至少暫時無法實現全人工過濾，家長該如何應對？從事兒童發展心理學和早期教育研究的心理咨詢師高璇告訴新華社記者，低幼兒童接觸“毒動畫”的風險可以防控，家長必須擔負呵護責任，不應把孩子交給“電子保姆”。

　　高璇建議，如果發現孩子接觸過這類視頻，家長要注意孩子是否有恐懼情緒，詢問孩子感受，告訴孩子“如果遇到讓自己害怕的事情應該怎麼做”，如調整呼吸、向父母傾訴，既轉移孩子對恐怖畫面的注意力，也教給孩子正確應對恐懼的方法。另外，家長可以帶孩子欣賞美好畫面、到戶外游玩，以驅逐、替代丑惡畫面給孩子留下的印象。（新華社特稿）

分享讓更多人看到