繼文化部、公安部等對(duì)直播平臺(tái)的內(nèi)容安全進(jìn)行專項(xiàng)整治之后，廣電總局再度下發(fā)通知抵制網(wǎng)絡(luò)直播的低俗內(nèi)容。2016年是網(wǎng)絡(luò)直播爆發(fā)的元年，近300家直播平臺(tái)出現(xiàn)印證了蛋糕的規(guī)模，但內(nèi)容安全無疑成了一個(gè)隱形的燙手山芋。

與直播同樣受關(guān)注的還有人工智能，自AlphaGo名聲大噪之后，人們?cè)趯?duì)人工智能表示恐懼和擔(dān)憂的同時(shí)，人工智能技術(shù)的應(yīng)用也漸入佳境。那么人工智能可以解決網(wǎng)絡(luò)直播的內(nèi)容隱憂嗎？至少在國(guó)外已經(jīng)出現(xiàn)了國(guó)外已經(jīng)誕生了mollom、WebPurify、Sightengine等第三方反垃圾服務(wù)，國(guó)內(nèi)也有網(wǎng)易易盾、Gootion、達(dá)觀、騰訊萬象等一眾產(chǎn)品。

互聯(lián)網(wǎng)內(nèi)容安全，為何直播成了眾矢之的？

據(jù)CNNIC第38次中國(guó)互聯(lián)網(wǎng)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告顯示，截至今年6月，我國(guó)網(wǎng)絡(luò)直播用戶規(guī)模達(dá)到3.25億，占網(wǎng)民總體的45.8%。迅速火起來的直播平臺(tái)，已然成為當(dāng)下影響力最大的內(nèi)容生產(chǎn)者，這便不難理解廣電總局等多次下發(fā)通知的原因所在。

2012年國(guó)內(nèi)的直播平臺(tái)還只有區(qū)區(qū)25家，如今的龐大規(guī)模和移動(dòng)直播平臺(tái)的草莽式發(fā)展不無關(guān)系。一方面，縱觀整個(gè)直播市場(chǎng)， “美女”、“秀”、“色”等具有窺私欲和荷爾蒙刺激的元素成為諸多直播平臺(tái)的標(biāo)配。且在監(jiān)管慢半拍的情況下，早期的直播平臺(tái)多以色情、暴力等低俗內(nèi)容吸引觀眾，盡管經(jīng)歷了幾番嚴(yán)打，類似的情況依舊存在。

另一方面，即便是一些直播平臺(tái)的用戶規(guī)模達(dá)到了千萬級(jí)甚至上億，連《信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證》都還沒有拿到，比如花椒、斗魚等等，一些不為人知的直播平臺(tái)所面臨的情況可想而知。網(wǎng)絡(luò)直播幾乎無門檻的現(xiàn)狀，導(dǎo)致拼顏值、拼尺度成為直播圈的主流，不少網(wǎng)絡(luò)主播開始游走在“灰色邊緣地帶”，暴力、色情、低俗、獵奇等內(nèi)容層出不窮。

讓人不寒而栗的是，從《2015年中國(guó)青少年上網(wǎng)行為研究報(bào)告》給出的數(shù)據(jù)來看，我國(guó)的青少年網(wǎng)民數(shù)量達(dá)到2.87億，而直播恰是青少年網(wǎng)絡(luò)行為的重要場(chǎng)景之一。色情、暴力、謠言、欺詐等對(duì)青少年的身心健康有著很大的負(fù)面作用，根治直播平臺(tái)所存在的內(nèi)容低俗問題已是不可不為之舉。

直播平臺(tái)的痛點(diǎn)，人工智能可以解決嗎？

對(duì)于主播來講，提供低俗內(nèi)容所面臨的后果無非是“禁演”，可站在直播平臺(tái)的角度來看，因?yàn)榈退變?nèi)容帶來的負(fù)面影響和處罰卻很可能導(dǎo)致在競(jìng)爭(zhēng)激烈的直播市場(chǎng)中掉隊(duì)。盡管主播月入十萬的神話并不現(xiàn)實(shí)，直播平臺(tái)的盈利模式也較為單一，可透過斗魚、映客等數(shù)十億的估值來看，直播已經(jīng)成為名符其實(shí)的造富風(fēng)口。

大多數(shù)直播平臺(tái)顯然不會(huì)在內(nèi)容審核上輕易觸碰政策的紅線，但每天上千萬的直播行為以及數(shù)億的用戶評(píng)論，很難依靠純粹的人工審核來完成。事實(shí)上，從門戶時(shí)代開始，內(nèi)容審核就成了互聯(lián)網(wǎng)產(chǎn)品的一大弊病，如今業(yè)已實(shí)現(xiàn)了從人工審核向人工智能的過渡，究其過程或可分為三個(gè)時(shí)期。

第一個(gè)時(shí)期可以稱之為關(guān)鍵詞過濾的時(shí)代。早期的門戶網(wǎng)站、論壇、博客中為了審核用戶評(píng)論，往往采用關(guān)鍵詞、黑白名單和各種過濾器技術(shù)，來做一些內(nèi)容的偵測(cè)和攔截。這個(gè)時(shí)期的技術(shù)手段很基礎(chǔ)，卻也能夠滿足早期互聯(lián)網(wǎng)產(chǎn)品的需求。

第二個(gè)時(shí)期可以視為“算法”稱霸的時(shí)代。進(jìn)入Web2.0時(shí)代之后，互聯(lián)網(wǎng)的產(chǎn)品形式變得更加豐富，網(wǎng)民的數(shù)量也不可同日而語(yǔ)。一些互聯(lián)網(wǎng)公司開始基于計(jì)算機(jī)技術(shù)進(jìn)行算法上的更新，比如貝葉斯過濾、膚色識(shí)別等，將機(jī)器內(nèi)容審核的范圍從文字延伸到了圖片。

第三個(gè)時(shí)期就是當(dāng)下的人工智能時(shí)代。大數(shù)據(jù)、云計(jì)算、人工智能等由概念走向?qū)嵱?，?nèi)容審核的范圍擴(kuò)展到文字、語(yǔ)音、圖片、視頻、直播等，幾乎覆蓋了移動(dòng)互聯(lián)網(wǎng)時(shí)代的所有產(chǎn)品。一個(gè)顯著的特征就是深度學(xué)習(xí)在內(nèi)容審核領(lǐng)域的應(yīng)用，比如前文所說的Gootion、網(wǎng)易易盾等根據(jù)多年在安全領(lǐng)域違規(guī)詞庫(kù)的沉淀和神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)能力，實(shí)現(xiàn)了對(duì)目標(biāo)文本進(jìn)行精確匹配和快速識(shí)別。

不難發(fā)現(xiàn)，單從技術(shù)角度來講，人工智能和深度學(xué)習(xí)技術(shù)在內(nèi)容審核上應(yīng)用，在很大程度上可以解決當(dāng)前內(nèi)容審核的需求。可為何很多直播平臺(tái)還在利用“場(chǎng)控”等形式進(jìn)行直播監(jiān)督，甚至一些典型的UGC產(chǎn)品還處于人工審核+算法過濾，這不得不讓人思考人工智能在商業(yè)化上的思路。

人工智能的商業(yè)化，還要邁過哪些坎？

正如來自谷歌的吳軍博士所說“人工智能的商業(yè)化就是看它是否已經(jīng)深入到“黃賭毒”這種人類最基本的訴求中”。一語(yǔ)成讖 ，被神話或者妖魔化的人工智能在商業(yè)化方面并不樂觀，即使是接受程度最高的“語(yǔ)音助手”，還未能找到可觀的盈利模式。在一系列因素的作用下，內(nèi)容審核成了人工智能展示的舞臺(tái)，也是其在商業(yè)化領(lǐng)域能否破冰的關(guān)鍵。

互聯(lián)網(wǎng)產(chǎn)品“拒絕”使用人工智能進(jìn)行內(nèi)容審核的原因有很多，數(shù)據(jù)保密性的顧慮、成本考慮等等不一而足?？删妥詈诵牡脑騺碚f，人工智能技術(shù)尚未擊中用戶的核心痛點(diǎn)。那么針對(duì)垂直細(xì)分領(lǐng)域的解決方案會(huì)成為這些產(chǎn)品破冰的突破口嗎？

就以網(wǎng)絡(luò)直播為例，目前市場(chǎng)上專注于此的產(chǎn)品并不多，有巨頭背景的網(wǎng)易易盾將現(xiàn)階段的矛頭瞄準(zhǔn)了社區(qū)類產(chǎn)品，騰訊萬象有圖提供的服務(wù)過于單一，對(duì)于直播管家等專注直播的公司來說，這是一個(gè)機(jī)遇也是一個(gè)挑戰(zhàn)。而又該怎么做的呢？大致有三點(diǎn)值得借鑒的地方。

首先，遠(yuǎn)低于人工審核的使用成本。

以一家月直播10萬小時(shí)的中小直播平臺(tái)為例，如果采用傳統(tǒng)的內(nèi)容審核技術(shù)，100人的內(nèi)容管理團(tuán)隊(duì)每月所花費(fèi)的成本在80萬上下。如果借助人工智能進(jìn)行內(nèi)容監(jiān)控，人力投入可以削減到10人左右，綜合投入不過10萬到20萬之間。據(jù)悉，映客每月的運(yùn)營(yíng)成本在1億元上下的規(guī)模，也因此遠(yuǎn)未達(dá)到盈虧平衡的狀態(tài)。對(duì)中小直播平臺(tái)而言更是如此，如何降低運(yùn)營(yíng)成本已經(jīng)成為盈利與否的關(guān)鍵。

其次，在產(chǎn)品功能上覆蓋更多的盲點(diǎn)。

從技術(shù)層面來講，利用人工智能進(jìn)行內(nèi)容監(jiān)測(cè)所涉及的技術(shù)有圖像識(shí)別、語(yǔ)音識(shí)別、語(yǔ)義分析、文字識(shí)別、深度學(xué)習(xí)等，通過實(shí)時(shí)對(duì)接直播平臺(tái)的內(nèi)容，對(duì)其進(jìn)行包括內(nèi)容涉黃、涉恐等審核。相比于傳統(tǒng)的機(jī)器審核，實(shí)現(xiàn)了視頻、語(yǔ)音、圖片、文本等多種識(shí)別模式，涵蓋了直播平臺(tái)的主播直播、彈幕、私信等場(chǎng)景?；蛟S在人工智能領(lǐng)域并不是革命性的創(chuàng)新，卻迎合了直播平臺(tái)的剛需。

再次，提供更完善的用戶追蹤和數(shù)據(jù)分析。

正如很多人預(yù)言，盈利模式和用戶群體高度重合的直播平臺(tái)們必定面臨一場(chǎng)“百團(tuán)大戰(zhàn)”，而如何夯實(shí)自身在主播資源、內(nèi)容質(zhì)量、用戶粘性、運(yùn)營(yíng)成本等方面的優(yōu)勢(shì)，將決定一家直播平臺(tái)的淘汰與否。人工智能在內(nèi)容審核方面的應(yīng)用意在保障內(nèi)容質(zhì)量并提升用戶體驗(yàn)，在這個(gè)過程中對(duì)主播和用戶的追蹤，則為人工智能在直播平臺(tái)上進(jìn)行深度的數(shù)據(jù)挖掘提供了更多的可能性。比如在基礎(chǔ)的內(nèi)容審核之外，提供用戶類型統(tǒng)計(jì)、主播數(shù)字畫像、行業(yè)分類統(tǒng)計(jì)、違規(guī)態(tài)勢(shì)預(yù)測(cè)等多維度的數(shù)據(jù)分析服務(wù)。這些恰是很多直播平臺(tái)所欠缺的，也是降低運(yùn)營(yíng)成本的又一利好。

誠(chéng)然，“高大上”的人工智能從技術(shù)殿堂落地還有很多的路要走，而專注于垂直細(xì)分領(lǐng)域或是人工智能進(jìn)一步普及的捷徑。

結(jié)語(yǔ)

直播的崛起很大程度上得益于智能終端的普及和通信技術(shù)的發(fā)展，經(jīng)歷了野蠻式的擴(kuò)張，亂象的網(wǎng)絡(luò)直播終究要面臨一個(gè)轉(zhuǎn)折點(diǎn)。從廣電總局的態(tài)度來看，“無照經(jīng)營(yíng)”、輕內(nèi)容、重營(yíng)銷的直播模式已經(jīng)是一潭死水，直播內(nèi)容審核將成為一種新常態(tài)，所幸還有人工智能。

人工智能概念股：埃斯頓、科大智能、漢王科技、江南化工、華東數(shù)控、和而泰、中科曙光、永創(chuàng)智能、北京君正、通富微電、永創(chuàng)智能、勁拓股份。