如今小程序正式上線已有兩年時間了，上線小程序總數(shù)超過百萬，日活達2.8億。隨著小程序生態(tài)的繁榮，小程序內(nèi)容安全成為外界關注的重點。
部分小程序開發(fā)運營者缺乏搭建體系化內(nèi)容安全策略的能力，導致其開發(fā)運營的小程序存在安全隱患。
6月21日，微信正式上線“珊瑚內(nèi)容安全助手” （以下簡稱“珊瑚”）小程序，公眾號運營者和小程序開發(fā)者可以通過小程序一鍵鑒別內(nèi)容和產(chǎn)品的安全風險。
作為微信首個移動端安全鑒別工具，“珊瑚”小程序的推出，意味著微信將在內(nèi)容安全方面為運營者和開發(fā)者提供更多幫助。
一、小程序違規(guī)現(xiàn)狀
2018年全年小程序侵權投訴近4000件。從投訴類型看,主要分為兩大類:一是小程序的昵稱、頭像、功能簡介；二是小程序內(nèi)容。騰訊方表示，針對違規(guī)現(xiàn)象及可能存在的問題，將加強審核和巡查，持續(xù)堅決打擊，絕不姑息。
任何新技術的開發(fā)運用都如硬幣的兩面，善用之則為福，不善用之則為禍。就在微信小程序發(fā)展壯大的過程中，一些違規(guī)小程序也逐漸出現(xiàn)，以隱蔽手段侵害消費者利益。
小程序本身沒有原罪，但小程序功能的實現(xiàn)依托于具有海量用戶的微信平臺，若不加以審慎防范和嚴格監(jiān)管，則很容易被某些違法違規(guī)產(chǎn)品和行為鉆空子，成為滋生犯罪的溫床。
二、“珊瑚”小程序三大能力
據(jù)了解，“珊瑚”小程序?qū)檫\營者和開發(fā)者提供風險自測、內(nèi)容鑒別、行業(yè)動態(tài)等三個維度的功能，由騰訊云提供技術支持。
風險自測
開發(fā)者可以通過勾選自己的產(chǎn)品功能，各功能發(fā)布的內(nèi)容情況，由“珊瑚”小程序自動計算出產(chǎn)品風險評級，給予針對性風險提示及風險防控建議，讓開發(fā)者及時了解和規(guī)避風險。
內(nèi)容鑒別
支持文字鑒別，能檢測出色情、政治敏感、違法、謾罵等惡意內(nèi)容，從根源上杜絕傳播，更好的保護產(chǎn)品安全。
支持圖片鑒別，對上傳的圖片進行識別，能檢測出色情、政治敏感、暴恐等惡意內(nèi)容，并靈活地進行處置，有效地防止用戶生產(chǎn)和傳播惡意圖片內(nèi)容。
「音頻鑒別」和「視頻鑒別」功能也很快也會上線。
行業(yè)動態(tài)
如果小程序要想做好內(nèi)容運營，就要實時了解最新行業(yè)動態(tài)和法律法規(guī)，珊瑚小程序行業(yè)動態(tài)板塊定期更新互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動態(tài)、相關法律法規(guī)等內(nèi)容，幫助開發(fā)運營者及時掌握行業(yè)情況。
三、開放內(nèi)容安全接口
在平臺本身嚴厲打擊不良違規(guī)內(nèi)容的同時，微信也將內(nèi)容審核的能力“下放“給了小程序開發(fā)者。近年來，由于產(chǎn)品中存在違規(guī)內(nèi)容而被處罰，甚至關停下架的事情時有發(fā)生，開發(fā)者的內(nèi)容審核工作刻不容緩。
因此，騰訊推出了內(nèi)容安全接口，希望幫助開發(fā)者及時發(fā)現(xiàn)并處理圖片、文本內(nèi)容里的違規(guī)信息，讓開發(fā)者能夠?qū)⒕Ω杏诟哔|(zhì)量的小程序開發(fā)當中。
四、總結
在微信這樣的去中心化體系里，審核的目的從不是為了給小程序設置上限，而是從用戶體驗的角度出發(fā)，維護基本的底線。
未來，“珊瑚”小程序?qū)⒒隍v訊云圖像分析等AI技術，為廣大小程序開發(fā)者提供更強、更豐富的內(nèi)容安全能力，并持續(xù)運營、定期更新行業(yè)內(nèi)容安全動態(tài)信息，幫助開發(fā)運營者了解最新的行業(yè)情況。
