如今小程序正式上線已有兩年時(shí)間了，上線小程序總數(shù)超過(guò)百萬(wàn)，日活達(dá)2.8億。隨著小程序生態(tài)的繁榮，小程序內(nèi)容安全成為外界關(guān)注的重點(diǎn)。

?

部分小程序開(kāi)發(fā)運(yùn)營(yíng)者缺乏搭建體系化內(nèi)容安全策略的能力，導(dǎo)致其開(kāi)發(fā)運(yùn)營(yíng)的小程序存在安全隱患。

?

6月21日，微信正式上線“珊瑚內(nèi)容安全助手” （以下簡(jiǎn)稱(chēng)“珊瑚”）小程序，公眾號(hào)運(yùn)營(yíng)者和小程序開(kāi)發(fā)者可以通過(guò)小程序一鍵鑒別內(nèi)容和產(chǎn)品的安全風(fēng)險(xiǎn)。

?

作為微信首個(gè)移動(dòng)端安全鑒別工具，“珊瑚”小程序的推出，意味著微信將在內(nèi)容安全方面為運(yùn)營(yíng)者和開(kāi)發(fā)者提供更多幫助。

?

一、小程序違規(guī)現(xiàn)狀

?

2018年全年小程序侵權(quán)投訴近4000件。從投訴類(lèi)型看,主要分為兩大類(lèi):一是小程序的昵稱(chēng)、頭像、功能簡(jiǎn)介；二是小程序內(nèi)容。騰訊方表示，針對(duì)違規(guī)現(xiàn)象及可能存在的問(wèn)題，將加強(qiáng)審核和巡查，持續(xù)堅(jiān)決打擊，絕不姑息。

?

任何新技術(shù)的開(kāi)發(fā)運(yùn)用都如硬幣的兩面，善用之則為福，不善用之則為禍。就在微信小程序發(fā)展壯大的過(guò)程中，一些違規(guī)小程序也逐漸出現(xiàn)，以隱蔽手段侵害消費(fèi)者利益。

?

小程序本身沒(méi)有原罪，但小程序功能的實(shí)現(xiàn)依托于具有海量用戶的微信平臺(tái)，若不加以審慎防范和嚴(yán)格監(jiān)管，則很容易被某些違法違規(guī)產(chǎn)品和行為鉆空子，成為滋生犯罪的溫床。

?

二、“珊瑚”小程序三大能力

?

據(jù)了解，“珊瑚”小程序?qū)檫\(yùn)營(yíng)者和開(kāi)發(fā)者提供風(fēng)險(xiǎn)自測(cè)、內(nèi)容鑒別、行業(yè)動(dòng)態(tài)等三個(gè)維度的功能，由騰訊云提供技術(shù)支持。

?

風(fēng)險(xiǎn)自測(cè)

?

開(kāi)發(fā)者可以通過(guò)勾選自己的產(chǎn)品功能，各功能發(fā)布的內(nèi)容情況，由“珊瑚”小程序自動(dòng)計(jì)算出產(chǎn)品風(fēng)險(xiǎn)評(píng)級(jí)，給予針對(duì)性風(fēng)險(xiǎn)提示及風(fēng)險(xiǎn)防控建議，讓開(kāi)發(fā)者及時(shí)了解和規(guī)避風(fēng)險(xiǎn)。

?

內(nèi)容鑒別

?

支持文字鑒別，能檢測(cè)出色情、政治敏感、違法、謾罵等惡意內(nèi)容，從根源上杜絕傳播，更好的保護(hù)產(chǎn)品安全。

?

支持圖片鑒別，對(duì)上傳的圖片進(jìn)行識(shí)別，能檢測(cè)出色情、政治敏感、暴恐等惡意內(nèi)容，并靈活地進(jìn)行處置，有效地防止用戶生產(chǎn)和傳播惡意圖片內(nèi)容。

?

「音頻鑒別」和「視頻鑒別」功能也很快也會(huì)上線。

?

行業(yè)動(dòng)態(tài)

?

如果小程序要想做好內(nèi)容運(yùn)營(yíng)，就要實(shí)時(shí)了解最新行業(yè)動(dòng)態(tài)和法律法規(guī)，珊瑚小程序行業(yè)動(dòng)態(tài)板塊定期更新互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動(dòng)態(tài)、相關(guān)法律法規(guī)等內(nèi)容，幫助開(kāi)發(fā)運(yùn)營(yíng)者及時(shí)掌握行業(yè)情況。

?

三、開(kāi)放內(nèi)容安全接口

?

在平臺(tái)本身嚴(yán)厲打擊不良違規(guī)內(nèi)容的同時(shí)，微信也將內(nèi)容審核的能力“下放“給了小程序開(kāi)發(fā)者。近年來(lái)，由于產(chǎn)品中存在違規(guī)內(nèi)容而被處罰，甚至關(guān)停下架的事情時(shí)有發(fā)生，開(kāi)發(fā)者的內(nèi)容審核工作刻不容緩。

?

因此，騰訊推出了內(nèi)容安全接口，希望幫助開(kāi)發(fā)者及時(shí)發(fā)現(xiàn)并處理圖片、文本內(nèi)容里的違規(guī)信息，讓開(kāi)發(fā)者能夠?qū)⒕Ω杏诟哔|(zhì)量的小程序開(kāi)發(fā)當(dāng)中。

?

四、總結(jié)

?

在微信這樣的去中心化體系里，審核的目的從不是為了給小程序設(shè)置上限，而是從用戶體驗(yàn)的角度出發(fā)，維護(hù)基本的底線。

?

未來(lái)，“珊瑚”小程序?qū)⒒隍v訊云圖像分析等AI技術(shù)，為廣大小程序開(kāi)發(fā)者提供更強(qiáng)、更豐富的內(nèi)容安全能力，并持續(xù)運(yùn)營(yíng)、定期更新行業(yè)內(nèi)容安全動(dòng)態(tài)信息，幫助開(kāi)發(fā)運(yùn)營(yíng)者了解最新的行業(yè)情況。