2020疫情引爆了在线新经济。疫情流量之下，在线新经济企业如何落地自身网络安全建设？8月知道创宇“产业安全大咖说”，邀6位大咖为您共同揭晓答案。

本文是第5位大咖赵威的分享

关于赵威

知道创宇内容安全顾问，CISP、Security+、ISO27001FD、PMP，多年乙方安全工作经验，具有丰富的互联网行业、自媒体行业经验，主要擅长内容安全治理、安全合规咨询。

国内APP内容安全发展态势

随着互联网的不断发展，现在的人们都是“一机在手，天下尽在掌握”。手机上丰富的APP带领人们阅尽世间风采。在近两年，连续每年增长的APP数量却出现了下滑的趋势。从2017年-2019年APP在架数量走势可以看出自2018年开始，APP在架数量开始明显下降。

（2017-2019年APP在架数量）

我们再来看一组数据：截止到2020年6月末，我国国内市场上监测到的APP数量为359万款，比5月末减少1万款，环比下降0.3%。其中，本土第三方应用商店APP数量为212万款，苹果商店（中国区）APP数量为147万款。5月，新增上架APP数量10万款，下架应用11万款。

下架数量大于上架数量，这就是APP的现状。

造成这样现象的背后原因之一，便是近几年相关监管机构对APP的合规审查更加严格。例如APP隐私合规审查、网络信息内容生态治理规定、净网行动等清理了许多低质量的APP。

（国内互联网信息管理政策颁布时间线）

从国内对互联网信息管理的历史来看，早在2000年的《互联网信息服务管理办法》中就对内容的发布进行了限制，俗称“国九条”。

2017年颁布的《网络安全法》中也对于内容的制作和发布进行了相应的要求，不得宣扬恐怖主义、极端主义、不得传播暴力、淫秽色情信息等。

而在最新的《网络信息内容生态治理规定》发布之后，网站平台集中开展专项整治工作。整治期间累计清理淫秽色情、低俗炒作、赌博诈骗等各类违法和不良信息3.3亿余条。

国家对内容安全的监管要求

• 2000年9月国务院第31次常务会议通过《互联网信息管理办法》
• 2016年1月北京通过《互联网直播平台自律公约》
• 2017年6月全国人大常委颁布《网络安全法》
• 2017年10月国家互联网信息办公室发布《互联网跟帖评论服务管理规定》
• 2017年9月网信办颁布《互联网群组信息服务管理规定》
• 2019年1月全国人大常委通过《中华人⺠共和国电子商务法》
• 2019年1月网络视听节目服务协会发布《内容审核标准100条公约》
• 2019年9月网络视听节目服务协会发布《网络短视频平台管理规范》

从各个大型互联网企业的执行情况来看，其中腾讯主动开展“清风计划”，集中整治恶意营销、淫秽色情、网络暴力、恐怖惊悚、网络谣言等违法违规信息，拦截涉恶意营销文章226.5万篇，封停账号2842个；

百度针对水军刷单、买卖公民信息等内容进行深入挖掘，清理拦截有害信息588万条，关闭贴吧167个；

新浪微博严厉打击赌博诈骗等各类黑色产业链信息，主动拦截和清理相关信息约1130万条，接到网民和监督员巡查举报处置信息约710万条；

今日头条针对色情低俗内容制定400余条审核规则，累计清理违法和不良信息25.5万条。

而我们所熟知的一些APP如：x探、x音、xx书，都曾因为内容问题遭到处罚。

（相关报道）

内容安全治理需要注意什么？该怎么做？

首先，我们需要注意什么？

内容安全风险多种多样，下面是知道创宇在做内容安全治理的时常遇到的一些问题。

1. 时间紧且工作量大：一线审核人员平均1秒审核5张图片，如何快速且准确的识别围观内容是一项难题；
2. 变种词：利用谐音、拼音、缩写字母等手段逃避审核；
3. 陌生词：总有些词汇是审核员不熟悉的，针对这部分内容，如何把握审核的尺度；
4. 专业水军：发一些无营养的内容，导致平台口碑变差，如何分辨专业水军；
5. 涉黄鉴别：各种隐晦的提示，审核人员如何进行判断；
6. 陌生领域的专业词汇：针对专业性的词汇如何判断内容的合规性。

将注意点梳理后，我们再一步一步梳理该怎么去做内容安全治理。

内容安全治理可以分成四个步骤：现状调研，框架体系搭建、评估与分析以及持续优化。

1. 现状调研：现状调研主要针对最新的政策、产品的定位、用户的需求几个方面进行调研分析；
2. 框架体系搭建：依据现状调研的结果，编制内容审核规则和相关辅助工具；
3. 评估与分析：对编制完成的审核规则进行评估测试，重点针对违规内容的趋势进行研判分析；
4. 持续优化：持续优化审核规则、舆情信息，定期进行内容健康度检查。

1.现状调研

在现状调研环节，主要关注三个方面的调研：政策调研、产品调研和用户调研。

政策调研需要明确监管单位的红线，哪些是内容安全的底线，以及内容安全的发展趋势，都是靠对政策的分析解读。

产品调研的目的是让企业自身的内容安全部门更好的了解自己的平台，熟知平台定位，模拟平台可能出现的违规场景，为后面的框架体系搭建，提供帮助。

用户调研需要了解平台的用户群体和用户喜欢浏览的内容类型。如果对用户喜欢的内容审核太严则会导致用户流失，太松则会被下架了。尺度拿捏非常重要。

2.框架体系搭建

做完现状调研，我们就开始建立整个治理的框架。

以业务审核规则为基础，分类治理为核心，实现平台内容安全的小目标，运营体系和培训习体系是实现小目标的助力。

这里重点说一下为什么要做分类治理？上文我们提到审核人员1秒要看5张图片，如果不是经过训练的专业人员，要如何快速且准确的发现问题？

为了解决这个问题，我们需要对不同的内容和审核人员进行分类。

内容类型主要有：文本、图片、音频和视频。

人员则可以按照内容类型、内容场景和人员分类安排来进行分类。

专业审核人员不是一蹴而就的，针对技术人员要进行专项培训和训练，这样才能即保证高时效和高准确率。

3.评估与分析

框架搭建的差不多了，再往下我们需要对我们整个框架体系进行评估与分析。

通过分析平台用户的访问数据，评估在使用审核规则后用户是否有流失，如果流失量过大，就需要对审核规则做调整，但是绝对不能触及红线。

内容分析是指关注违规部分内容，细分违规内容不同场景的占比，再调整规则的不同细分占比，重点加强对高占比违规内容的关注。

4.持续优化

最后一步需要对内容治理持续优化，不断迭代，以适应瞬息万变的互联网。其中包括规则优化、舆情更新、业务健康度检查和政策更新。

知道创宇内容治理解决方案，准确率高达99.9%

为了解决互联网企业内容审核的痛点，知道创宇推出了护驾卫士安全解决方案。采用腾讯、网易、知道创宇引擎3重检测+人工审核，专业人工审核团队，疑难问题自动推送网信办驻场专家审核，准确率可达99.9%。

内容审核离不开数据保护，为了解决数据安全问题，我们有一套全面的安全策略。通过接口白名单、加密传输、数据储存和数据销毁等手段，全面方位保护客户的数据安全。

知道创宇作为国内领先的网络安全公司，我们设立了成都分中心和重庆分中心专门提供内容安全治理服务。拥有超过8年的内容审核经验，为微信公众平台、QQ看点、知识星球、⾦山文档、keep等大型互联⽹平台提供内容安全服务，在内容安全治理领域保持着国内领先的核心竞争力。

————END————

点击此处下载完整版PPT