内容审核主要是应用于用户在社交平台上发布、上传、共享的内容的，主要是针对资讯类产品的。目的是过滤一些低质、黄色、赌博、辱骂等的内容，净化网络环境，提高网民的用户体验。

(资料图片)

第一:机器审核

机器是按照制定好的规则或机器学习算法对内容进行审核。通常，成熟的审核系统能将95%甚至99%以上的内容都自动审核并做出处理。确定有问题的会被自动删除，难以判断是否有问题的会被标注，进入人工审核程序。

机器对内容进行审核

第二:人工审核

机器无法判别的内容会进入到人工审核的程序中，审核员会对内容进行进一步的判断，通常占平台内容数量的比例不超过5%。(其实，用户投诉审核和结果复审大多时候也是人工审核的。)虽然看着不多，但对于一些大型的内容平台，绝对数量已经很多了。在内容爆炸的时代，我们看到许多平台在全国都有多个审核中心，每个审核中心的员工数量都成千甚至上万。

第三:用户投诉审核

主要是前两者的弥补，有很多违规内容以前没有出现过;所以不在规则可以过滤的范围内，或者非常隐蔽，规则难以严格过滤。

用户的投诉是发现新问题的重要渠道。通过知乎的危机事件，我们更应该重视对投诉的审核，并及时据此对机器审核做出补充。

第四:结果复审

通常采取抽查方式，比如通过复审机器删除的内容，看规则或算法是否过于严格;比如通过查看人工删除和通过的内容，看员工的工作是否按要求执行;比如通过内容的整体巡查，看是否存在新的问题未被注意到。