logo

在内容合规上,如何建立内容审核体系?

来源:淘丁集团

内容审核其实无处不在?不用怀疑,我们在网上创建和发布的任何信息都会被审核,包括实名信息、昵称头像、个人自拍、甚至自己设置私密的动态。

在内容合规上,如何建立内容审核体系?插图

大多数情况下,只要我们遵纪守法,不会感知到自己被审核,但是审核不止决定发言会不会被封,还决定能不能发出去,获得多少曝光,后两种情况很多时候是不会察觉到的。

内容审核在互联网行业发展已经趋向成熟,建立内容审核体系无外乎这5个步骤:
盘点平台里可能会产生用户发布内容的渠道和量级
定义可能会产生的内容类别,并根据风险程度排序
根据风险情况及平台需要选择合适的审核方式和处理方式
搭建线上审核平台,选择自建或采购的机器审核工具
自建或外包人工审核团队,包括规则、培训、SOP
审核是为了避免用户发布违法不良内容,让平台承受整改关停风险。主要是黄反等违法违规类,只有守住这条红线,才能让平台在国内正常运转。有关部门会时不时对平台内容进行抽查,一旦被查到轻则点名批评、重则关停封杀。

这些内容出现的概率很低,但任何平台都不惜任何成本去来规避这类内容的出现,代价包括建立庞大的人工审核团队,牺牲一定用户体验,禁止发布任何沾边的内容——哪怕你不是这个意思,这是不得已而为之。

审核是为了让平台内容有自己的调性。很多平台因为对自己的内容定位把控不清晰或者力度不够大,从神坛跌落,百度贴吧就是一个。

值得注意的是,有关部门越来越重视内容平台的整体调性,尤其是直播,对直播的要求越来越接近电视媒体,甚至更严格。

在内容合规上,如何建立内容审核体系?插图1

审核方式按时间维度可分为先审后发、先发后审。选择什么样的审核方式,是对内容风险和用户体验的一种取舍,先审后发没有风险必伤体验,先发后审体验好但必定有大风险。
先审后发:所有内容审核通过后才可以提交,适用于对自身定位很强,对内容质量要求很高,信息量不是很大的平台,比如人人都是产品经理,以新闻为主的资讯平台,比如一点资讯等。优点是可以避免所有的违规,缺点是用户创作的环节和成本提高了,可能会劝退很多想试试的用户。
先发后审:发布后再审核,适用于信息量非常大的内容,没有那么多资源可以支撑先审后发,比如评论等。
这两种是比较粗暴的分类,现在大部分平台不会单一地采取一种方式进行审核,更多是组合审核。前边也说到过,即便是一条短短几个字的评论,如果出现红线问题,也是致命的。所以先审后发还是先发后审,不仅是时间维度的划分,也是风险维度的划分,只有违规风险低的内容才适用先发后审。

在AI科技不断进步的当下,人工智能的内容安全场景覆盖在不断增加,对于市场中的企业而言,通过可视化的智能系统优化场景与现有的技术体系帮助厂商减少成本、助力绿色环境,将是谛听安全持之以恒的愿景与目的。

在内容合规上,如何建立内容审核体系?插图2

淘丁内容安全业务自2018年4月开始,服务于互联网平台线上产品安全审核工作,对各类违法、色情、涉政等不良违禁信息实行7*24小时即时审核,对有害信息进行人工甄别,确保产品绝对安全。

在内容合规上,如何建立内容审核体系?插图3

淘丁数据标注团队现有人员规模近500人,业务分部在西安、宝鸡、渭南、临汾、太原等地。淘丁与国内大型企业深入合作,日常处理项目量级均为百万级以上,部分数据量级超过千万,拥有稳定充足的业务来源。各类标注项目经验丰富,可为人员提供标准化、体系化的培训。

在内容合规上,如何建立内容审核体系?插图4

淘丁集团专注于互联网内容安全和数据标注业务领域,拥有千人专业团队,经验丰富,准确率高,服务类别多,团队体系成熟,能快速响应大量业务需求。

欢迎互联网公司、人工智能机构对接洽谈合作,咨询热线:029-85799062。