logo

淘丁内容安全 | 视频审核中,内容风控在“控”什么?

来源:淘丁集团

随着互联网用户每周上网时长的持续上升,内容偏好的娱乐化和碎片化,消费者触媒重心逐渐由图文形式向视频形式转移,很多企业都着重发展自己的视频内容。但是,很多企业对于视频内容审核方面却存在很大的问题。

01.关于视频审核,内容风控在“控”什么?

对于视频而言,来自内容侧的风险主要有三类。
第一是政策层面的内容合规,要符合监管的要求。监管要求的内容可参考最新实行的《网络信息内容生态治理规定》,对于各项违规内容都做了详细规定,大致概括可分为涉政、违禁、暴恐、色情等四类,这部分是政策红线,一旦触及,轻则约谈,重则下架、封禁。
第二是社区氛围的良性导向,如谩骂、隐私等。这一类型的内容虽然不会触及监管红线,但倘若内容社区充斥各种负能量,对于社区氛围是非常严重的损害,伤及用户体验,导致用户流失,影响产品商业利益。这一类型内容风控还包括对于产品运营主体的保护,例如对吐槽公司工作人员的内容进行限流处理、对平台和产品的诅咒进行删除等,属于商誉和公关层面的维护,同时也是对产品官方公信力的维护。
第三是社区用户安全的保证。对于内容和社区产品而言,平台内一定会存在导流、灰产、诈骗等不法手段,如何保护平台内用户的财产安全和产品体验,是非常关键的,互联网发展至今,导流、诈骗等行为往往是成熟的灰黑产产业链所为,他们拥有丰富的反监查和防过滤经验,揪出他们并进行处理,需要平台与其斗智斗勇。

02.企业如何才能做好视频内容的风险把控?

内容审核对于任何一个企业来说都是很重要的一部分,是企业核心竞争力的重要体现。要想加强企业的竞争力,需要加强视频内容审核,做好视频内容的风险把控。

企业需要从以下三点入手:

1、明确行业痛点与过滤标准

每个行业的数据都有自己的独特性,且审核侧重点不同,比如交友网站类产品会特别注重广告的审核,而资讯类网站则更要注意涉政、谣言一类的非法信息……因此,在做视频内容审核工作之前,企业应先对自身产品的内容数据进行分析,每天的数据量大概是多少?什么时段是用户活跃的高峰期?什么类型的内容更受用户观看?然后才能对症下药。

2、建立合适的视频内容审核体系

在明确自身问题后,就要根据实际问题建立起合适的视频内容审核体系,如:如果你的产品进入发展中期,用户开始增长,内容也开始呈现多样化的形态,此时的视频内容审核就应该让技术打好前战,以关键词匹配模式辅助人工判断即可解决80%以上的问题;如果数据更复杂,则建议找专业的第三方平台,毕竟它们对于视频内容审核的技术已经趋于成熟,审核人员也更加专业,准确率有保障。

3、加强优质内容的呈现与用户的引导

现在越来越多的企业秉承着“用户喜欢什么我们就推荐什么”的原则,然而这样的做法,很大程度上会促进标题党、娱乐、内涵段子等内容充斥网络,久而久之用户很容易自然流失,所以,企业要帮助用户筛选优质信息,让用户看到正能量的一面;另一方面,还要引导用户在使用过程中去主动举报违规内容,让更多用户深度参与到产品的建设中来。

淘丁内容安全 | 视频审核中,内容风控在“控”什么?插图

内容来源于人民中科,由淘丁集团整理编辑,转载请注明出处。