logo

淘丁集团 | 内容风控不谈安全,便谈不上发展

来源:淘丁集团

如今的互联网时代,无时无刻都在不断产生海量的文字、图片、视频等内容,内容一方面代表着更多的流量和商机,另一方面也暗藏着巨大的安全风险。

淘丁集团 | 内容风控不谈安全,便谈不上发展插图

暴力、血腥、色情、恐怖等涉黄、涉暴、涉政治敏感等内容危害着互联网平台的内容生态,国家也一直在进行着严格的治理。2017年6月,《中华人民共和国网络安全法》正式实施,其中指出“平台中不得存在涉政、涉暴、虚假、色情等信息”。2020 年3月国家正式施行《网络信息内容生态治理规定》,《规定》中要求所有信息发布平台的管理者必须承担起主体的责任,其平台中不得存在任何涉黄、涉暴、涉政、虚假造谣等违法违规内容。

内容安全的发展经历了“鉴黄师”到“内容安全”再到“内容合规”的三个阶段,因此网络传播格局和舆论生态也发生了新的变化与挑战,以采编权为中心的媒体管理模式也发生了颠覆性的变化。

内容治理除了要考虑内容安全阶段的审核范畴外,还需充分兼顾媒体传播、法律合规,纳入业务合规的管理范畴

内容合规是企业良性发展的基石

随着互联网内容的迅猛发展,监管政策趋严,内容安全事件频发,有时候内容风控的成败直接决定着互联网内容平台和企业的生死。

企业内容安全治理面临的难点和痛点主要在以下几个方面:

一是在业务系统的迭代上。“知其然不知其所以然”,对政策理解不够细致、不到位、监测工作不全面,很难全面而清晰地考虑内容风险。风险点的持续监测、垃圾内容形式的千变万化、审核标准的不断调整,都要做到事先预估和全面整理,很可能成为业务发展的阻碍因素。

二是资源投入及回报不对等。海量内容的人工审核成本较高,短期内只能看到成本投入,不能看到明显的收益和效果,导致前期请求资源得不到管理层的有效支持。

三是内容风控安全与业务目标不一致。产品和业务的目标是快速提升经营的数据指标,然而,内容风控安全的介入则会在一定程度上减缓业务达到指标的速度,所以找到内容风控安全与业务目标的平衡点,亦是需要长期探索的问题。