内容审核
来自China Digital Space
就是内容审查。除了人工审查,中国审查部门和公司也开始使用高科技公司开发的人工智能工具,比如华为云提供的内容审核服务,华为云网站上有如下介绍:
内容审核服务基于深度学习技术对图像、视频、文本内容中的不合规信息进行自动检测,方便用户对不合规信息快速处理,帮助用户提高审核效率。
“基于深度学习技术和大量的样本库,帮助客户快速准确进行违规内容检测,维护内容安全。”
“提供图文视频内容检测,覆盖涉黄、广告、涉暴和涉政等多种违规风险的内容检测,以及检测图像清晰度和构图质量等功能。”
“应用场景
内容审核-图像
内容审核-图像有以下应用场景:
视频直播
在互动直播场景中,成千上万个房间并发直播,人工审核直播内容几乎不可能。基于图像审核能力,可对所有房间内容实时监控,识别可疑房间并进行预警。
场景优势如下:
准确率高:基于改进的深度学习算法,检测准确率高。
响应速度快:视频直播响应速度速度小于0.1秒。
在线商城
智能审核商家/用户上传图像,高效识别并预警不合规图片,防止涉黄、涉暴、政治敏感类图像发布,降低人工审核成本和业务违规风险。
场景优势如下:
准确率高:基于改进的深度学习算法,检测准确率高。
响应速度快:单张图像识别速度小于0.1秒。
网站论坛
不合规图片的识别和处理是用户原创内容(UGC)类网站的重点工作,基于内容审核,可以识别并预警用户上传的不合规图片,帮助客户快速定位处理,降低业务违规风险。
场景优势如下:
准确率高:基于改进的深度学习算法,检测准确率高。
响应速度快:单张图像识别速度小于0.1秒。
内容审核-文本
内容审核-文本有以下应用场景:
电商评论筛查
审核电商网站产品评论,智能识别有色情、涉政、灌水等违规评论,保证良好用户体验。
场景优势如下:
准确率高:基于改进的深度学习算法,检测准确率高。
响应速度快:响应速度小于0.1秒。
注册昵称审核
对网站的用户注册信息进行智能审核,过滤包含广告、反动、色情等内容的用户昵称。
场景优势如下:
准确率高:基于改进的深度学习算法,检测准确率高。
响应速度快:响应速度小于0.1秒。
媒资内容审核
自动识别媒资中可能存在的涉政、违禁品等信息,避免已发布的文章存在违规风险。
场景优势如下:
快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。
处理速度快:处理速度小于0.1秒。
弹幕审核
实时检测弹幕文本、保证网络直播间内容安全,降低业务违规风险。
场景优势如下:
海量词库:内置海量词库,支持各种匹配规则。
快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。
聊天内容实时审核
实时检测游戏等文本聊天内容中可能出现的违规信息,避免辱骂、色情、反动等文本内容,净化网络环境。
场景优势如下:
海量词库:内置海量词库,支持各种匹配规则。
响应速度快:响应速度小于0.1秒”
审查制度(英語:censorship),又称檢閱制度,通常指某些政府機構、新闻媒体和其他控制机构对被认为是有害的、敏感的、或是不合适的演讲及其他公共言论的抑制。典型的情况是,审查制度是由政府、宗教团体或者大众传媒施行的社會控制手段,也可能存在其他的审查制度施行方式。如果控制在适当的范围内,对于相关国家机密、商业秘密、知识产权,以及享有特权的「律师-代理人」之间的交流信息控制,則不在审查制度定义范围内。因此,「审查制度」常常暗示着內含不利的、不适当的和需要压制的秘密。(维基百科内容审核)