个人工具
视图

内容审核

来自China Digital Space

Qi Yi讨论 | 贡献2021年1月26日 (二) 23:22的版本
跳转至: 导航, 搜索

就是内容审查。除了人工审查,中国审查部门和公司也开始使用高科技公司开发的人工智能工具,比如华为云提供的内容审核服务,华为云网站上有如下介绍:

内容审核服务基于深度学习技术对图像、视频、文本内容中的不合规信息进行自动检测,方便用户对不合规信息快速处理,帮助用户提高审核效率。

基于深度学习技术和大量的样本库,帮助客户快速准确进行违规内容检测,维护内容安全


“提供图文视频内容检测,覆盖涉黄、广告、涉暴和涉政等多种违规风险的内容检测,以及检测图像清晰度和构图质量等功能。”

应用场景

内容审核-图像

内容审核-图像有以下应用场景:

视频直播

在互动直播场景中,成千上万个房间并发直播,人工审核直播内容几乎不可能。基于图像审核能力,可对所有房间内容实时监控,识别可疑房间并进行预警。

场景优势如下:

准确率高:基于改进的深度学习算法,检测准确率高。

响应速度快:视频直播响应速度速度小于0.1秒。

在线商城

智能审核商家/用户上传图像,高效识别并预警不合规图片,防止涉黄、涉暴、政治敏感类图像发布,降低人工审核成本和业务违规风险。

场景优势如下:

准确率高:基于改进的深度学习算法,检测准确率高。

响应速度快:单张图像识别速度小于0.1秒。

网站论坛

不合规图片的识别和处理是用户原创内容(UGC)类网站的重点工作,基于内容审核,可以识别并预警用户上传的不合规图片,帮助客户快速定位处理,降低业务违规风险。

场景优势如下:

准确率高:基于改进的深度学习算法,检测准确率高。

响应速度快:单张图像识别速度小于0.1秒。

内容审核-文本

内容审核-文本有以下应用场景:

电商评论筛查

审核电商网站产品评论,智能识别有色情、涉政、灌水等违规评论,保证良好用户体验。

场景优势如下:

准确率高:基于改进的深度学习算法,检测准确率高。

响应速度快:响应速度小于0.1秒。

注册昵称审核

对网站的用户注册信息进行智能审核,过滤包含广告、反动、色情等内容的用户昵称。

场景优势如下:

准确率高:基于改进的深度学习算法,检测准确率高。

响应速度快:响应速度小于0.1秒。

媒资内容审核

自动识别媒资中可能存在的涉政、违禁品等信息,避免已发布的文章存在违规风险。

场景优势如下:

快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。

处理速度快:处理速度小于0.1秒。

弹幕审核

实时检测弹幕文本、保证网络直播间内容安全,降低业务违规风险。

场景优势如下:

海量词库:内置海量词库,支持各种匹配规则。

快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。

聊天内容实时审核

实时检测游戏等文本聊天内容中可能出现的违规信息,避免辱骂、色情、反动等文本内容,净化网络环境。

场景优势如下:

海量词库:内置海量词库,支持各种匹配规则。

响应速度快:响应速度小于0.1秒

审查制度(英語:censorship),又称檢閱制度,通常指某些政府機構、新闻媒体和其他控制机构对被认为是有害的、敏感的、或是不合适的演讲及其他公共言论的抑制。典型的情况是,审查制度是由政府、宗教团体或者大众传媒施行的社會控制手段,也可能存在其他的审查制度施行方式。如果控制在适当的范围内,对于相关国家机密、商业秘密、知识产权,以及享有特权的「律师-代理人」之间的交流信息控制,則不在审查制度定义范围内。因此,「审查制度」常常暗示着內含不利的、不适当的和需要压制的秘密。(维基百科内容审核)

中国数字时代相关文章

中国数字时代上更多和【关键词】相关的文章

中国数字空间相关链接

参考资料