个人工具
视图

内容审核

来自China Digital Space

Eric Liu讨论 | 贡献2021年6月18日 (五) 01:44的版本
跳转至: 导航, 搜索

就是内容审查。除了人工审查,中国审查部门和公司也开始使用高科技公司开发的人工智能工具,比如华为云提供的内容审核服务,华为云网站上有如下介绍:

”内容审核服务基于深度学习技术对图像、视频、文本内容中的不合规信息进行自动检测,方便用户对不合规信息快速处理,帮助用户提高审核效率。“ “基于深度学习技术和大量的样本库,帮助客户快速准确进行违规内容检测,维护内容安全。” “提供图文视频内容检测,覆盖涉黄、广告、涉暴和涉政等多种违规风险的内容检测。”

该技术有广泛应用,比如

  • 视频直播: "在互动直播场景中,成千上万个房间并发直播,人工审核直播内容几乎不可能。基于图像审核能力,可对所有房间内容实时监控,识别可疑房间并进行预警。"
  • 在线商城:"智能审核商家/用户上传图像,高效识别并预警不合规图片,防止涉黄、涉暴、政治敏感类图像发布,降低人工审核成本和业务违规风险。"
  • 网站论坛:“不合规图片的识别和处理是用户原创内容(UGC)类网站的重点工作,基于内容审核,可以识别并预警用户上传的不合规图片,帮助客户快速定位处理,降低业务违规风险。”
  • 电商评论筛查: “审核电商网站产品评论,智能识别有色情、涉政、灌水等违规评论”。
  • 注册昵称审核: “对网站的用户注册信息进行智能审核,过滤包含广告、反动、色情等内容的用户昵称”。
  • 媒资内容审核: “自动识别媒资中可能存在的涉政、违禁品等信息,避免已发布的文章存在违规风险。”
  • 弹幕审核: "实时检测弹幕文本、保证网络直播间内容安全,降低业务违规风险。"
  • 聊天内容实时审核: "实时检测游戏等文本聊天内容中可能出现的违规信息,避免辱骂、色情、反动等文本内容,净化网络环境。"

该产品特征还有:

  • 海量词库:内置海量词库,支持各种匹配规则。
  • 快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。
  • 响应速度快:响应速度小于0.1秒

审查制度(英語:censorship),又称檢閱制度,通常指某些政府機構、新闻媒体和其他控制机构对被认为是有害的、敏感的、或是不合适的演讲及其他公共言论的抑制。典型的情况是,审查制度是由政府、宗教团体或者大众传媒施行的社會控制手段,也可能存在其他的审查制度施行方式。如果控制在适当的范围内,对于相关国家机密、商业秘密、知识产权,以及享有特权的「律师-代理人」之间的交流信息控制,則不在审查制度定义范围内。因此,「审查制度」常常暗示着內含不利的、不适当的和需要压制的秘密。(维基百科内容审核)

中国数字时代相关文章

中国数字时代上更多和【关键词】相关的文章

中国数字空间相关链接

参考资料