3月19日,新华社撰文称“国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉‘深度伪造’技术的互联网新技术新应用安全评估工作,并对近期未履行安全评估程序的11家企业进行约谈”。其中语音社交软件和涉“深度伪造”技术分别指最近在中国被下架的热门应用Clubhouse和Avatarify。针对Clubhouse,文中两次提到其“存在使用门槛低、内容隐匿性强等特点”,并要求在审查机制上实事“事前规制”而非事后追责。文中提到约谈原因为2018年11月网信办、公安部发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》,或为此规定的正式落地,要求所有互联网产品的功能需预先具备完善的审查系统才可上线。此前Clubhouse于2月8日在中国被下架和屏蔽,其中国模仿者映客“对话吧”于2月11日上线后数日被下架。“涉深度伪造”的Avatarify,又称“蚂蚁呀嘿”,因被发现有网民恶搞中国领导人于3月2日被下架。

相关阅读

新华社原文

新华社北京3月19日电 题:给互联网新技术新应用提前划“红线”——国家网信办、公安部约谈11家企业传递监管新信号

新华社记者 王思北、颜之宏

近日,国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作,并对近期未履行安全评估程序的11家企业进行约谈,引发社会关注。

专家认为,不同于以往的事后监管,此次安全评估工作和约谈给有关的互联网新技术新应用提前划“红线”,“事前规制”有利于企业及时发现安全隐患,整改安全问题,切实履行信息内容安全主体责任,维护网络传播秩序,营造良好网络生态。

根据国家网信办发布的通报,此次安全评估工作主要针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用,旨在加强对具有舆论属性或社会动员能力的互联网信息服务和相关新技术新应用的安全管理,规范互联网信息服务活动,切实维护国家安全、社会秩序和公共利益。

2018年11月,国家网信办和公安部联合发布《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。根据这一规定,出现具有舆论属性或社会动员能力的信息服务上线,或者信息服务增设相关功能;使用新技术新应用,使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更;用户规模显著增加等情形,互联网信息服务提供者应当自行开展安全评估,对评估结果负责,并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况,认为有必要的,应当依据各自职责对互联网信息服务提供者开展现场检查。

针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用,国家网信办、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等11家企业,督促其按照网络安全法、《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求,认真开展安全评估,完善风险防控机制和措施,并对安全评估中发现的安全隐患及时采取有效整改措施,切实履行企业信息内容安全主体责任。

记者了解到,近几年,一批如唱歌类、一对一语音聊天室等方式的语音社交类软件开始涌现,成为不少年轻群体的社交新选择。一方面,语音社交拓展了人们的社交渠道,增强了部分人群的连接效率,但同时也存在使用门槛低、内容隐匿性强等特点。

而“深度伪造”技术则利用机器的深度学习,实现图像、声音、视频的篡改、伪造和自动生成,产生高度逼真且难以甄别的效果。

“‘深度伪造’技术如果滥用,会产生严重后果。”中国信息安全研究院副院长左晓栋举例说,此前国外一些人利用换脸技术伪造艺人的影像资料,就引发过网友对该项技术的热议。

2019年12月,国家网信办发布《网络信息内容生态治理规定》,明确网络信息内容服务使用者和生产者、平台不得开展网络暴力、人肉搜索、深度伪造、流量造假、操纵账号等违法活动。

左晓栋说,此次有关部门约谈相关企业,一方面是为了给部分平台上存在涉“深度伪造”技术、存在的安全隐患敲警钟,另一方面也要求行业内的相关企业依法依规保护用户个人信息和名誉权,对于可能涉嫌违法犯罪的相关线索,要及时上报有关监管部门。

专家认为,语音社交软件由于其使用门槛低、内容隐匿性强等特点,也给监管造成了较大难度。因此,在推动这一新兴行业发展的同时,也要吸取以往在短视频、直播平台治理方面的经验教训,对语音社交产品进行前瞻性监管。

“这次约谈释放了一个比较明确的信号,就是在新技术新应用尚未在国内造成较大影响的时候,监管部门提前介入,给企业打预防针。”资深互联网行业专家尹生说。他建议,在对某项技术进行“事前规制”的同时,相关部门也应着力提升监管技术,用技术管住技术,以此来提高监管实效和质量。

据悉,下一步,国家网信办、公安部将继续指导各地网信部门和公安机关加大巡查检查力度,督促属地互联网企业严格遵守相关法律法规,积极主动履行安全管理义务,切实履行企业主体责任,共同维护网络传播秩序,营造良好网络生态。

官方文件