端传媒 | 人脸识别 + 社会信用系统,一场重塑人类行为的社会实验?

无处不在的监控摄像头、强大的人脸识别系统和先进的人工智能技术,正在将“权力是可见但又无法确知的”这种统治术发挥到极致。

商汤科技开发的软件扫描城市人行横道,行人和车辆信息会以表格形式显示。 摄:The Wall Street Journal

几天前,一则关于三名逃犯在张学友演唱会上先后落网的新闻,在中文社交媒体上引发热议。网友们一边调侃张学友是“警察安插在娱乐圈的卧底”,一边感叹人脸识别技术的威力。负责这次抓捕的嘉兴警方透露了行动过程:当嫌疑人经过装有人脸识别摄像的安检门几分钟后,警方系统就收到提示,疑似出现在逃人员,之后警方在看台的出入口蹲守,演唱会结束时成功将该名逃犯抓获,“当我们找到他的时候,他一脸茫然,没想到我们能在数万人中找到他。”

中国正在大规模普及人脸识别系统,演唱会上抓捕逃犯只是其应用的冰山一角。走在中国城市的大街上,你会发现摄像头无处不在——地铁口、火车站、马路口、商场、超市、体育馆、图书馆……你在公共场所的每一项行动,几乎都会被记录下来。庞大的信息数据不仅可以给人工智能提供丰富的学习素材,进而准确预测人类行动,同时,一些摄影头也关联着数据库,一旦你出现违规行为,很可能遭遇意想不到的后果。

今年3月,深圳交警就利用人脸识别系统,抓拍闯红灯的行人,并将其姓名、照片等个人信息公布在路口大屏幕和“行人过马路闯红灯曝光台”网站上。但公开曝光只是一小步,据深圳新闻网透露,这套系统抓拍的人脸信息将来会与社会信用系统等对接,“实现对闯红灯人员的教育惩戒,逐步培养公民综合素质,进而提升城市的形象。”

2014年,中国国务院就印发了一份《社会信用体系建设规划纲要》(2014—2020年),计划在2020年基本建立社会信用体系,届时每个公民、企业甚至政府机构都会获得信用评分,再配之以守信激励和失信惩戒机制,以达致“一处失信、处处受限”的效果。今年5月1日,这套酝酿多时的系统终于开始大规模应用,一旦被列入“失信人”名单,乘坐飞机和火车都会受到限制,据环球时报英文网近期披露,截至4月底,这套系统已经限制购买飞机票1114.1万人次,限制购买高铁车票425万人次。

无处不在的人脸识别系统和即将建成的社会信用系统,正在重塑中国人的行为模式。闯红灯、车厢内吸烟、欠债不还等行为可能会得到有效遏制,但与此同时,当局对于社会的管治也将空前强化——上访、维权、发表批评当权者的言论等行为,很可能将面对信用积分被扣的风险,而短时间被羁押,“处处受限”的处境可能更让人难以承受。

这一周,端传媒为你精心挑选了五篇《》的报导,探讨这场利用高科技手段重塑人类行为的社会实验。我们强烈推荐您 购买/升级成为“端传媒尊享会员”,以低于原价 70% 的价格,畅读端传媒和《华尔街日报》全部内容。

无处不在的人脸识别系统和即将建成的社会信用系统,正在重塑中国人的行为模式。摄:GREG BAKER/AFP/Getty Images

人脸识别打造的全景式监控

英国哲学家边沁(Jeremy Bentham)曾设想过一种“圆形监狱”的建筑风格,在这种设计中,狱警可以看到任何一间囚室的犯人,而犯人却因为逆光,无法看到监视人员。它充分体现了威权主义的统治技术:权力是可见的但又是无法确知的。

在现今中国,无处不在的监控摄像头、强大的人脸识别系统和先进的人工智能技术,正在将这种统治技术发挥到极致。

前不久,浙江杭州第十一中学就引入了一套“智慧课堂行为管理系统”,据报导,这套系统可实现无感“刷脸”考勤,同时还可以对课堂上学生的面部表情进行分析,并对异常行为实时反馈。校方介绍,这套系统每隔30秒扫描一次,针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。目前,这套系统仅对学校和老师开放,未来还计划向家长开放。老师监控学生、学校和家长监控老师,“智慧课堂行为管理系统”利用人脸识别技术和人工智能,完美实现了监控闭环,让学校变成了一所“圆形监狱”。

除了学校之外,人脸识别系统也在酒店、地铁等公共场所大规模普及。但与此同时,中国并没有就个人信息保护有任何专项立法,个人信息和隐私数据形同“裸奔”,在公权力面前更几乎“透明”,一个全景式的监控网络正在中国快速建成。

商汤科技集团有限公司联合创始人徐立接受华尔街日报采访时称,在重庆,商汤科技供应的两个系统去年投入使用后才40天,就识别了69名犯罪嫌疑人。

华尔街日报报导称,中国正在非常快速地运用新技术对公民进行监视,并且不会受到隐私问题担忧和舆论制约,有关部门在问题多发地区的检查站安装了虹膜扫描仪,并使用复杂的软件监督社交媒体上的言论。

端 x WSJ / 原文重点

中国政府希望到2020年建立起一个全国性的“社会信用”体系,按照每位公民在工作单位、公共场所和个人财务方面的表现进行打分。中国科技公司在这一过程中起到带头作用,他们通过手机大量收集人们日常生活相关数据,规模之大前所未见,同时还争相开发并推销供政府使用的监控系统。

其他国家也已经开始了这方面的试验……然而,在利用人脸识别影响人们行为方面,中国的目的有所不同。2015年,中国公安部和其他政府机构呼吁设立一个“全域覆盖、全网共享、全时可用、全程可控”的全国性视频监控网络,作为保证公共安全的必要手段。在这些机构发表的政策声明中,“人脸识别”被纳入用于完善监控网络的技术名单。

在中国,人脸识别摄像头正用于各种常规活动中,比如进入工作场所、使用ATM机提现、智能手机解锁等。北京一家肯德基餐厅可扫描顾客面孔判断性别和年龄,然后以此提供点餐建议。北京一个很受欢迎的公园则利用这种技术防止有人在公厕偷厕纸。这些公厕使用的是人脸扫描厕纸机,限制每人每9分钟只能抽取长度不超过60厘米的厕纸。

随着深度学习(使用软件模仿大脑神经元处理信息的方式)等人工智能技术的发展,人脸识别技术迎来了革命性进步。算法现在可以自行挑选并处理分辨模式,能更容易地探测并识别人脸的各种变化,比如转向一边、微笑、皱眉、或者因年龄发生改变等。中国政府已有大量数据,其中包括超过7亿互联网用户上传的照片以及一个集中管理的公民影像数据库──所有年满16岁的公民都必须持有政府发放的带照片的身份证。

中国还在研究更多使用人脸识别技术的地方,比如在警车车顶安装摄像头,在同一时间进行全方向扫描,识别警方追查的违法人员……建立全国性的人脸识别系统还需要很多年时间,但官方媒体报导称,中国的公安部门已经将这一技术用于拘捕。目前至少有五个城市在使用这一技术识别违反交通规则的行人。

节选自华尔街日报2017年7月5日报导《中国借助人脸识别技术建立全方位监控网络》

中国科技巨头的副业:充当政府耳目

根据“十三五规划”,中国在2020年之前,将推出100个新型智慧城市试点,形成一个“无处不在的体系”。

在官方表述中,“智慧城市”是指通过互联网、物联网、云计算、大数据和网格化管理等技术的创新应用,实现深层次信息共享和业务协同,提升城市规划和管理水平。一方面,这当然会使政府的服务更加高效、民众的生活更加便捷;但另一方面,也意味着个人的信息资料将无处不在地暴露在管理者的面前,就有专家质疑,智慧城市的真实目的,无非是一个庞大的监控项目。

这类诡异的城市计划带来的所谓益处实际上掩盖了真实目的,整个安全城市构想无非是一个庞大的监视项目。

人权观察驻香港研究员王松莲接受《华尔街日报》访问时称

在建设智慧城市的进程中,科技巨头是政府不可或缺的合作者。据华尔街日报报导,中国最大的几家科技公司在网络空间里公开担任政府的耳目,阿里巴巴、腾讯和百度等多家公司被要求帮助中国政府追查犯罪嫌疑人和封锁政治异见人士言论。这些公司的技术还用于打造城市监控系统。

端 x WSJ / 原文重点

中国政府正在建立全球最先进的高科技系统之一,其中包括监控摄像头、人脸识别技术以及对海量数据进行梳理的大型计算机系统,以此来监视国民动向。中国最大几家科技公司是主要协助者,他们在网络空间里公开担任政府的耳目。

华尔街日报对中国有关做法的研究显示,中国科技巨头的协助范围远超西方公司对本国政府的协助,而且几乎不可能质疑中国政府提出的要求。

实际上,一直受益于国家产业保护政策的中国互联网巨头几乎没有选择余地,只能合作。在中国,中共既控制司法系统,也控制企业的经营许可权。

节选自华尔街日报2017年12月4日报导《中国科技巨头的副业:做政府监视的“眼睛”》

数字列宁主义会到来吗?

端传媒曾经专访过政治学家韩博天(Sebastian Heilmann),他谈到了自己对中国未来最大的担忧——“数字列宁主义”(Digital Leninism)。由于拥抱互联网技术和大数据,中国政府和大科技公司达成了广泛共识和利益联盟,而中国的普通百姓,甚至警惕政府的知识分子,也因为享受唾手可得的便利而失去警惕。就此发展下去,会形成一个人类历史上前所未有的强大的数字极权,远远超出《一九八四》的寓言。

作家王力雄也在最近出版的一本小说《大典》中,想像了数字列宁主义到来后的中国,以及这样的中国是否还有出路。书中的中国领导人希望在任期届满后继续执政,利用反腐行动清除对手,而且国家的监控手段无处不在。但最后,这位领导人被精通技术的情报主管用形似蜜蜂的迷你无人机暗杀。

人们通常会认为当下由科技支撑的极权统治,达到了人类历史上前所未有的严密,任何异己都没有生长空间。是不是在这样的状况下,极权统治便没有了变化的可能,从此只能按照极权的逻辑发展?我认为不会的,有时极权体制内的一个很个别的环节,都有可能导致整体的崩坍。

王力雄

华尔街日报的一篇专栏文章中,作者袁莉就透过王力雄的小说,探讨了这种比“科幻更魔幻”的中国现实。文章结尾,袁莉写道:

笔者对王力雄表示,这些技术的复杂程度似乎还不如新疆已经在使用的技术。在新疆,政府已经部署了面部识别相机、智能手机读取器、DNA 收集和数据处理警务系统,以平息一些穆斯林武装分子不时发起的反政府暴力行动。

王力雄回应说,现实总是完胜小说,在中国尤其如此。

端 x WSJ / 原文重点

数字专政真的权力无边吗?这是作者王力雄在他的反乌托邦小说《大典》中试图回答的问题。这本书去年12月由台湾大块文化出版,书中描写了2021年的中国,所呈现的似乎正是目前的景象。书中的中国领导人希望在任期到期后继续掌权,利用反腐行动清除对手,而且监控无处不在。最后,这位领导人被精通技术的情报主管用形似蜜蜂的迷你无人机暗杀。

这本书聚焦一些中国人,尤其是像王力雄这样的自由派知识分子,试图捕捉他们在看待技术和中国专制政治体制时情绪上的转变。不到10年前,互联网和社交媒体仿佛是促进言论自由并形成更开放包容政治秩序的强大工具。但时至今日,技术悲观主义盛行。

节选自华尔街日报2018年3月5日报导《比科幻更魔幻:中国展现数字独裁未来世界》

:未来中国的预演?

如果说王力雄的小说只是想像,那么新疆的情况则是每天在发生的现实。据华尔街日报报导,在新疆的城市和乡村,随处可见高清摄像头、配备了人脸识别系统的安全检查站,以及携带着手持智能手机扫描设备的巡逻警察,中国已经将新疆变成一个测试尖端监视和社会控制方法的试验场。

除此以外,人权组织“人权观察”(Human Rights Watch)还称,当地政府正在部署一个新的警务平台,对收集到的数据进行处理,以便对潜在滋事者进行识别和预防性拘留。

靠近中国与吉尔吉斯斯坦边境的喀什噶尔,警察和当地人站在老城正门前。摄:GIULIA MARCHI FOR THE WALL STREET JOURNAL

端 x WSJ / 原文重点

政府采购文件和官方媒体将该警务平台称为“一体化联合作战平台”,该平台对上述各种信息的整合至关重要。人权观察称,这项技术由国有军工企业中国电子科技集团旗下的一家子公司供应。人权观察与一些在新疆的人士进行了交流,这些人曾看到当地官员使用该平台生成用于警方调查的人员名单。

一些现在或以前的新疆居民表示,过去一年,数千名维吾尔族人在未经审判的情况下被拘或送至新建的政治再教育中心。新疆有关部门尚未回复关于此类拘留的多个问题。

人权观察中国研究员王松莲称,数据收集范围之广显示出这场行动不只是为了根除恐怖分子。她说,确实存在恐怖主义担忧,但这只是范围更大的行动的一部分,目的是根除不符合政府想法的行为,政府认为维族人应该爱党爱国。

节选自华尔街日报2018年3月1日报导《人权组织称中国在新疆部署大数据警务预测平台》

华尔街日报记者也亲赴新疆,用12天的时间亲身体验监控如何渗透到日常生活的角落。记者写道:“几乎不可能不感受到政府毫不松懈的监控。市民和游客每天都必须通过警察的检查点,监控摄像头和机器扫描其身份证、面部、眼球,有时候是全身扫描。”

一位中国人权律师祝圣武表示,新疆的事态发展关系到全体中国人的命运,因为当局在不断吸取新疆实行高压统治的经验,并在中国东部地区实施。

端 x WSJ / 原文重点

星星峡是几个世纪前丝绸之路商人要经过的一道隘口。在那里,警察对进入车辆进行检查,并对旅客身份进行核实。警察拦下记者,要求下车并解释入疆目的。非汉族司机则大多被引导至电子安检门来扫描身份证和面部信息。前面更远处,在哈密这个拥有50万人口的城市入口,警察让记者等在一堆显示了附近实时监控画面的电视屏幕前,记下了记者的护照号码。在通往小镇的道路上,每隔几百英尺就装有监控摄像头,这些摄像头覆盖了街道的各个角落,大清真寺附近一家小面馆的顾客也在监控范围内。面馆的老板是回族穆斯林,她说,政府今年早些时候命令该地区所有的餐厅都装上摄像头,以防止恐怖袭击。

二道桥是乌鲁木齐的维族文化和商业中心,也是2009年种族暴乱的始发地,那场暴乱造成多人死亡。二道桥清真寺的正面入口目前处于关闭状态,国际大巴扎的大部分入口也被关闭。要去里面的游客必须经过一扇有很多警察看守的大门。新疆居民要接受面部扫描和身份证扫描。还有一排摄像头实时监控。

在陈全国治下,新疆警察数量大增,有数据显示,警察招聘广告出现指数式增长。据人权观察(Human Rights Watch)的发现和华尔街日报看到的政府采购文件,去年当地警察局开始订购具有3D面部成像功能的摄像头,以及DNA测序仪和语音模式分析系统。中国兴业证券今年4月份的研究显示,2017年第一季度,中国政府宣布在新疆进行的安全相关投资项目超过10亿美元,相比之下,2015年安全方面的全年总投资为2,700万美元。政府采购订单显示,数百万资金用在了所谓的统一战斗平台上,这是多个计算机系统,用于分析从警方和其他政府机构收集来的监控数据。

节选自华尔街日报2018年3月1日报导《新疆12天见闻:政府监控如何渗透日常角落》

以低于原价 70% 的价格,同时畅读端传媒和《华尔街日报》全部内容,立即升级成为“端传媒尊享会员”