数字威权主义

2023年6月13日，周鸿祎在360智脑大模型应用发布会讲解其AI审查产品。图片显示360公司开发了一个基于人工智能技术的敏感内容“多级过滤和审核体系”。^[1]

作为技术驱动的专制主义——数字威权主义（Digital Authoritarianism）特指专制政府利用信息技术，不仅压迫和控制公民权利，而且通过监视、镇压、操纵、审查和提供服务来塑造其公民的行为，以维护和扩大其政治控制的新兴治理模式。其极端形式为国家全方位控制公民的数字极权主义。

参见云极权、网格化管理

中国是数字威权主义的主要实践者。中国共产党一直在通过以下方式在中国境内培育数字威权主义：

宣传和审查制度

中共出于其自身的利益考量和统治需要，会在互联网上封禁相关话题或某些特定信息，既是出于用尽量小的成本维持统治秩序的稳定以助于政府政策法令之实行的需要，更是为了塑造统治的合法性以制造“党国一体”的国家认同——让国人潜移默化地同意这个一党专政的体制。国家机器不断通过塑造公共话语来增强政权的合法性，并动员自己的支持基础和压制任何政治和社会的抗议运动。

中共制定法律和行政条例，加强党对信息技术工具的操纵；
在中央网信办督导下各大社交平台公司使用技术和人力手段的删帖、封号；
国家防火墙不断升级对境外信息和翻墙技术服务的封锁；
中国公安，司法等国家暴力机构不断监控，抓捕和恐吓在网上发言或者传播信息的民众；
官方媒体与各级各地的大学及形形色色的公关公司联手开展的”舆情研究“，为各级政府提供舆论控制的相应情报和服务；
共青团和各级政府在网上组织了大量的“五毛”、“青年网络文明志愿者”
将人工智能技术用于删帖和内容审查。
通过计算宣传-使用算法，自动化和人为管理来故意散布误导性信息-进一步增强其宣传机器的有效性。

大规模数字监控

新一代的信息技术，在监视、控制、操纵和迫使人们服从等方面的力量非常大，在诸如“面部识别”，“物联网”和“人工智能”等新兴技术的辅助下，中共正在国内外发展和扩大大规模监视，并将这些技术部署为实现对民众管辖，控制，操纵的手段.

这些“治理模式”包括：

党管数据

许多人和公司都可以通过合法途径访问中国强制性身份证系统的基础数据。与警察有联系的公司使用身份证上的面孔来训练面部识别系统。该卡系统还跟踪指纹，面部，种族和年龄。这些技术已集成到“智能”和“安全”的城市基础设施中。
公民从社交媒体行为到购买习惯的在线活动没有隐私保障，这些数据被国家和大型科技公司用来加强对个人信息的大规模检索，收集和处理。
国有铁路公司，航空公司和主要的电信供应商都要求客户出示政府发行的身份证以购买SIM卡或票证，从而对经过某些地区的个人进行异常精确的大规模监视。
政府、社会及企业分别构建云数据管理子中心，以点带面，建成基于人、地、事、物、组织的知识图谱，最终让数据连成一张网。建立统一规范的数据管理制度来打破多部门、多机构间“数据信息孤岛”，建立统一的数据标准，通过API接口等方式，推广数据交换共享的“普通话”。

精细化社会操纵

基层网格化管理：中国的基层网格是党国维稳机器的“减压阀”。在物联网、区块链的“加持下”，“网格化管理”正在使用大数据分析技术，由被动处置型向主动发现型转变。

中国社会信用体系（SCS）是尝试使用有关公民行为的大数据系统对公民进行国家支持的治理，并试图通过对公民进行评级并使其可公开获得“改善的意愿”。这些等级将被用作公民获得住房，消费信贷甚至汽车和自行车租赁等领域的公共服务，工作和市场的基础。此外，分数的公开性以及对最高分数和最低分数的强调被认为有助于该技术设备（technological apparatus）的道德化方面。

“智能安防”：使用摄像头、面部识别、全球定位系统追踪，大规模监控个人。中国已经成为世界上最大的安全和监视技术市场。2020年，中国安装近3亿台摄像机。目前中国正在将人脸识别与庞大的监控摄像机网络相结合，政府掌握每个人的档案，可以根据之前的记录来预测谁更有可能犯罪从而加强监控。

社情民意大数据分析平台：通过数据挖掘技术，分析、总结当地社会治理面临的重难点问题，能更好地实现政府决策的科学化、服务的高效化精准化。如浙江“无证明城市”建设、上海“一网通办”和“一网统管”等。

“城市大脑”：汇集教育、医疗、旅游、交通、公共安全等领域的数据，形成统一的城市大数据平台，进而在这个平台上构建智慧城市的指挥控制中心，政府部门通过分析城市大脑的运行态势做集约化的管理和指挥调度，包括城市管理、生态环保、治安防控及政务服务等。

新冠疫情以来发展的数字“防疫工具”

疫情期间的“无人机防疫”^[2]

新冠肺炎疫情暴发以来，许多地方基于三大运营商数据的人口流动大数据分析，对驻留、到访重点区域人群进行流动分析和大数据画像，为有关政府部门提供了更为及时、精准的决策支撑。在移动互联网与智能手机广泛普及的时代，中国政府对社会的管理开始转向以二维码为核心的数字治理。因新冠防疫抗疫而起的健康码,无疑是一次全面而彻底的数字治理实践。健康码的易用性、强制性与可操作性，在无孔不入的数字防疫措施部署过程中，无论男女老少，所有人只要有出行需求，就有使用健康码的必要。通过语音、刷脸、点击屏幕等交互，只需要能拼写自己的名字和身份证号码，就可以快捷地接入一个庞大的数字治理网络。^[3]

在一个户籍制度渊源流长的国家，相比于之前的任何政府颁发的个人证照比如身份证、暂住证，健康码省却了诸如盖章、签字之类的一系列跟门槛极高的政府机构打交道的工本费，一切都是本人自主申请完成，却在实际上成为了一种游离于公共权力触达半径之外，但同时又具有影响公共利益、具有公共约束力的管制手段。

新疆：以“反恐”为名部署监控技术

中国对新疆的监控不同于国内其他地区，所投入的资源特别庞大。政府指派一百万雇员定期到新疆突厥裔穆斯林家中“作客”留宿，要求他们举报有关宗教或反常思想的蛛丝马迹。当局并在新疆增聘数以千计公安人员，在全区增设数千个警察派出所和检查哨，大幅提高公安预算。

北京接着利用最新技术采集和分析有关当地穆斯林的信息。新疆部分检查站配有名为“数据门”的特殊装备，可在路人不知不觉中汲取他们手机和其他电子设备中的身分信息。可供机器读取的二维码（官员以手机应用程序即可扫描）被铭刻在刀具上、贴在家家户户的大门口，以供当局迅速查找人员的住址或私有物品。为了追踪、监视和特征化突厥裔穆斯林，特工人员运用人面和车牌辨识等人工智能技术，与覆盖全区和全国的监控摄像头相连结。此外，当局还采集生物识别数据──包括语音样本、虹膜扫描和DNA──存储在可供检索的数据库。

中国当局已部署一种新颖的创新系统，可以汇整、分类和分析如此海量的数据。我们可以通过警察和其他官员用来联系一体化联合作战平台（新疆当局的主要警务平台之一）的一种手机APP，窥见该系统的内部运作。

一体化平台可以根据APP所汇集的数据，标示出被认定具有潜在威胁性的人员，并且向有关官员推送通知。嫌疑人或者被指定为进一步调查的目标，或者将受到拘留再教育。通过对这个APP进行“逆向工程”──查看其源代码──人权观察得以深入内部，查看其收集的大量不同类型信息。其情报收集的广泛程度，有助于解释新疆居民为何说警察向他们提出一大堆令人摸不着脑袋的问题。

这些信息的范围从个人基本资料──例如血型、身高──到他们的“宗教特质”和政治面貌，包括某人是否换新电话号码、给清真寺捐钱、或擅自宣讲古兰经。该平台还可评估某人是否不常“与邻居来往”或是“经常不走前门进出”。如果某支手机突然“离线”，系统会通知附近警员前往调查。所有这些信息都被输入一体化联合作战平台的中央系统，和每个人的居民身份证号码相关联。

有时候，警员为了调查必须检查居民的手机。来自新疆的一名突厥裔穆斯林告诉人权观察，他有一次在路上被警察拦下临检：“几个特警过来叫我交出手机。我交了，他们把一个东西插上我的手机。” 几天后，他们夫妻又在加油站遇上拦检，她太太的手机也受到同样检查。该平台将51种软件和通讯系统列为“可疑”，包括虚拟专用网络（VPN）和端到端加密软件，例如WhatsApp、Viber和Telegram等等。

该平台不意外地对人际关系特别感兴趣：某可疑人员是否与最近更换手机号码的某人有关系？他是否曾与当局认为可疑的人员一同出行？他是否和境外人士接触？

监控的范围之广，足以令无法挑战制度的新疆居民胆战心惊。“有个地方我晚上常去，从来没人察觉，但那个APP竟然知道。这时我才真的感到害怕，” 一位维吾尔穆斯林看到我们做逆向工程研究的APP时这么说，他在新疆时很熟悉这个装置。有一次，他将一个友人的身份证号码输入这种APP，竟跳出“立即逮捕”的讯号，把他惊呆了。

这个平台与新疆地区的无数检查站连动，所以每当有人员经过，就可能因为电脑系统（或其编程人员）认定他们的“可靠”程度而被限制行动。有些前居民表示，他们曾在检查站被拦下接受警察讯问，只因为他们有家属被关在再教育营。任何人若离开原登记居住地点前往别处，也会被这个系统拦查。以上种种措施的目的，就是在新疆居民身上施加一系列的数字藩篱。

大规模监控的实施并非仅限于新疆。中国公安机关正在研究并将同样的大规模监控系统普及全国各地。举例而言，人权观察记录到一种名为“警务云”的大数据警务平台已在使用中，它可以收集并整合人们的各项个人数据──从超市会员资料到就医纪录。^[4]

对外输出

中国在公布《中国制造2025》和《网络超级大国战略》后，已经打造了数十家科技独角兽，试图在监控和面部识别方面对联合国国际电信联盟（ United Nations International Telecommunication Union）施加影响。

中国通过“数字丝绸之路”（DSR）和“一带一路”倡议（BRI），输出数字技术，建立其在人工智能和大数据领域的优势霸权地位，同时传播其数字威权主义模式和机制。中国通过开发和实施一套新的技术和做法来挑战民主治理的核心原则，挑战开放、安全和可互通的网络空间的本质，并进而挑战国际社会的基本原则。

中国数字时代

中国数字空间

参考资料

[1] 【404帖子】卢旭宇｜周鸿祎公布了360人工智能的敏感审核体系

[2] 审丑时代｜魔都开创了“无人机防疫”

[3] 数旗智酷｜健康码：数字巫术与色彩政治

[4] 数字利维坦：中国监控国家机器的兴起

[1]

[2]

[3]

[4]

个人工具

视图

数字威权主义

来自China Digital Space