本文来自微信公众号：理想国imaginist （ID：lixiangguo2013），节选自[美]杰米·萨斯坎德《算法的力量》，摘编排版：熊Mur，题图来自：《她（2013）》
继微博评论区会显示用户所属的IP地址之后，微信、小红书等社交媒体也跟进了这一功能。在此之前，某些时刻你一定也有被“盯上”的感觉：
比如随口一说的商品，下一秒就出现在了你的购物首页里；打给你诈骗电话的人能够轻易说出你的名字、毕业学校、身份证号；无处不在的大数据，你的行踪已不再私密……
这些都是数字生活中难以避免的“审查”，这里的审查不只限于视觉观察，还包括任何收集、存储和处理有关某人的信息的方式。
有人说在数字时代生活好比“裸奔”，人们的所作所为越来越难以逃避技术的关注，而完成审查的通常是机器而不是人类，智能手机、可穿戴设备和植入式设备等等，都是审查的工具。
你的每一次消费记录、健康数据、个人信息都会被捕捉记录，哪怕过了数十年，依然可以被考古出来。2007年，谷歌承认它保存了用户输入的每条搜索记录和他们随后点击的每一个搜索结果，每天有超过10亿人向谷歌输入超过35亿次的搜索查询。那些拥有技术的公司、机构拥有了数据即拥有了权力，控制这些技术的人将越来越多地影响乃至决定我们的生活。
数字生活世界将带来人类相互监督能力的变革，它在五个方面与过去不同：
可解读
耶鲁大学政治学教授詹姆斯·斯科特（James C. Scott）在《国家的视角》（Seeing Like a State，1998）一书中提出，任何改变人类社会结构的重要努力——他称之为“大规模社会工程”——都取决于社会之于统治者在多大程度上是“可读的”。
斯科特写道：“我们来想象一个国家，如果它没有可靠的手段来了解其人口数量和分布，无法衡量其财富，也不能用地图形式标示其土地、资源和定居点，那么这个国家对社会的干预就必然是低劣的。”相反，一个拥有强大手段来完成前述事项的国家，其对社会的干预就可以说是广泛而深刻的。
在数字生活世界中，人类的生活将是唯一可被解读的，因此也是唯一易受权力染指的。我们正在进入一个日益量化的社会，越来越多的社会活动将被捕获并作为信息记录下来，然后被机器分类、存储和处理。我们越来越多的行动、表达、动作、关系、情感和信仰将以永久或半永久的形式记录下来。
在过去的几年中，机器收集的有关人类自身的数据量激增，主要是因为更多的人类活动以数字媒体技术为中介来进行。在过去的五十年，数字存储的成本每两年左右就能减少一半，其密度却能增加5000万倍。同时，数字信息可被复制数百万次，几乎没有任何成本，其质量也不会有什么损耗，功能日益强大的系统能让我们更好地处理自己存储的数据。
其结果是，没过多久，我们受到的审查将急剧增加。我们去哪里、做什么、买什么、写什么、吃什么、阅读什么、何时何处睡觉、说什么、知道什么、喜欢什么和如何工作，以及我们的计划和野心，都将成为审查的主题，被机器捕获并处理。
这不是社会第一次从根本上变得更易于解读，因而也更容易受到控制，但是，这一次的变化在规模上是前所未有的。斯科特在《国家的视角》中引用了一些过去的例子，它们有助于我们更好地理解未来。
首先思考一下城市的概念。你在观赏一幅中世纪定居点的地图时，映入眼帘的也许只是一些混乱的街巷，没有固定的街道命名或编号系统。城市布局似乎是有机地发展起来的，并没有什么固定的计划。如此令人摸不着头脑的城市景观，导致外来的精英，如税吏、征兵人员或治安调查员等，很难去控制一个自己不熟悉的城市。他们若想寻找当地的人员和地址，就需要有愿意帮助他们的当地人。
于是，想要躲避权力触角的城市人就会发现，隐藏或消失在这样的城市里，简直易如反掌。这样的定居点是神秘的，因为它不容易被外来精英所把握、总结或简化。
拿这种设计跟费城、芝加哥和纽约等现代城市来比较，现代城市是按照单一设计建造的，又长又直的街道呈网格状排列，并以直角相交。对全知全能的政权来说，现代城市是很容易立即就了解的——即便一个对此地不熟悉的政权也不难做到。在曼哈顿，为了更容易定位，街道被连续编号。
重要的是，当你俯瞰这些城市时，就像地方长官注视这些城市的鸟瞰图，它们是最容易理解的。导航和搜索在以这种方式组织起来的定居点是很容易的，在处理其人口的识别、征税、征召、逮捕和其他问题时也是如此。
从混乱的中世纪城市到有整体规划的现代都市的演变，其意义固然重大，但与下一阶段的城市进化比起来就相形见绌了：嵌入密集传感器网络的“智慧城市”，允许当局跟踪一系列眼花缭乱的变量，从噪声、温度、光照、空气中的有毒气体和基础设施的使用，到车辆和人的运动、位置和活动。
未来，科技将使当局能够通过详细记录了城市居民活动的监控和反馈系统来监控重大事件和突发事件。即使与过去几个世纪的电网城市相比，智能城市的可解读性也将达到无法想象的程度。在智能城市里，几乎没有什么公共活动是无法追踪的。
现在想想这些城市的居民的可解读性。如果你不知道他们是谁，就很难管理他们。我们大多数人都认为，姓氏被用作识别方式是理所当然的，但斯科特观察到，直到14世纪，大多数普通人都没有固定的“姓”。一个“名”通常就足以在当地被识别，如果需要更多标识，可以再加上职业（Smith、Baker和Taylor）、住处（Hill和Wood）、个人特征（Strong、Short和Small），或者父亲的名字（Robertson）。
斯科特邀请我们一同设想，如果你是去一个村子收税的税吏，结果这里有90%的男人都叫这六个名字：约翰、威廉、罗伯特、理查德、亨利和托马斯，你该怎么办？
姓氏的引入几乎是普遍的国家要求，最早可追溯到公元前4世纪，秦王朝将姓氏强加于其子民头上。这样做的目的是让个人变得更加可捉摸，而不是无差别的群体，这样官员们就可以更好地追踪他们的财产所有权，规范继承权，防止犯罪，征收税款，强迫劳动和征召士兵。几千年后，我们仍然以姓氏作为可解读性的工具。
在数字生活世界中，解读个人将比以前更容易。身份的验证将不再关乎姓名、数字这类外化的称谓，而是直接提取我们的身体信息，可以通过面部、指纹、视网膜、虹膜或步态等生物特征的细节来识别每一个人。在无法通过生物识别技术识别我们的地方，依据由我们的移动、购物行为和同事伙伴排出的“数字尾气”（Digital Exhaust），也能很容易地发现我们的动向。
例如，想象一下，一个实行种族灭绝的政府试图在某一特定地区围捕某一宗教或种族的全部成员，那么他们留下的数据会立即泄露其身份：购买记录、社交媒体上的帖子、相熟的伙伴、智能手机的移动以及通话记录等，这些都能显示出他们属于被追捕的社会群体。
除了拥有丰富的数据，数字生活世界还将包含能以前所未有的效率处理这些数据的机器。研究人员通过人们在Facebook上点的“赞”，猜出某人性取向的准确率为88%，猜出其种族的概率为95%，有85%的可能猜出其政党归属。取得这个成果只是用当前的技术处理了全部可用数据中的一小部分。试想一下，如果用具有超级性能的系统来处理每个人所有生命活动产生的数据，它会被拿来做什么呢？
然而，我们必须要明白，个人的可解读性在未来将不仅用于确认我们的身份，发现我们的行踪，它事关理解我们的生活、欲望、计划和目的。基于这个原因，数字系统将不仅止步于识别有血有肉的个体人类。通常，它们更关注从人们身上收集来的数据说明了人们的什么信息。为了这个目的，不存在稳定的、准确定义的“我”或“你”。
正如约翰·切尼·利波尔德（John Cheney-Lippold）在《我们是数据》（We Are Data，2017）中的观察，当涉及对人类生活的处理和分类时，算法看到的是一个不断变化和流动的数据集，算法为了解决它关心的问题，就不断地解构、重新编译和分析这些数据集。
一种预测性警务算法会在查看关于我的数据后发问：这个人有可能犯罪吗？抵押贷款算法则会从另一个角度调查我的数据：这是一个有偿付能力的人吗？美国国家安全局的算法可能会检验我的数据是否符合他们对“恐怖分子”的预期。营销算法可能会注意到我是一个20多岁的千禧一代男性，于是相应地给我推送牛油果和胡须护理油广告。算法根据自己的目的来判断它们想看什么。
那些仔细审视数字生活世界的人不会在意我们有没有固定的身份，或者我们观念中的那种“真实”的自我。相反，我们会被“数百家不同的公司和机构以数千种竞争的方式识别出来”，“在一天内被审查一千遍”。
回想一下尤瓦尔·赫拉利（著有《人类简史》）的观察，即写作一开始是一种反映现实的方式，但它最终成为一种重塑现实的有力途径：出于官僚主义的目的，书写在表格上的内容比“真相”更重要。在数字生活的世界里，出于实际目的，无论我们是否乐意，我们都将成为被算法描述的人。代码每一次做出关于我们的决定，都是一个“新生成的算法真相，它不关心这个真相是否真实，但更介意它是不是一个有效的分类度量标准”。
大多数情况下，我们至多在事后才知道自己被下了何种结论，就像当一个“有针对性”的广告出现在网上时，我们会感到吃惊：“他们为什么会认为我对那个东西感兴趣？”算法眼中的我们，有时与我们对自己的认知大相径庭。
过去，人类生活的不可解读性被视为一股对抗强权的力量。据说，没有人能够完全理解人类社会的复杂性，因此也没有人能够完全控制它。而数字生活世界中的管理者，无论是人还是机器，都可以随时审查社会的方方面面。
私密
2015年11月，在阿肯色州的本顿维尔，维克多·柯林斯的尸体在詹姆斯·贝茨家的热水浴缸里被发现。贝茨被指控谋杀了柯林斯。这场谋杀没有任何目击证人，据说是在贝茨的家中秘密发生的。案件调查人员对贝茨的“智能家居”设备非常感兴趣。例如，他的智能水表显示，在柯林斯死亡当晚的凌晨1点到3点，曾有530升的用水量。侦探们推断，这么大量的水可能是为了冲洗掉庭院里的证据。
更有趣的是，贝茨有一台“亚马逊回声”（Amazon Echo），这是一种个人助理系统，可以听到并执行人类主人的简单语音指令，比如“点个比萨饼”或“关灯”。当“回声”处于激活状态时，就会监听并记录所有对它说的话。警察，当然，还有整个国家都对此感到好奇，也许这个装置“听到”了这起所谓的谋杀案的发生。侦探们带走了“回声”，试图从中提取案发当晚的数据。几个月来，似乎“回声”成了审判詹姆斯·贝茨谋杀案的决定性证人。然而，对他的指控最终却被撤销了。
维克多·柯林斯死后一个月，康妮·达巴特在康涅狄格州郊区家中的地下室被枪杀。当警察赶到时，她的丈夫理查德告诉他们，一个蒙面袭击者闯入并袭击了他，将他绑在椅子上后还用刀砍伤了他，随后又开枪射杀了他的妻子。但达巴特夫人的Fitbit（一种为健康目的收集数据的运动设备）却讲述了不同的故事。显然，在达巴特先生声称其妻被枪杀的时候，她已经在房子周围移动了370米。理查德·达巴特将因谋杀妻子而受审。
一名马拉松奖牌得主被曝光，因其Garmin运动设备显示她并没有跑完21千米。一名房屋被烧毁的男子被指控纵火和骗保，因为从他的心脏起搏器上收集的数据显示，其心脏活动与其疯狂奔向安全地带的行动并不一致。
设备对我们的窃听程度远远超过我们的理解能力。
在数字生活世界里，家也不一定是躲避审查的避难所，家用技术将能够收集主人在最私密空间里的信息。而那些悄无声息地记录我们生活的便携式技术——智能手机、可穿戴设备和植入式设备——对我们每时每刻所处的位置并不感兴趣。
不管我们在不在家，摄像机都是一样的。如果增强现实和虚拟现实技术取代了“玻璃平板”计算模式，设备制造商将真正做到“通过你的眼睛看世界”。随之而来的，至少在这种差别可以在空间上被划分为“家里/外”的情况下，我们也许会变得不太考虑私域和公域之间的差别。
2017年，一家振动按摩器制造商同意向客户支付赔偿金，因为他们的智能振动按摩器在用户不知情的情况下跟踪用户的使用情况，并将设备的温度和振动强度的细节反馈给制造商。
执法官员毫不掩饰他们将物联网作为信息收集手段的兴趣。美国国家情报总监说：在未来，情报机构可能会利用（物联网）进行身份识别、监视、监控、位置跟踪和有针对性的征兵，获取网络接入或用户凭证。
不朽
遗忘发挥着重要的社交功能，有时，为了改变和前进，我们需要抛开过去的失败、遗憾、尴尬和偏见。我们试着放下别人对我们犯下的错误，并希望别人也能忘记我们的过错。对于我们已努力让自己忘却的失败，我们不愿意（讨厌）别人再提起。
正如维克多·迈尔·舍恩伯格和肯尼斯·库克耶所说，在人类历史的大多数时期，遗忘是常态，记住才是例外。人类所知、所言、所做和所想中的绝大多数从未被记录下来，它们流失在时间的长河里。然而，在数字生活世界里，情况恰恰相反：人们记住了很多东西，却很少会忘记。
数字形式的信息比以往任何形式的信息都更容易储存和复制，速度越来越快，且保存这些信息的动机一直都存在。数据是一种有价值的商品，其价值只会随着时间的推移而增长。
在2007年，谷歌承认它保存了用户输入的每条搜索记录和他们随后点击的每一个搜索结果。每当你问了一个愚蠢的问题，查询了一个颇为尴尬的医学症状，或者漫不经心地输入了你迷人同事的名字，谷歌就会存储你搜索的详细信息。尽管九个月后这些查询会被匿名化，但它仍在继续这样做。
可以想见，谷歌所有过去和现在的搜索数据库为它提供了非同寻常的审查手段。每天有超过10亿人向谷歌输入超过35亿次的搜索查询（更不用说它从超过10亿的Gmail账户中获取的数据了）。相比过去任何统治者或精神领袖，谷歌拥有一个更加清晰的窗口，可以走进人类的内心生活。
现在考虑一下在数字生活世界中收集到的关于你的所有其他信息，这些信息可能会以永久或半永久的形式保存下来，几十年后还可以被索引、恢复、搜索和分析。现在说这话还早，但公司已经收集并出售了数以百万计的普通人的档案，这些档案包含了上千个个人数据点，包括社会保险、健康、教育、法庭、犯罪和财产等细节，以及从你的“数字尾气”中收集到的任何其他信息。用威廉·福克纳（William Faulkner）的话来说，在未来，“过去永不消逝。过去甚至还没有过去”。
这就是为什么一些政客支持18岁以下的年轻人拥有删除他们社交媒体平台上令人难堪的内容的权利。这也是为什么欧盟对如何处理个人数据制定了严格的、约束性强的法律，而随着2018年《一般数据保护条例》的出台，这些法律将进一步收紧。
2014年，欧洲法院要求谷歌删除马里奥·科斯特加·冈萨雷斯（MarioCosteja González）提出的“不充分、不相关或不再相关以及过度”的搜索结果，这一决定使欧洲产生了一种所谓的“被遗忘的权利”。在《Ctrl+Z》（2016）一书中，梅格·利塔·琼斯（Meg Leta Jones）提出了一种“数字救赎或数字再造”的形式，更像是一种被原谅的权利。
数据有时会丢失。不是所有的事情都会被记住。但对审查的规训功能来说，这真的无关紧要：我们不容易知道哪些数据会丢失或销毁，因此可能会表现得好像什么都不会忘记。
可预测
虽然我们大多数人都明白，我们过去和现在的行动可能被其他人审查，但显然不希望我们在未来也受到同样的对待。毕竟没人知道未来是什么样。但在数字生活世界中，功能强大的系统将能够以非凡的广度和精度来预测我们生活的各个方面。
保险公司已经在用算法预测投保者是否有可能，或何时会发生车祸事故，以及我们何时会生病，甚至是死亡；雇主预测我们是否会加入竞争对手的公司；金融机构预测我们是否会拖欠贷款；官员预测哪个犯人将会杀人或者被杀；警察利用数字系统预测未来的犯罪，如罪犯和受害者分别是谁；临床研究人员可以预测我们是否会欺骗配偶或离婚；智能手机公司能以近乎变态的准确性来预测我们的位置；服务提供商可以预测我们能否将服务带到其他地方；美国国家税务局预测我们是否会进行税务欺诈。
技术支持的预测水晶球，使用的主要是机器学习算法，这是一种新的、强大的审查手段。它能让观察者可以“看到”尚未发生的事情。这就是它的辅助功能。而它的规训意义可能更令人印象深刻：人们可以想象，人类不只是要避免犯罪行为，还要留意完全合法的事情，例如去碰巧有犯罪记录的朋友家中做客，通过关联，系统会预测他们也会像朋友一样去犯罪。
评分
在过去的几年里，你可能使用过一个在线平台来“众包”对某些商品的评级——电影、Uber司机、酒店、餐馆、干洗店等。你可能没有想到，在某些时候，你也可能会成为别人评价的对象。
我们已经被以各种方式排名或评分了——从决定我们是否能够获得融资的信用评分，到从网上收集到的信息编制的“健康评分”。在数字生活世界里，每个人都有可能背上一份完整的个人评分，打分的人可能是我们的朋友、同事、公司和熟人，打分的指标则是我们的社会价值：可信度、可靠性、吸引力、魅力、智力、力量和健康等。
反过来，人们的评级可以决定他们能否获得具有社会价值的东西，比如住房或工作。这是一个相当严峻的前景，像这样的系统已经成为一些优秀小说的主题，包括2016年拍摄的科幻电视剧《黑镜》中的一集。
我们可以清楚地看到，在一个日益量化的社会中，我们自身的数据很容易就决定了我们能否获得有社会价值的东西，而我们也许对这些数据几乎没有控制力。至关重要的是，行使这种权力的不一定是国家。各行各业的服务商都可以坚持一定的评级，这增加了这些服务商的权力，而相应地减少了被评估者的权力。
本文来自微信公众号：理想国imaginist （ID：lixiangguo2013），节选自[美]杰米·萨斯坎德《算法的力量》，摘编排版：熊Mur，配图《一九八四》《黑镜》《人生切割术》《她》《谷歌与世界头脑》《阿丽塔：战斗天使》