数字化如何锁定、控制和惩罚穷人？

数字革命是精英主导的游戏吗？数字时代普通人，尤其是穷人的命运如何？算法是否比人类更中立、公平、智慧？

文字/高晓雯

去年，一篇名为《外卖骑手，困在系统里》的文章在社交媒体上被屏蔽，互联网公司利用算法控制骑手，压榨其劳动力，引起社会广泛关注。北京大学社会学系陈龙博士对此进行了专题研究，揭示出平台的数据算法体系对劳动者提出了无尽的压迫性要求。

随着高科技的飞速发展，数字革命正在如火如荼地进行着。基于它的数据跟踪和决策机制已经成为商业、行政甚至刑事审判的常用工具。当我们为数字化带来的便利欢呼时，纽约州立大学奥尔巴尼分校政治学副教授弗吉尼亚尤班克斯(Virginia Eubanks)问道：数字革命是精英主导的游戏吗？数字时代普通人，尤其是穷人的命运如何？算法是否比人类更中立、公平、智慧？

在他的著作《自动不平等》(自动化不平等)》中，eubanks通过生动的故事和深刻的分析告诉人们一个简单的道理：技术不能代替正义。

作者认为，炫耀高效的自动化系统并没有实质性地改善贫困家庭的状况。相反，带有偏见的高科技工具，让政府在做出与人民生活息息相关的决策时，能够“名正言顺”地摆脱道德约束。更可怕的是书中揭露了伴随数据分析、统计模型与算法的监管网络，边缘人群正面临着更加严格的数字追踪、监控甚至惩罚，被牢牢困在这张网中。.

“数字济贫院”

19世纪，美国政府建造了一所济贫院来缓解贫困。Eubanks认为“现在我们正在建设一个数字济贫院”——，一个“锁定、控制甚至惩罚穷人”的隐形机构，一旦穷人向政府求助公共援助或其他公共服务，就会被这个看似中立的数字济贫院“盯上”。

通过三个深度调查和访谈案例，eubanks系统分析了数据挖掘、政策算法和风险预测模型对美国贫困和工人阶级的影响。

第一个案例是印第安纳州的福利资格自动认证系统。整个系统的自动运行，脆弱的规则和设计不当的运行指标，以及自动决策工具永远不会出错的假设，意味着一旦出错，往往会责怪申请人，而不是州政府或承包商。在这种制度下，数千人的福利申请被拒绝，其中包括小苏菲，她天生患有脑瘫，医疗费用依赖政府。由于当地家庭和社会服务管理局社工的失误，苏菲的家庭被直接列为“不配合政府”，福利申请被拒绝通过。

第二个案例是为洛杉矶无家可归者提供服务的电子注册机构。据其设计者称，该市的协调入住制度旨在“为最贫困的群体匹配最合适的资源”。然而，大量无家可归者的个人信息进入信息管理系统，产生了所谓的“脆弱性指数”。在次贷危机中血本无归的加里伯特赖特，只能在无尽的等待中扼杀希望，因为“脆弱性指数”不够高，这些无家可归者的信息成了执法部门可以随意获取的数据，被视为“天生的罪犯”。

第三个案例是宾夕法尼亚州阿勒格尼县的家庭筛查系统，该系统根据一个人过去的行为模式来预测他未来可能采取的行动。在新的预测方法下，人们不仅会受到自己行为的影响，还会受到恋人、室友、亲戚和邻居行为的影响。预测模型和算法将穷人标记为“风险”和“问题父母”。有了大量的社会服务、执法活动和社区监督，他们的一举一动都受到监督，贫困成为“自然风险指标”。

“今天，我们已经建立了一个基于数据库、算法和风险模型的‘数字济贫院’，其覆盖范围和不利影响很可能超过过去任何类似机构。”尤班克斯指出，如果不重视算法中可能隐藏的偏见，不去规制算法可能产生的风险缺陷，那么这些致力于解决贫困的技术进步和效率提升，可能只会模糊贫困与犯罪之.

间的界限，将穷人永远桎梏在这所“数字济贫院”。

随着数字时代来临，社会网络和信息技术日渐发达，智慧城市和数字治理成为时尚。在美国社会，算法科技被用于开展诸多政府项目，包括为无家可归者提供庇护场所、向生活困难者提供援助，以及儿童福利项目等。自动化系统决定哪些社区可能会被重点管制，哪些家庭能够获得救助，哪些群体面临欺诈调查，美其名曰算法治理。

决策者们依赖大数据分析本无可厚非，但在算法的高科技外表下，隐藏着重要的公平正义问题。高科技工具增加了对贫困和工薪阶层行为模式和日常选择的数据收集、存储和共享，以便政府干预、审查和监视。然而，这种监视被过多地用于寻找受助者的不法行为，从而导致穷人更易被归罪，他们的福利被转移。

《自动不平等》

作者：[美]弗吉尼亚·尤班克斯

译者：李明倩

出版：商务印书馆

出版时间：2021年版

贫困不容否认

《自动不平等》涉及的一个关键问题是算法对社会不同阶层，特别是贫困群体的影响。这是人工智能伦理和算法治理无可回避的问题。

算法应该怎样对待贫困？尤班克斯认为，这不仅仅是需要改变技术的问题。“对贫困、穷人和工薪阶层的看法与态度也需要有更广泛的转变。”她在书中列举了全美各地贫困民众面临的几种主要困难。比如，领取福利救济时因为一些“无心之失”而成为了福利欺诈的调查对象；无家可归者艰难地寻求可供容身的庇护住所，以及被迫与子女分离、将孩子送到寄养机构。

社会学家斯坦利·科恩将美国公众对贫困的态度称为“文化否认”，是一种使我们得以了解残忍、歧视和压迫，但从不公开承认其存在的过程。文化否认不是一种个体才有的人身或心理属性，它是一个由学校、政府、宗教、媒体，以及其他机构组织支持的社会过程。比如，当我们在喧闹的街头经过流浪汉或者乞讨者身边时，已经习惯了 “无动于衷”和“视而不见”。因为整个社会文化已将穷人描绘成病态性地依赖社会的少数群体，他们被打上了毫无希望与价值的标签。公共政策也倾向于指责贫困，而不是纠正贫困造成的负面影响，或消除贫困的根源。

在美国，贫困还是一种可被塑造的政治筹码。右翼往往谴责穷人是寄生虫，主张减少资助，左翼则以家长姿态对穷人无力改变自己生活的现状表示痛心，希望改造穷人。

无论如何，数量庞大、花费高昂的公共服务机构被主要用来调查个人的痛苦际遇是否可能由其自身过错导致，这使得人们可能即使身处贫困，却试图轻描淡写或予以否认，小心翼翼地求助社会服务项目。这种狭隘的认识使包括精英阶层在内的中产阶级对穷人的遭遇冷漠以待，那些旨在更加高效为有需要之人提供帮助的新技术，则被早早嵌入了对穷人的偏见和对贫困的否认。

从文化的视角来看，限制人们视野的是将穷人与其他人相区分的叙事方式。尤班克斯在书中呼吁，直视贫困，承认贫困，聆听穷人的故事，建立理解贫困的同理心，改变我们对贫困的看法、言论和感受，“虽然无法从根本上解决贫困问题，但至少不会令这场正在改变我们生活的数字革命在惩罚穷人的道路上越走越远”。

美国《独立宣言》中将自由视为“不可剥夺的权利”，然而，数字济贫院的存在削弱了贫困和工薪阶层行使自主权和进行自治的能力，侵犯了他们行使这些权利的自由。数字济贫院的复杂性使目标对象感到无能为力，不知所措。很多时候，这些工具只会碾压一个人的决心，直到他们放弃本应享有的一切：资源、自主权、尊重和尊严。

20世纪60年代，马丁·路德·金博士在华盛顿特区领导了争取黑人工作机会和自由权的民权运动，号召消除美国以及全世界的贫穷，产生了广泛的社会影响。但是金死后，穷人运动虽仍在继续推进，却没有取得预期的结果。

数字技术在公共服务和福利制度中的应用，使消除贫困和种族歧视运动面临新的挑战。2020年11月，美国掀起的“黑命贵运动”核心在于反对种族歧视，动员不同阶层抵制警察暴行。尤班克斯认为，事件最应该引发公众注意的是采取措施制止司法系统对黑人身体、思想和心灵实施暴力行为，同样也要监督在公共服务、无家可归者服务和儿童保护服务中可能出现的暴行和非人性操作。

总之，揭露“数字济贫院”的残酷需要巨大的勇气，穷人运动是美国未竟的伟大征程之一。在数字技术日趋精密和普遍的今天，拆除锁定穷人、管制穷人、惩罚穷人的“数字济贫院”，不仅仅需要高科技，更需要文化、政治和个人道德的深刻变革。

图片来源：视觉中国

图片编辑：张旭

值班编辑：万小军