工中的AI

本文选自《AI的批判理论》

[瑞典] 西蒙·林德格伦（Simon Lindgren）著；

周亦张 译.

南京：南京大学出版社，2026.

他不知道她的名字，但知道她在小说部工作。大概因为他有时看见她油乎乎的手，她手里拿着扳手，在某台小说写作机器上做着某种机械性工作。

乔治·奥威尔

《1984》（1949, 13）

AI会取代人类吗？

AI语境中存在一个常见说法：技术终将取代人类工作。人们或想象机器人管家为主人端茶送报，或设想装配机器人替代福特式生产线工人的血肉之躯组装汽车。在某些场景中，机器旨在协助完成枯燥单调的工作，使人类不必再承受这类劳动的折磨。而在另一些场景中，使用机器的原因在于其在同一任务中实际上表现得优于人类，或更细致，或更智能。部分AI支持者认为，若由机器而非人类法官和陪审团来裁决量刑与惩罚，若由智能算法而非活生生的教师来判定学习进程中何种练习最有效，我们的社会将更美好。

但AI真的会取代人类吗？若果真如此，我们是否都能减少工作量，共同享受全自动化世界的果实？抑或是大量劳动者会失去工作？事实上，诸多迹象表明两种情况都不会发生。诚然，某些AI应用可能让我们的生活更便捷，未来某些高度自动化岗位对人类的需求可能减少，因为劳动力市场预计会发生一定程度的转型。但正如开篇引用的奥威尔反乌托邦愿景片段中所描述的，总需要有人操作“小说写作机器”。宏观上，AI更可能替代或扰乱工作，而非取代人类。这是因为，在AI系统的技术表象背后，机器的运转仍需要人类劳动来维持。

尽管如此，我们今天确实可以轻易看到，比如我们在超市结账、在线下单或与客服聊天机器人对话时，一些人类劳动者至少在某种程度上正被机器取代。我们可以看到，在历史上的前几个阶段，例如从工业资本主义的商品主导逻辑向“服务业资本主义”（service capitalism, Tadajewski and Jones, 2021）或信息资本主义（Castells, 1996）转型的过程中，每当新技术被引入时，它们会扰乱当前的技术格局及相关工作。但通常情况下，这种扰乱终会平息，新的工作岗位也往往会随之涌现。我们或许能想象这样一种未来：在AI驱动的资本主义体系中，大量人口从事有意义的工作。但在工作岗位重新分配之前，更紧迫的是将批判性思考聚焦于当下正在发生的转型，以及它对劳动者的意义。

上一章概述了一种视角：AI即人类。这一视角的核心在于，AI系统的运转需要人类对其内部及外部进行操作。它需要发明家、设计师、程序员，但也需要数据（数据本身也是人类的产物）。此外，在数据被用于模型训练之前，还需大量人力对其进行加工。

这建构了AI与劳动之间复杂的交织关系：AI时而支配、协调与管理劳动，时而提取人类数据痕迹（data traces）的价值，将我们的日常活动重构为劳动。此外，AI的进步还催生了对新型人类劳动的需求，且这种需求不局限于AI开发者所从事的轻松工作——他们常常在光鲜的办公室里啜饮着抹茶。AI装配还重塑了一种看似新颖、结构上却非常熟悉的体力劳动形式，即数据标注，以及其他为机器学习服务的众包工作。

前一章介绍了数字劳动理论，主要聚焦于人类如何存在于社会机器中——其活动留下痕迹，而这些日常活动的部分被AI装配的元素吸收，由此就可能需要将某些看似非剥削性的活动重新定义为劳动。然而，随着时间推移，数字劳动的概念已被扩展至更广义的范畴，涵盖数字资本主义框架下一系列不同的、不稳定的、隐形的工作，以及伪工作。除了社交媒体用户的无偿活动，以及利用痕迹数据进行用户画像和定向战略沟通的价值增殖过程，这一概念还明显包含了所谓的平台劳动。这指的是主要依靠数字技术实现的工作形式，构成了所谓的零工经济（gig economy），如优步（Uber）、爱彼迎（Airbnb）、户户送（Deliveroo）、DoorDash、Fiverr等，依赖自雇、短期合同与低薪酬（Danaher, 2019, 63）。但它的范畴远不止于此。克劳福德与乔勒（2018, IX）写道：

平台劳动的范围令人震惊：从为提取构成信息技术物理基础的矿物而在矿山中从事的契约劳动，到一些工厂中受到严格管控，有时甚至存在危险的硬件制造与组装工作，到某些发展中国家被剥削的外包认知劳动者标注AI训练数据集的工作，再到非正式体力劳动者清理有毒废弃物垃圾场的工作。

AI驱动人类劳动，人类劳动使AI得以运转，而AI又进一步驱动人类劳动。

AI资本主义的黑洞

AI与劳动的关联体现在多个层面。其一便是玩工现象：社交媒体平台、购物与流媒体网站，以及更广泛的互联网的用户，其日常活动中会留下数据痕迹，这些痕迹被企业利用并在算法系统（例如定向广告）中被价值化。正如信息系统研究者克莱尔·英格拉姆·博古兹（2018, 117）所举的例子，数据痕迹会被用于通过机器学习开发模型。在此语境下，如前一章所述，需要从理论层面重新定义那些让用户既享受又获益的线上活动，将其解读为劳动。事实上，资本家正剥削用户免费提供的内容与数据痕迹，而这些活动未必会被用户自身视为剥削。然而，这种逻辑不仅适用于社交媒体平台的使用，也适用于任何类型的AI驱动产品的使用。在分析亚马逊智能音箱Echo时，克劳福德与乔勒（2018, Ⅵ）解释道：

在亚马逊Echo这一具体案例中，用户购买了一款提供一系列便利功能的消费设备。但与此同时，用户自身也成为一种资源：其语音指令被收集、分析并存储，用于建构更庞大的人类语音与指令语料库。此外，用户还提供了劳动：通过反馈Alexa回复的准确性、实用性与整体质量，他们不断提供宝贵的服务。本质上，他们正协助训练亚马逊基础设施堆栈中的神经网络。

这关乎围绕劳动者“虚假的意识”的讨论，这一概念源于马克思的合作者弗里德里希·恩格斯写给友人兼同事弗兰茨·梅林的一封信。由于资产阶级的意识形态支配，从属社会阶层的成员往往会接受压迫者的思想，进而认可并维护当前社会秩序对所有人有利这种观点。正如福克斯（2019, 184）所言：“意识形态试图植入一种关于现实的虚假的意识。”工业资本主义中的工人未能意识到自己被压迫与剥削的程度。与此类似，在线内容的创作者与我们所有留下数据痕迹的人，可能同样未能意识到自己被利用的程度，或我们的完整性在盈利的名义下被侵犯的程度。

此外，还存在通过AI对员工进行的管控。2016年，前往伦敦《每日电讯报》（Daily Telegraph）上班的记者们发现，办公桌下方安装了标有“OccupEye”的小黑盒。管理层并未提前告知员工要安装这些新设备，但员工们搜索品牌名后才逐渐意识到，这些盒子是用来通过追踪热量与运动提供“自动化办公空间使用率分析”的（Waterson, 2016）。这一事件被新闻报道，工会也采取了行动，这些盒子最终被移除。为了合理化这一举措并为之辩护，《每日电讯报》管理层声称，其目的是帮助大楼实现高效的能源使用来促进环境的可持续性。但员工们仍怀疑，安装这些盒子的真正目的是“对员工表现进行大规模监控”（Ajunwa et al., 2017, 737）。

如今，此类技术正越来越多地由AI驱动，这引发了关于伦理、透明度、问责制与隐私的新旧问题。

AI设备被用于管控员工，而AI 设备本身的运转也离不开员工的参与。BBC科技记者戴夫·李在2018年的一篇文章中写道：

当AI按预期运行时，硅谷人士常称其“如魔法一般”。但这并非魔法，而是一位生活在非洲最大的贫民窟基贝拉（位于肯尼亚内罗毕）的二十六岁单亲母亲。每天，布伦达离开家，乘公交车前往内罗毕东区，与同一栋大楼里超过一千名同事一起，辛苦从事我们鲜少听说也更难目睹的AI开发工作。在八小时的轮班中，她创造着训练数据：以计算机能理解的方式准备的信息（通常是图像）。……布伦达加载一张图像，然后用鼠标勾勒出几乎所有内容：人、车、路标、车道线，甚至天空，并标注是多云还是晴朗。以自动驾驶汽车为例，将数百万张此类图像输入AI系统后，它才能开始在现实世界中“识别”这些物体。据说数据越多，机器就越智能。（Lee, 2018）

这篇报道勾勒出AI开发中劳动与剥削的一面：布伦达和同事们紧盯着显示器，小心翼翼地放大图像，生怕漏掉一个像素，以免负责检查工作的上级将任务退回。

其中还暗含某种悲剧性的游戏化设计。李报道称，“最快、最准确的训练员”，“办公室里诸多电视屏幕中的某一块会显示他们的名字，这是一种荣誉，而最受欢迎的福利莫过于购物券”。布伦达和她的同事们为一家服务于微软、谷歌等公司的旧金山企业工作，因此，这些劳动者整理的信息，实则是硅谷规模最大、曝光度最高的AI项目中至关重要的组成部分。

莎拉·罗伯茨（2019）写道，算法系统依赖从事特定类型的“数字计件劳动”（digital piecework）的人（如内容审核和数据标注）。这类工作被拆解为最小的组成部分，劳动者以零工经济的模式参与其中：与雇主的关系和报酬都是基于单个任务。如果仔细考察这类零工系统的话，研究结果往往会显示，大多数劳动者生活在极度不稳定的状态中，这自然可能是从事单调且低薪的零工的后果，也可能是因为边缘群体中的贫困者缺乏其他机会，所以最可能选择这类工作。这些劳动者没有永久合同，且往往分布在南半球（Roberts, 2019, 68）。

李报道称，无论是微小的奖励，还是参与数据准备的机会，劳动者们自身通常都将其视为积极的事。然而，在全球资本主义层面，布伦达正处于“信息资本主义黑洞”的中心。社会学家曼努埃尔·卡斯特尔斯（1996, 502）曾指出，网络社会（Network Society）与之前的社会形态一样，本质仍是资本主义社会。当前以AI装配为最新发展阶段的技术革命，不过是资本主义通过新工具自我重构（而非瓦解）的又一轮迭代。卡斯特尔斯（2010, xvi）特别强调，资本主义“不仅是市场经济，更是一套体现在社会行动者身上的价值观与规则，而这些行动者致力于践行这些规则”，资本主义本质上是意识形态。

无论我们多希望这一轮新技术发展是例外，它都并非如此。历史总会重演，正如那句名言所说：“第一次是作为悲剧出现，第二次是作为笑剧出现。”从早期工业资本主义对工人的奴役的悲剧，到硅谷最荒诞的福音主义及其受害者的笑剧，从亨利·福特到埃隆·马斯克。在布伦达的生活被悬置的后网络社会中，资本主义逻辑已被更具深远影响的排斥与等级制度模式所武装。卡斯特尔斯（2010, 166-167）如此描述数字时代的资本主义：

它确实在有价值者与无价值者、有价值地区与无价值地区之间划出了鲜明界限。全球化进程是有选择性的，将经济与社会中的某些部分纳入信息、财富和权力的网络，将某些部分排除在外，从而构成新主导系统的特征。工作的个体化使劳动者只能独自面对不断变化的市场力量，为自身命运讨价还价。

从更广泛的政治与经济地理视角看AI与数据化的影响，阿罗拉（2016）指出，这些现象的发展将全球南方置于“金字塔底层”。加州意识形态的新自由主义视角推行一种“服务于共同利益”的包容性资本主义。这在实践中边缘化了一种批判视角，即AI与数据化是如何对新兴经济体中的人产生实际影响的：这些人被询唤为新的消费者基础和零工，仅仅是为全球北方利益服务的数据节点。来自基贝拉贫民窟的AI劳动者身处卫生危机与清洁用水极度匮乏的环境之中，显然并非他们为之工作的行业的受益者。李的报道继续探访了布伦达所在公司撒马源（Samasource）的办公室，并就其商业园区环境及现代化设施与更广泛的社会地理的差异进行了反思：

若不往窗外看，你可能会以为自己身处硅谷科技公司。墙壁上覆盖着波纹铁皮。然而，这种在加州被视为时髦的风格，在此处却提醒我们许多劳动者的出身环境：约75%的劳动者来自贫民窟。（Lee, 2018）

在AI与社会的交会处，人类劳动的隐蔽性以多种形式存在。此类工作场所正是卡斯特尔斯所描述的黑洞的有形物理体现。基贝拉贫民窟这样的黑洞构成了网络社会的阴影层。它们形成了一个“第四世界”，“由全球范围内社会排斥的多个黑洞组成”（Castells, 2010, 169）。它们存在于每个国家、每座城市，甚至技术发展迅速、惠及众人的地方，隔壁就住着穷人、被剥削者和失败者。

AI革命与此前其他技术和数字革命一样，急需这些阴影地带。每一个赢家背后都有九十九个输家。当资本积累时，由于AI资本主义“选择性分类”（Castells, 2010, 170）所造成的社会和经济排斥，布伦达这样的劳动者正不断变多。AI时代的兴起与随之而来的劳动者异化密不可分。李嘉图（1821, 271）的预言振聋发聩：“机器运转离不开人类协助，机器制造更离不开人类劳动的贡献。”

AI和平台劳动

平台劳动可被定义为“任何依托在线平台，使个人或者组织能够为获取报酬提供特定服务或产品的劳动”。一项针对八个欧洲国家平台劳动的研究显示：在工会化水平普遍较低的同时，平台劳动者通常还面临数字监控 、收入不稳定与劳动无保障的问题（de Groen et al., 2018; Fuchs, 2019, 99）。该商业模式以数字媒介协调工作且劳动条款“灵活”。在全球疫情期间及之后，由于劳动力市场不稳定性加剧，平台劳动愈发普及。部分平台有超过千万的劳动者，而自2020年3月起，平台活动量据称已增长超过30%（Casilli, 2021, 118）。推而广之，这意味着平台需处理超大量的任务。麦奎兰（2022, 54）写道：

在这些不稳定的平台背后，AI运作的规模确实惊人，如优步的路线引擎每秒处理五十万个请求与数十万个全球定位系统（以下简称GPS）定位点……观看关于这些工程壮举的视频时，人们定会被其中的讽刺性击中：如此了不起的成就，很大程度上竟加剧了普通劳动者的贫困。

此类平台的共同特征是将人类活动数据化与任务化。例如，通过优步或户户送进行的工作，是由数字社会复杂的社会技术生态系统的应用程序及其他软件基础设施协调的，零工的每一个“生产性动作”（productive gesture）都会被转化为数据。卡西利（2021, 117）强调，这种数据化“既是以数据形式提取价值的模式，也是通过算法管理的循环来实施劳动治理的模式”。因此，平台工作中的数字劳动注入了几个不同的价值增殖过程。库德里与梅希亚斯（2019, 159）如此解释道：

为了将基于数据的绩效监控无缝植入工作的各方面，数字平台、应用程序与传感器提供了基础设施，但它们被最密集地安设于低地位和低薪资的工作中。卡车司机或仓库工人等已将持续监控当作其生活的基本特征。这些领域可能很快将不再有劳动者记得身体与每个动作不受监控是怎样的感觉。

对劳动者的治理通过平台协议实现。这些协议将工作任务原子化、碎片化，把劳动拆分成易于执行的微小环节，但整体上导致劳动者工作不稳定与理想破灭。麦奎兰（2021, 50）认为，正是平台劳动的数据化使其“易于被AI操作利用”。在此语境下，AI的作用在于强化新自由主义资本主义的一些核心特征。平台劳动基于零工制的独特形态，也使资本家得以持续压低工资。媒体策略师汤姆·古德温（2015）在一篇常被引用的文章中写道：

优步，全球最大的出租车公司，未拥有任何车辆。脸书，最受欢迎的媒体所有者，不创作任何内容。阿里巴巴，最有价值的零售商，不持有库存。爱彼迎，全球最大的住宿供应商，也未拥有任何房地产。

古德温本人并非批判视角的支持者，但他仍指出了平台劳动的权力所在。为了进一步理解这一语境，我们可以转向马克思对工业资本主义的分析及其与零工劳动的相似之处，也就是将“手工”与“家庭劳动”转化为“工厂制度”的“计件劳动”。平台劳动（如比萨配送员自备车辆，数据标注员自备电脑和桌椅）意味着所有“生产风险与成本被转嫁给了劳动者”，与此同时，他们还身陷激烈竞争与“无休止找活儿”的处境中，而这进一步压低了工资（Cohen, 2016, 48）。食品配送公司Foodora与“出行即服务”公司优步在其招聘网站上写道：

我们提供灵活的工作时间，由你决定何时工作！只需告知我们你何时无法接单，剩下的交给我们处理。（Foodora, 2022）

你可以通过驾驶赚钱，想赚多少赚多少。而且，你驾驶得越多，赚得越多……你只需在方便时接单。没有办公室，也没有老板……因为在优步，你才是主导者。（Uber, 2022）

在这些关于灵活性、自由与机遇的营销话术背后，隐藏着一种“对资本而言堪称理想安排”的系统（Cohen, 2016, 48）。当平台提供的任务化与碎片化的零工将劳动者询唤为机械系统中可替换的齿轮，那些可能被展现为高度自由的高薪工作实则不牢靠、具有临时性且不稳定。从事此类业务的企业拥有大量员工，这些劳动者以最松散的条款被雇用，这使企业得以通过排队等待的、无偿或低薪的过剩劳动力实现快速扩张。马克思的论述与此遥相呼应：

劳动的质量是由产品本身来控制的，产品必须具有平均的质量，计件价格才能得到完全的支付。从这方面说，计件工资是克扣工资和进行资本主义欺诈的最丰富的源泉。

麦奎兰呼吁我们关注平台劳动、算法与AI的相互关联，声称后两者通过抽象的优化过程催生出一种更强化的资本主义剥削形式。优步、户户送等平台为资本家提供了“接触人类能力的途径，但其能力仅作为被分解和标准化的元素，存在于以AI为核心的大型算法装配中”（McQuillan, 2022, 52）。AI被用于优化平台劳动中的部署、配送与绩效，这成为劳动者生活中充满压力的物质现实。科技记者凯伦·郝与纳丁·弗赖施拉德（2022）在报道中写道，在印度尼西亚的雅加达，摩的司机在临时木棚中为Gojek平台工作。这一临时点既是接单间隙用餐、洗漱的场所，也是手机充电处。因平台公司并未提供多少满足此类需求的设施，这类木棚由司机群体自发组织搭建。总体而言，平台算法往往倾向于推行个体化劳动体制（参见Qadri, 2020a），劳动者必须自行应对任何形式的冲突。

对司机而言，利用木棚进行短暂停留而非更长时间的休息，是因为他们需要保持“待命状态”，随时准备接单。一项2018年的研究（Parrott and Reich, 2018, 13）发现，基于应用程序的司机在上班期间仅有58%的时间在接单，这意味着42%的时间处于无薪状态。此类工作条件正引发争议，司机们已提出等单时间也应被支付薪酬。尽管结果各异，但多数企业拒绝支付零工之外的任何薪酬（Safak and Farrar, 2021, 3）。这种制度通过算法管理强制实行，它“使得劳动者相互竞争，并将其分散在广阔的地理区域中”（Hao and Freischlad, 2022）。木棚“大本营”是维系劳动者社群的尝试。事实上，雅加达案例是普遍规则中的例外，因为它呈现了劳动者的动员与抵抗（参见 Qadri, 2020a）。而整体情况依然不容乐观。

在平台劳动中，AI作为“一种未来主义的技术”，却“将工作条件推回到一个世纪甚至更早之前”（McQuillan, 2022, 53）。诸如健康和安全、病假工资、带薪假期、养老金，以及反性骚扰的保护措施，都是历史上的工人们通过有组织的斗争艰难赢得的（Knotter, 2018）。正如社会学家亚历山德拉·拉文内尔（2019, 6）所言，平台劳动“正以颠覆之名推翻数代以来的职场保护，使劳动剥削再度成为常态”。

在技术、新奇性与机遇的伪装之下，平台劳动将大多数此类保护措施抛到了九霄云外。平台劳动安排中的任何风险，诸如精神压力、车辆维护、等待零工的无薪时间，都被推到金字塔底层，迫使个体劳动者承担。关于平台劳动工作条件的研究描绘了这样的景象：劳动者“迫使自己满足算法的优化”（McQuillan, 2022, 53），承受着疲惫、压力，甚至伤病或死亡（Christie and Ward, 2018）。尽管如今相关倡议日益涌现，但平台劳动者的集体行动仍极为匮乏。这是因为平台劳动不仅“瓦解个体主体性”，更将“历史上曾通过罢工和其他工业行动赋予劳动者抵抗力量的社群与团结” 碎片化了（McQuillan, 2022, 53）。正如弗朗科·“比弗”·贝拉尔迪（2011, 101）所写：

在现代性时期，工业劳动力由人构成，他们既具备完成任务的个体能力，也拥有生理需求，以及成立工会、谈判、罢工等政治权利。而今，劳动力会被描述为神经能量及供细胞重组的去个性化时间的延展。这种时间已被分形化与兼容化，从而变得可重组。为实现协同操作，个体心智必须成为网络化心智的一个细胞、一个兼容的分形，这既意味着科技的突变，也意味着活生生的心智的精神突变。

对“比弗”·贝拉尔迪而言，去个性化劳动者的细胞化是数字资本主义的普遍特征，即人们通过平台与设备相互关联，成为“可交互操作系统中平滑、兼容的组成部分”（“Bifo” Berardi, 2011, 102）。而平台劳动将这一特征推向了极致。

算法管理

作为一种自动协调、组织规模通常极为庞大的劳动者与客户群体的方法，算法管理已成为平台劳动及数字资本主义其他分支的突出特征（Newlands et al., 2018）。简言之，“算法管理指使用软件算法部分执行或完全执行劳动力管理职能（例如招聘与解雇、工作协调、绩效监控）”（Gagné et al., 2022, 386）。该模式主要与平台经济相关，平台经济是其首要的应用场景。但学者指出，如今它正被迅速应用于更传统的就业场景中（Tafvelin et al., 2023）。当算法管理被采用，企业就能借助于AI降低招聘、交易、人力资源及实际生产等各类流程的成本（Zerilli et al., 2020, 153）。由此，数字平台本身成为一种组织模式，它通过规模化和自动化来提高效率与利润。

正是这种管理模式，使数字平台成为依赖规模化、自动化与灵活性的组织模式（Jarrahi and Sutherland, 2019）。如今由算法驱动的系统承担的组织与协调工作，在工业与服务业资本主义的过往迭代中，曾是人类领班和中层管理者的任务。由于这类工作被转移给了基于AI的决策系统，平台经济的利润得以提升。

企业无须再支付薪资给这类中层管理者，算法还能通过高效拼接零工的碎片化贡献，拼凑出一支庞大的劳动力队伍。马克思曾写道：

资本是不管劳动力的寿命长短的。它惟一关心的是在一个工作日内最大限度地使用劳动力。

这便是算法管理的所作所为：它会无情地将劳动者的日常生活与工作条件撕成碎片，将个体的工作日切割为不均衡、无规律的体验，收入则仅以零散方式获得。然而对资本主义公司而言，算法管理却让一切变得顺畅且有利可图，毫无断裂或空隙。平台劳动将劳动者非人化，使他们沦为生产链条中可随意丢弃、替换的零件。詹姆斯·布里德尔（2018, 118）评论道：“在追求利润最大化的资本主义意识形态中，又增加了技术不透明性的可能，由此，赤裸裸的贪婪披上了机器非人逻辑的外衣。”当算法被用于协调、分配和评估劳动者执行重复性的基础任务的过程时，劳动者自身也被当作机器对待，被剥夺了他们作为人类的价值。

由于工作通过允许数据收集、可编程性及软件行为控制的数字平台实施，司机及其他零工始终处于算法控制之下。这意味着，数据保护权利问题与劳动者权利及就业保障这两类议题正日渐重叠。劳动者信息交流组织（Worker Info Exchange，为数字劳工权益服务的非政府组织）发布了报告《由机器人管理》（Managed by Bots），揭示了平台经济中的雇主如何利用数据化、算法和AI，将其管理策略“黑箱化”（Safak and Farrar, 2021）。在算法管理中，决定劳动者机会、报酬和条件的权力被移交自动化系统。此外，由于平台劳动者在实践中被界定为自雇者（Urzì Brancati et al., 2019），他们独自承担全部风险。如果平台劳动者（不论出于何种原因）未能达到系统自动设置的最低标准，或者某些人为因素（比如与客户产生误解）对结果产生了负面影响，他们的工作就可能被平台算法强制终止，“没有任何机会自我辩解或质疑决定”（Villarroel Luque, 2021, 2）。

2021年，意大利博洛尼亚一家法院裁定，食品配送平台户户送用于评估劳动者声誉的算法违反了当地劳动法。法院认为，该算法没有对受法律保护的旷工原因（如生病、罢工等）与未履行配送承诺的其他原因做出区分（Lomas, 2021）。同年，西班牙通过了一项具有开创性的法规，要求提高与工作和就业相关的算法的透明度。该法规声明，劳动者有权了解影响其工作条件甚至就业机会的算法或AI系统背后的参数与规则（Villarroel Luque, 2021）。

尽管已发生多起法律案件，平台公司因此被要求提高透明度与公平性，但仍有“雇主变得更擅长将管理控制隐藏在自动化算法流程中”（Safak and Farrar, 2021, 3）。尽管在保障个人权利，强制执行更完善的与个人、数据化及AI驱动系统之间关系相关的诚信措施方面，日益完善的数据保护法愈显成效，但平台劳动者数字权利的发展仍然缓慢。

随着AI技术的进步与精细化，劳动者的不稳定性似乎反而愈发严重。劳动者信息交流组织的研究发现，“技术成熟化”已导致“以防欺诈为名的劳动者监控的普及和滥用”（Safak and Farrar, 2021, 4）。

我们认为，对“欺诈”的管理常与绩效管理混为一谈，而非侦测真正的犯罪欺诈。其中的一个例子就是，劳动者欺诈概率评分被诸多应用程序不恰当地用于自动化工作分配决策。

然而，算法管理不仅存在于零工经济中，越来越多的雇主开始利用AI系统集中权力与控制（Crawford et al., 2019, 14）。彭博新闻社（Bloomberg News）的一篇新闻特稿讲述了宾夕法尼亚州东部仓库冷冻室的工人杰克·韦斯特利的故事（Brustein, 2019）。杰克“手臂有文身，性格开朗”，而他的工作是在工作日全天接连不断地“搬运箱子，与此同时，他的胡子则慢慢结起冰霜”。记者约书亚·布鲁斯坦继续写道，杰克最近开始按雇主的要求佩戴一件新的设备。他肩部的背带上装着一个智能手机大小的黑色设备，追踪他的每一个动作。该设备由一家名为强臂科技（StrongArm Technologies）的初创公司生产。

据仓库管理方称，冷冻室是暗藏较高风险的区域之一，部分原因是劳动者在低温环境下容易粗心大意。因此，每当韦斯特利弯腰过深地去搬箱子或转身过猛地放置箱子时，胸前的设备就会通过振动发出受伤风险上升的警告。韦斯特利注意到自己养成了从货盘深处拿箱子时弯腰的习惯。他说：“这可能是设备振动提醒我的原因，但你懂的，多亏了这个提醒，我开始绕到托盘侧面去拿。”（Brustein, 2019）

在此案例中，AI一方面旨在给予人体工程学的支持，并预防工伤；但另一方面，追踪劳动者并通过轻震以引起注意的做法，也是一种工作场所的监控，它开启了AI驱动的泰勒主义新时代。库德里与梅希亚斯（2019, 18）声称：

建立在连接基础设施之上、由AI强化的数据驱动式物流，将生产的方方面面——远超出工厂围墙，覆盖跨国供应链的每个角落与时刻——都转化为一条受管控的流水线。

科技虽有其优点，但我们必须始终追问：这对谁而言是优点？谁又会沦为其缺点的受害者？网络科技作家马尔科姆·希金斯（2021）写道，“先进 AI 摄像头”被亚马逊安装到其配送司机的车辆中。这些摄像头本被用来监控司机的表现、动作与面部表情，这意味着系统还依赖记录劳动者可识别身体特征的生物识别数据。同时，在此案例中，雇主辩称这款从Netradyne公司购买的AI系统旨在提升司机的道路安全。例如，若AI检测到司机面露疲色，它能指示司机休息，且其眼动追踪技术能用来监测司机在驾驶过程中是否在看手机。与此同时，该组织其他的AI监控实例则体现在亚马逊的AI系统中，该系统通过自动计算并不断变化的“速率”来设定绩效目标，劳动者必须跟上这个速率，这迫使司机加速行驶，即使疲惫也要继续行驶。在AI Now研究所举办的一次小组讨论中，劳动者组织者阿卜迪·穆斯解释道，劳动者如果一天三次未达到算法设定的生产率，就会被解雇（Institute, 2019）。

在招聘领域，AI系统也扮演着愈发重要的角色，其应用场景多种多样。它可被用来预测岗位空缺，即通过分析潜在员工的行为数据，尝试预测其离职的可能性。它也可被用来从领英（LinkedIn）等数据库筛选候选人，并审查申请者的简历。此外，AI 还能在招聘中驱动各种心理测评，分析面试视频以评估候选人与意向岗位的匹配度，并协助背景调查（Albert, 2019, 217）。

幽灵赞助者

由此可见，AI能用于管控劳动者，并以算法标准要求他们。这种标准有可能加快资本主义对最高效率与利润的追求，同时将这种强制性要求隐藏在应用驱动型经济深处的黑箱里。为此付出代价的是劳动者。以配送、运输和其他“自由职业”形式存在的平台劳动，将这种趋势推向极致：管理得到算法辅助，而且算法本身成为老板。科技记者鲍比·阿林（2022）的一篇报道聚焦于曼哈顿下城的食品配送员古斯塔沃·阿切，描绘了被抽象实体管理的感受：

古斯塔沃·阿切即将开始在曼哈顿下城的轮班。他确认电动自行车电量充足、苹果手机已固定在车把上，随后满意地点点头。“现在我们要把它连到应用程序上了，”他说，“我要开始工作了。”阿切的故事在疫情后纽约涌现的数千名骑车配送的人员中很常见：这位来自危地马拉的移民、两个孩子的父亲，疫情期间失去了比萨配送工作，于是转而为DoorDash、GrubHub等应用送餐。他说，这意味着把人类老板换成了另一种存在。“幽灵赞助者（Patron Fantasma），”三十八岁的阿切说，“就像个鬼老板。”

在批判理论中，意识形态的一个关键元素是：它在人与人之间建构特定的权力关系。用路易·阿尔都塞的术语来说，它会询唤（召唤）特定的主体至特定的社会位置。意识形态的核心目的是将“具体的个人”建构为“主体”（Althusser, 1971, 171）。意识形态定义世界的方式，会将我们人类定位或“召唤”为主体。用不那么抽象的方式来说，意识形态会界定需要人们承担的特定社会角色，而其自然化力量会让人们大多不加抵抗地接受这些角色或“主体位置”，无论这种位置是否有利。一旦我们接受了某个给定的主体位置，“我们就有了一套特定且有限的概念、意象、隐喻、言说方式、自我叙事等，并将其当作我们自己的”（Burr, 2015, 139）。

通过这种方式，意识形态塑造了特定的个体——有些拥有权力，有些被剥夺了权力——并在他们之间建构出特定的关系与多样的行动空间。当纽约市的骑手被幽灵赞助者询唤时，他们被建构成AI装配中的主体，进而被纳入数字资本主义的意识形态中。无直接关联但颇为贴切的是，同样使用“街”这一隐喻，阿尔都塞对阿切的算法部署的分析将会是：“看似在意识形态之外（更准确地说，在街上）发生的事，实际上正是在意识形态中发生的。”（Althusser, 1971, 175）

尽管像阿切这样的零工在街上十分显眼，常身着“骑手装备包”提供的亮色品牌服装（例如参见Foodora, 2022），但他们实际上在街头现实中的不协调显然不可见于平台公司的商务沟通之中。在硅谷关于平台与界面毫无摩擦的流行话语（Sadowski, 2020, 47）背后，存在着与之相反的阴影。此外，还有这样的神话：部署的算法正完全独立地工作，产出平台公司的最终产品。但在实际应用中，真人——平台劳动者——必须处理一系列摩擦：与不满的顾客协商，暴露在不健康或危险的环境中，遭受威胁或创伤，解决信息缺失的情况（Chan, 2022）。还有无数其他情况，需要非算法的人类技能与足智多谋来缓解系统中的紧张关系。

例如，伦理型AI研究者里达·卡德里（2020b）描述了雅加达的骑手如何在停车位紧张时，在取送餐期间互相照看车辆，以及他们如何通过在线聊天群自我组织，随时了解城市交通的任何重大中断信息。每个订单都需要做出诸多考量，却并非算法做出的。基于其民族志田野调查，卡德里展示了城市空间如何充斥着一系列摩擦，从基础设施障碍到社会政治关系。这揭示了平台部署的“算法愿景”投射出“一个扁平的理想化地理空间，其中不存在摩擦，只有供需关系”。在算法的世界里，“前者（供给）似乎能轻松穿过绘制好的街道抵达后者（需求）”（Qadri, 2020b）。因此，卡德里认为，AI驱动的平台并未消除摩擦，而是将其转移给劳动者。推而广之，这意味着劳动者必须采取多种生存策略：回避、协商、忍耐。总体而言，算法经济的顺畅运行要求劳动者“聚焦于问题，聚焦于情绪，寻求支持并创造意义”（Lesala Khethisa et al., 2020）。

人类学家玛丽·格雷与计算社会科学家西达尔特·苏里将上文讨论的零工劳动——从拼车服务、食品配送到数据标注——定义为幽灵工作（ghost work）。与其他诸如数字劳动和计件劳动的批判概念相似，这一概念指的是那些“未能看见或有意贬低人们对经济与社会的集体贡献”的劳动形式。我们常感觉AI驱动的机器如同自动钢琴，而格雷与苏里（2019, ix）解释道：

除了一些基础决策，如今的AI若没有人机回圈，根本无法运作，无论是推送一则相关新闻，还是处理复杂的比萨外卖短信订单，当AI出错或无法完成任务时，成千上万的企业会悄悄召唤人力来完成项目。这条新型数字流水线会聚合分散的劳动者的集体投入，输送的是项目碎片而非产品，且昼夜不息地跨越多个经济领域运作。

这意味着，正如我们童年时期会想象电视机或收音机里有小人儿，现实中，AI机器内部确实常存在“幽灵”（另见第五章）。当然，编程出一个能自主决策的AI显然是有可能的，这类例子容易列举，比如下国际象棋的 AI，它依托一套算法，基于在棋局中获取的信息执行指令。而更先进复杂的AI形式，如基于机器学习模型训练的AI，在可预见的未来仍可能依赖布伦达这样的劳动者。归根结底，何时存在人机回圈——或机器中的幽灵——成了一个哲学问题。目前很难相信，不久的将来会出现计算机由纯机器创造出来的情况。人类——资本家、科学家、编程人员、工程师——仍深度处于回圈中。而数字计件劳动者与幽灵劳动者，则远被隔绝于这些群体所享有的利润、地位，以及自我实现的机会之外。正是这些人，执行着各类信息服务工作，帮助公司开发AI。为了建构能模拟人类决策的软件，需要真人协助完善AI的“猜测”。

此类劳动除具有剥削性外，亦可被视为“异化劳动”。根据马克思的论述，在工业资本主义中，工人的劳动“同他相异化而为资本家所占有，并入资本中”。关键在于，工人创造利润，利润催生资本，这一切皆服务于资本家；工人生产得越多，自身就越贫困无力。因此，“工人对自己的劳动的产品的关系就是对一个异己的对象的关系”——“工人在劳动中耗费的力量越多，他亲手创造出来反对自身的、异己的对象世界的力量就越强大”。换言之，劳动产品异化为一种独立力量并与劳动者对峙。再看平台经济中的AI驱动型劳动。首先，优步司机受算法管理。正如管理研究者玛雷克·莫尔曼与奥拉·亨弗里德松（2019）的研究显示：

一登录优步应用程序，司机就会被平台算法监控和审视。应用程序会追踪他们的 GPS 定位、行驶速度与客户需求接收率，并指示他们去何处接客，以及如何前往乘客目的地。

在工作过程中，司机参与的是 AI 驱动的“资本主义价值增殖”过程（Jarrett, 2016, 11），因为他们的劳动被剥削，剩余价值被掠夺（Steinhoff, 2021， 126）。与此同时，劳动者还受到马尔库塞所说的“新型控制形式”的支配：劳动会将“异化的需求与异化的可能”强加给劳动者。深夜通过智能手机应用程序点比萨的消费者，是否表达了一种异化的需求？而屈从于所谓“自雇”的灵活性和机会与零工平台灵活性的劳动者，是否实际上正面临异化的可能？用马尔库塞（1964, 9）的话说，AI驱动的平台经济似乎带有“镇压性管理”（repressive administration）的所有特征。莫尔曼与亨弗里德松证实，这正是优步司机的体验，他们因自己不了解应用程序而感到十分沮丧，感到“应用程序在其不知情或没有同意的情况下隐秘地操控着他们”。更有甚者：“若司机偏离应用程序的指令，他们可能会受到处罚，甚至被平台封禁。”（Mhlmann and Henfridsson, 2019）该研究通过发现司机非人化的感受，印证了异化的存在：

优步司机表示自己同样感到孤独、孤立与非人化。他们没有可社交的同事，没有团队或社群归属，缺乏与主管建立个人关系的机会。在亚马逊土耳其机器人（Amazon Mechanical Turk）等众包平台上工作的劳动者们，在完成内容分类、参与调查等“微任务”时，也提出了类似的抱怨。

异质自动化、伪自动化与自动化的最后一英里

信息学学者哈米德·埃克比亚与邦妮·纳迪（2017, 1）将其提出的异质自动化（heteromation）概念定义为“从计算机中介网络中的低成本或免费劳动里提取经济价值”。他们声称，这代表了一种新的资本积累逻辑：通过被纳入网络中的无形大众所执行的劳动创造价值。这一概念范围广泛，涵盖多种形式。它既包括“在计算机化环境中对人类沟通、认知、创造、情感及组织性劳动的挪用”（Ekbia and Nardi, 2017, 24），也包含低薪与完全无偿的劳动。换言之，异质自动化概念与本章讨论的多个实例相关，例如无偿的玩工，以及低薪零工为减少摩擦而自发组织的活动。然而，因其强调“人机劳动分工”（Ekbia and Nardi, 2017, 27），该概念也包括机器内部的数据标注和其他模型训练的准备，即基贝拉贫民窟的布伦达这类劳动者所从事的工作。

在《自动化骗局》（“The Automation Charade”）一文中，纪录片导演兼作家阿斯特拉·泰勒（2018）引入伪自动化（fauxtomation）这一概念来描述此类过程。该概念源于一个事实——在AI系统发展的现阶段，我们无法回避一个事实，即许多所谓的自动化实际上并非自动化。不依赖人类的AI驱动自动化确实存在，但AI自动化不仅是一种技术，而且是一种意识形态（AI Now研究所，2018）。批判性分析的作用尤其在于介入意识形态成分发挥作用的情况与层面。对于泰勒而言，问题并不在于AI自动化本身是虚假的，或它的运行是一个谎言，而在于围绕该技术的社会权力结构被组织的方式的关键部分掩盖并贬低了人类的某些贡献。

尽管工作领域无疑会出现某种形式的机器人起义，但此类说法被严重夸大了。这种夸张表述，或许可以用加州意识形态的影响力来解释——在谈论技术收益时粉饰数字，并将其美化和浪漫化。但无论原因为何，通过此类方式表征现实，总会产生赢家与输家。泰勒（2018）敦促我们追问：这种世界观将服务于谁的利益？

自雇佣劳动诞生伊始，资本主义劳动者的权力结构就始终存在一个典型元素：劳动者不断被提醒自身是可弃置的。若鞋子不合脚，工作总能转交其他人。马克思所称的“产业后备军”始终待命，随时准备取代任何扰乱生产线顺畅运转的人。

大工业的本性决定了劳动的变换、职能的更动和工人的全面流动性。另一方面，大工业在它的资本主义形式上再生产出旧的分工及其固定化的专业。我们已经看到，这个绝对的矛盾怎样破坏着工人生活的一切安宁、稳定和保障，使工人面临这样的威胁：在劳动资料被夺走的同时，生活资料也不断被夺走，在他的局部职能变成过剩的同时，他本身也变成过剩的东西；这个矛盾怎样通过工人阶级的不断牺牲、劳动力的无限度的浪费和社会无政府状态造成的灾难而放纵地表现出来。

泰勒（2018）强调，老板与劳动者之间这种永恒的动态关系在AI时代被赋予了令人不安的新特征——员工们会受到“机器竞争的幽灵”的威胁。算法与机器人的幽灵在劳动者面前舞动，免除了雇主们的责任，雇主如今可以归咎于社会面临的“无业未来”和人类过时这种不可避免的前景。不过，这样的未来更多是神话而非现实。此外，泰勒指出，既有的自动化流程也绝非“浮夸宣传”表明的那般令人惊叹。在强调数字劳动的作用时，泰勒写道：

岗位可能消失，薪资可能削减，但人们往往仍在机器旁或机器后劳动，即使他们的工作已被去技能化或变成无偿劳动。

格雷与苏里（2019）描述了这一困境，称之为自动化的最后一英里的悖论。他们的论点是，对AI与自动化进程的推动催生了一种“第 22 条军规”式的局面：社会制造出不断得到补充的、由隐形劳动者构成的底层阶级。技术进步带来建造更炫目的机器的机遇与动力，这些机器做人类能做的事。从表面上看，机器似乎取代了人类，但实际上仅替代了部分人力，而且是在机器所执行的特定任务的有限框架内。重要的是，格雷与苏里（2015）断言：“当下自动化的努力依赖众包工作——随时待命的人。”即使未来某一天奇点真的到来，使我们所有人进入全民永久度假的全自动化乌托邦，格雷仍强烈敦促批判性学术研究“将此刻与奇点到来之间（漫长的！）时间（及其间所有生产可能性）视为重新思考就业结构与意义的契机”。

尽管存在全自动化的种种幻想，但批判理论最适合用来批判此时此地的物质现实。布伦达这样的劳动者正提供人类劳动，“为多数消费者以为是自动化的网站、应用程序、在线服务及算法供能”（Gray and Suri, 2019, 170）。每次技术飞跃，无论是在AI领域还是其他领域，似乎都会催生新的边缘化劳动者大军，让他们去从事在当代语境中不被视为“真正工作”的工作。随着技术的进步，此类新型劳动者大军会不断更迭，他们的任务或许各异，但其结构性位置、可见性及劳动者权利别无二致。

将隐形劳动纳入视野，并非批判理论的新焦点。泰勒恰如其分地指出，这与女性主义对家庭劳动的学术研究之间存在具有启发性的相似之处，吸尘器、电熨斗等发明往往为家庭主妇创造了更多而非更少的劳动。她特别提到了露丝·考恩的著作《妈妈的工作更多了》（More Work for Mother, 2018）中关于家政技术的反讽性的开创性研究。此处的核心观点是：“自动化并非如人们吹捧的那般完美，而且根本不能保证工作的消失。”如前所述，AI本质上是商品。如马克思所言：“劳动产品……剩下的只是同一的幽灵般的对象性……在它们的生产上……积累了人类劳动。这些物，作为它们共有的这个社会实体的结晶，就是价值——商品价值。”

要点

AI与劳动以多种方式相互交织。AI会取代并扰乱工作。通过监控资本主义的逻辑，AI会将我们的日常活动作为价值化劳动进行剥削。AI被用于治理、协调与监管劳动。AI还会催生对新型人类劳动的需求，而这类劳动往往是不起眼的类型。批判理论可用于质疑并分析这些交织关系在权力、支配与剥削方面意味着什么。

AI是平台劳动的关键驱动力——零工经济中各种形式的数字赋能工作。此类劳动可被视作数字计件劳动。它具有单调、低薪、高度不稳定且令人幻灭的特点。平台劳动者面临数字监控与经济无保障的处境，工会化程度极低。

在平台劳动及其他领域，算法管理已成为大规模自动协调与组织劳动者及客户的常用方法。算法管理利用AI执行招聘、解雇、协调与绩效监控等功能。它通过抽象优化与效能化过程，集中权力与控制，而劳动者则迫使自己满足算法的要求。

算法经济中的赢家与输家在南北半球分布不均：大量南方劳动力由北方企业运营协调。但数字资本主义的分化不仅限于南北维度。黑洞（Castells, 2010）构成遍布网络社会的阴影层。这一阈限空间（liminal space）充斥着被剥削的异化劳动与被贬值的幽灵工作。

当今的 AI 驱动型经济具有三大特征：一是异质自动化，即在机器学习开发中，从低成本或免费劳动中提取价值；二是伪自动化，即流程自动化的假象，而实际上一系列人类贡献被贬低；三是自动化的最后一英里的悖论，即对更先进AI的加速竞争催生了不断增长的隐形劳动者底层阶级，他们通过众包工作为 AI 提供支撑。