SHIPT算法擠壓了外包工人 如何對雇主進(jìn)行審計

2020 年初，基于應(yīng)用程序的快遞公司 Shipt 的零工注意到他們的薪水有些奇怪。該公司于 2017 年被 Target 以 5.5 億美元收購，提供當(dāng)?shù)厣痰甑漠?dāng)日送貨服務(wù)。這些貨物是由 Shipt 工人完成的，他們購買這些物品并將它們送到客戶家門口。在大流行開始時，由于 COVID-19 封鎖使人們留在家中，業(yè)務(wù)蓬勃發(fā)展，但工人們發(fā)現(xiàn)他們的薪水變成了......不可預(yù)知的。他們做著他們一直以來所做的工作，但他們的薪水往往比他們預(yù)期的要少。他們不知道為什么。

在Facebook和Reddit上，工人們比較了筆記。以前，他們知道工資會有什么期望，因為 Shipt 有一個公式：它給工人的基本工資是每次送貨 5 美元，外加客戶通過應(yīng)用程序訂購的總金額的 7.5%。該公式允許工人查看訂單金額并選擇值得他們花時間的工作。但希普特在沒有提醒工人的情況下改變了付款規(guī)則。當(dāng)該公司最終發(fā)布有關(guān)這一變化的新聞稿時，它只透露新的薪酬算法根據(jù)“努力”向工人支付工資，其中包括訂單金額、購物所需的估計時間和行駛里程等因素。

流程圖顯示了基于文本的工具如何解析工作人員屏幕截圖中的數(shù)據(jù)并提取相關(guān)信息。購物者透明度工具使用光學(xué)字符識別來解析工人的屏幕截圖并找到相關(guān)信息（A）。每個工人的數(shù)據(jù)被存儲和分析（B），工人可以通過發(fā)送各種命令來與工具進(jìn)行交互，以了解有關(guān)其工資的更多信息（C）。達(dá)娜·卡拉奇

該公司聲稱，這種新方法對工人更公平，并且它更好地將工資與訂單所需的勞動力相匹配。然而，許多工人只是看到他們的薪水減少。由于希普特沒有發(fā)布有關(guān)該算法的詳細(xì)信息，它本質(zhì)上是一個黑匣子，工人看不到里面。

工人們本可以悄悄地接受他們的命運，或者在其他地方尋找工作。相反，他們聯(lián)合起來，收集數(shù)據(jù)并與研究人員和組織建立合作伙伴關(guān)系，以幫助他們理解他們的薪酬數(shù)據(jù)。我是一名數(shù)據(jù)科學(xué)家;我在 2020 年夏天被吸引到這個活動中，我開始構(gòu)建一個基于短信的工具——購物者透明度計算器——來收集和分析數(shù)據(jù)。在該工具的幫助下，有組織的工人及其支持者基本上對算法進(jìn)行了審計，發(fā)現(xiàn)它給40%的工人大幅減薪。工人們表明，盡管公司愿意，但可以反擊算法的不透明權(quán)威，創(chuàng)造透明度。

我們?nèi)绾螛?gòu)建審計 Shipt 的工具
它始于一位名叫威利·索利斯（Willy Solis）的希普特員工，他注意到他的許多同事都在在線論壇上發(fā)帖，談?wù)撍麄儾豢深A(yù)測的工資。他想了解薪酬算法是如何變化的，他認(rèn)為第一步是文檔。當(dāng)時，希普特雇用的每位工人都被添加到一個名為“希普特名單”的Facebook群組中，該群組由公司管理。索利斯在那里發(fā)布了消息，邀請人們加入一個不同的、由工人運營的Facebook群組。通過第二組，他要求工人向他發(fā)送截圖，顯示他們不同月份的工資收據(jù)。他手動將所有信息輸入到電子表格中，希望他能看到模式，并認(rèn)為也許他會帶著這個故事去找媒體。但是他得到了成千上萬的屏幕截圖，光是更新電子表格就花費了大量的時間。

Shipt 計算器：使用工人工資單挑戰(zhàn)零工經(jīng)濟黑匣子算法

就在那時，索利斯聯(lián)系了 Coworker，這是一個非營利組織，通過幫助請愿、數(shù)據(jù)分析和活動來支持工人的倡導(dǎo)。時任 Coworker 數(shù)字活動總監(jiān)的 Drew Ambrogi 向我介紹了 Solis。我當(dāng)時在麻省理工學(xué)院媒體實驗室攻讀博士學(xué)位，但對此感到有些失望。那是因為我的研究重點是從社區(qū)收集數(shù)據(jù)進(jìn)行分析，但沒有任何社區(qū)參與。我把 Shipt 案例看作是與社區(qū)合作并幫助其成員控制和利用他們自己的數(shù)據(jù)的一種方式。我一直在閱讀有關(guān)大流行期間送貨零工的經(jīng)歷，他們突然被認(rèn)為是必不可少的工人，但他們的工作條件只會變得更糟。當(dāng) Ambrogi 告訴我 Solis 一直在收集有關(guān) Shipt 工人工資的數(shù)據(jù)，但不知道如何處理這些數(shù)據(jù)時，我看到了一種有用的方法。

一個女人把一個袋子放在汽車后備箱里的照片。一張微笑的男人跪在商店清潔過道上的照片。希普特制作的一系列光鮮亮麗的照片顯示，穿著希普特T恤的工人面帶微笑，愉快地購物和運送雜貨。在整個工人抗議活動中，希普特只表示，它已經(jīng)更新了薪酬算法，以更好地將薪酬與工作所需的勞動力相匹配;它不會提供有關(guān)新算法的詳細(xì)信息。其企業(yè)照片呈現(xiàn)了快樂的 Shipt 購物者的理想化版本。希普特
商業(yè)模式依賴零工的公司有興趣保持其算法的不透明性。這種“信息不對稱”有助于公司更好地控制員工——他們在不泄露細(xì)節(jié)的情況下設(shè)定條款，而員工唯一的選擇是是否接受這些條款。例如，這些公司可以每周改變薪酬結(jié)構(gòu)，通過實驗來了解他們能支付多少工資，同時仍然讓工人接受工作。沒有技術(shù)原因說明為什么這些算法需要成為黑匣子;真正的原因是維持權(quán)力結(jié)構(gòu)。

對于 Shipt 員工來說，收集數(shù)據(jù)是獲得影響力的一種方式。索利斯啟動了一個社區(qū)驅(qū)動的研究項目，該項目正在收集良好的數(shù)據(jù)，但效率低下。我想自動化他的數(shù)據(jù)收集，這樣他就可以更快、更大規(guī)模地完成。起初，我以為我們會創(chuàng)建一個網(wǎng)站，讓員工可以上傳他們的數(shù)據(jù)。但索利斯解釋說，我們需要建立一個系統(tǒng)，讓員工只需用手機就能輕松訪問，他認(rèn)為基于短信的系統(tǒng)將是吸引員工的最可靠方式。

基于該輸入，我創(chuàng)建了一個文本機器人：任何 Shipt 員工都可以將他們的工資收據(jù)屏幕截圖發(fā)送到文本機器人，并獲得包含有關(guān)他們情況信息的自動回復(fù)。我用簡單的 Python 腳本編寫了文本機器人代碼，并在我的家庭服務(wù)器上運行它;我們使用一個名為 Twilio 的服務(wù)來發(fā)送和接收文本。該系統(tǒng)使用光學(xué)字符識別技術(shù)（與在PDF文件中搜索單詞的技術(shù)相同）來解析屏幕截圖的圖像并提取相關(guān)信息。它從 Shipt 那里收集了有關(guān)工人工資的詳細(xì)信息、客戶的任何提示以及工作的時間、日期和地點，并將所有內(nèi)容都放入 Google 電子表格中。字符識別系統(tǒng)很脆弱，因為我對它進(jìn)行了編碼，以便在屏幕截圖的某些位置查找特定信息。項目開始幾個月后，當(dāng) Shipt 進(jìn)行更新時，工人的工資收據(jù)突然看起來不同，我們不得不爭先恐后地更新我們的系統(tǒng)。

除了公平的薪酬，工人還希望透明度和能動性。

每個發(fā)送屏幕截圖的人都有一個與他們的電話號碼綁定的唯一 ID，但我們收集的唯一人口統(tǒng)計信息是工人的都會區(qū)。從研究的角度來看，看看工資率是否與其他人口統(tǒng)計數(shù)據(jù)（如年齡、種族或性別）有任何聯(lián)系會很有趣，但我們希望向員工保證他們的匿名性，這樣他們就不會擔(dān)心 Shipt 僅僅因為他們參與了這個項目而解雇他們。從技術(shù)上講，共享有關(guān)其工作的數(shù)據(jù)違反了公司的服務(wù)條款;令人驚訝的是，工人——包括被歸類為“獨立承包商”的零工——往往對自己的數(shù)據(jù)沒有權(quán)利。

一旦系統(tǒng)準(zhǔn)備就緒，索利斯和他的盟友就通過郵件列表和Facebook和WhatsApp上的工人團體傳播了這一消息。他們稱該工具為購物者透明度計算器，并敦促人們發(fā)送屏幕截圖。一旦一個人發(fā)送了 10 張屏幕截圖，他們就會收到一條消息，其中包含對他們特定情況的初步分析：該工具確定該人是否在新算法下獲得報酬，如果是，它會說明如果 Shipt 沒有改變其薪酬系統(tǒng)，他們會多賺多少錢。工人還可以要求提供有關(guān)他們的收入中有多少來自小費以及他們都會區(qū)其他購物者的收入的信息。

Shipt Pay 算法如何縮短工人
截至 2020 年 10 月，我們收到了來自 200 多名工人的 5,600 多張屏幕截圖，我們暫停了數(shù)據(jù)收集以處理這些數(shù)字。對于在新算法下獲得報酬的購物者，我們發(fā)現(xiàn)40%的工人的收入比在舊算法下低10%以上。更重要的是，通過查看所有地理區(qū)域的數(shù)據(jù)，我們發(fā)現(xiàn)大約三分之一的工人的收入低于所在州的最低工資。
這并不是一個明顯的工資盜竊案例，因為在新計劃下，60%的工人的收入大致相同或略高。但我們認(rèn)為，重要的是要關(guān)注那些通過黑匣子過渡而突然減薪的 40% 的工人。
除了公平的薪酬，工人還希望透明度和能動性。這個項目凸顯了 Shipt 工人為獲得這種透明度付出了多少努力和基礎(chǔ)設(shè)施：需要積極進(jìn)取的工人、一個研究項目、一個數(shù)據(jù)科學(xué)家和定制軟件來揭示有關(guān)這些工人狀況的基本信息。在一個更公平的世界里，工人擁有基本的數(shù)據(jù)權(quán)利，法規(guī)要求公司披露他們在工作場所使用的人工智能系統(tǒng)的信息，這種透明度將默認(rèn)提供給工人。
我們的研究沒有確定新算法是如何得出其支付金額的。但 Shipt 技術(shù)團隊在 2020 年 7 月的一篇博客文章中談到了該公司擁有的有關(guān)其合作商店規(guī)模的數(shù)據(jù)，以及他們計算購物者在空間中走動需要多長時間的數(shù)據(jù)。我們最好的猜測是，Shipt的新支付算法估計了工人完成訂單所需的時間（包括在商店中尋找商品所花費的時間和開車時間），然后嘗試每小時支付15美元。似乎被減薪的工人花費的時間可能比算法預(yù)測的要多。

索利斯和他的盟友利用這些結(jié)果來吸引媒體的關(guān)注，因為他們在阿拉巴馬州伯明翰的希普特總部和明尼阿波利斯的塔吉特總部組織了罷工、抵制和抗議活動。他們要求與希普特的高管會面，但他們從未得到公司的直接回應(yīng)。它對媒體的聲明含糊其辭，只說新的支付算法根據(jù)工作所需的努力來補償工人，并暗示工人占了上風(fēng)，因為他們可以“選擇是否接受訂單”。

抗議活動和新聞報道對工人條件有影響嗎？我們不知道，這令人沮喪。但是我們的實驗為其他希望使用數(shù)據(jù)進(jìn)行組織的零工工作者提供了一個榜樣，它提高了人們對算法管理缺點的認(rèn)識。我們需要的是平臺商業(yè)模式的大規(guī)模改變。

算法管理的未來？
自 2020 年以來，已經(jīng)向前邁出了幾步充滿希望的一步。歐盟最近就一項旨在改善零工工人條件的規(guī)則達(dá)成了協(xié)議。所謂的“平臺工人指令”與最初的提案相比大大淡化，但它確實禁止平臺收集有關(guān)工人的某些類型的數(shù)據(jù)，例如生物識別數(shù)據(jù)和有關(guān)其情緒狀態(tài)的數(shù)據(jù)。它還賦予工人有關(guān)平臺算法如何做出決策的信息的權(quán)利，并有權(quán)審查和解釋自動化決策，并由平臺支付獨立審查費用。雖然許多工人權(quán)利倡導(dǎo)者希望該規(guī)則走得更遠(yuǎn)，但它仍然是監(jiān)管的一個很好的例子，它控制了平臺的不透明性，并賦予工人一些尊嚴(yán)和能動性。
一些關(guān)于零工數(shù)據(jù)權(quán)利的辯論甚至已經(jīng)進(jìn)入了法庭。例如，英國的 Worker Info Exchange 在 2023 年贏得了針對 Uber 的訴訟，該訴訟涉及其解雇兩名司機的自動決定。法院裁定，必須向司機提供有關(guān)他們被解雇原因的信息，以便他們能夠有意義地挑戰(zhàn)機器人解雇。
在美國，紐約市通過了該國第一部針對零工的最低工資法，去年該法律在DoorDash、Uber和Grubhub的法律挑戰(zhàn)中幸存下來。在新法律出臺之前，該市已經(jīng)確定其 60,000 名送貨工人的平均時薪約為 7 美元;法律將費率提高到每小時約20美元。但法律對零工工作中的權(quán)力失衡無能為力——它沒有提高工人確定工作條件、獲取信息、拒絕監(jiān)視或?qū)Q定提出異議的能力。
在世界其他地方，零工工作者正在聚集在一起，想象替代方案。一些送貨員已經(jīng)開始了工人擁有的服務(wù)，并加入了一個名為CoopCycle的國際聯(lián)合會。當(dāng)員工擁有平臺時，他們可以決定要收集哪些數(shù)據(jù)以及如何使用這些數(shù)據(jù)。在印度尼西亞，快遞員創(chuàng)建了“大本營”，他們可以在那里為手機充電、交換信息并等待下一個訂單;有些甚至建立了非正式的應(yīng)急響應(yīng)服務(wù)和類似保險的系統(tǒng)，以幫助發(fā)生交通事故的快遞員。
雖然希普特工人的反抗和審計的故事沒有童話般的結(jié)局，但我希望它仍然能激勵其他零工工人以及工作時間越來越受到算法控制的輪班工人。即使他們想更多地了解算法如何做出決策，這些工人也往往無法獲得數(shù)據(jù)和技術(shù)技能。但是，如果他們考慮有關(guān)工作條件的問題，他們可能會意識到他們可以收集有用的數(shù)據(jù)來回答這些問題。還有一些研究人員和技術(shù)人員有興趣將他們的技術(shù)技能應(yīng)用于此類項目。
零工并不是唯一應(yīng)該關(guān)注算法管理的人。隨著人工智能逐漸滲透到我們經(jīng)濟的更多領(lǐng)域，白領(lǐng)發(fā)現(xiàn)自己受到自動化工具的影響，這些工具定義了他們的工作日并判斷了他們的表現(xiàn)。
在 COVID-19 大流行期間，當(dāng)數(shù)以百萬計的專業(yè)人士突然開始在家工作時，一些雇主推出了軟件，可以捕獲員工計算機的屏幕截圖，并通過算法對他們的生產(chǎn)力進(jìn)行評分。不難想象，當(dāng)前生成式人工智能的繁榮將如何建立在這些基礎(chǔ)之上：例如，大型語言模型可以消化員工寫的每封電子郵件和 Slack 消息，為管理人員提供員工生產(chǎn)力、工作習(xí)慣和情緒的摘要。這些類型的技術(shù)不僅損害了人們的尊嚴(yán)、自主權(quán)和工作滿意度，還造成了信息不對稱，限制了人們挑戰(zhàn)或談判工作條款的能力。

我們不能讓它走到這一步。零工工人正在進(jìn)行的戰(zhàn)斗是爭取工作場所權(quán)利的更大戰(zhàn)爭的領(lǐng)先戰(zhàn)線，這將影響我們所有人?，F(xiàn)在是時候定義我們與算法的關(guān)系了。