馬克·麥卡錫：機器學習算法中的政治

　　公元前1200年左右，殷商時期的中國就發(fā)展出了工廠制，鑄造出成千上萬尊大型青銅器皿供日常生活和典禮儀式使用。在這個關于大規(guī)模生產(chǎn)的古代案例中，需要事先制定精細的計劃，對大批工人進行分組協(xié)調(diào)，確保每組工人按部就班地逐項執(zhí)行任務，才能鑄造出青銅器。

　　一千年以后，中國迎來了首位皇帝秦始皇，他著名的兵馬俑軍隊也是通過同樣復雜的流程制造出來的。舊金山亞洲藝術博物館的資料顯示，兵馬俑雕像是“通過一套裝配生產(chǎn)體系塑造燒制而成，這一體系為后世的大規(guī)模商業(yè)生產(chǎn)鋪平了道路?！?/p>

　　有學者推測，這些早期的規(guī)范性操作技術對塑造中國社會發(fā)揮了重要作用，例如使人們更容易接受官僚機構及其背后那套強調(diào)等級的社會哲學，接受“只有一種正確的行事方式”的觀念。

　　19世紀，當工業(yè)廠房最初出現(xiàn)在歐洲時，即使連恩格斯等資本主義的嚴厲批評者也承認，無論采用資本主義還是社會主義經(jīng)濟體系，大規(guī)模生產(chǎn)都會使中央集權成為必需。在20世紀，蘭登·溫納(Langdon Winner)等理論家將這一思路擴展到其他技術領域。例如，他認為原子彈應被視為一種“具有內(nèi)生政治屬性的人工制品”，因為其“高度致命性決定了它應該由集權式、嚴格層級化的指揮鏈來控制”。

　　今天，我們可以把這個思路再往前推進一步。機器學習算法(machine-learning algorithms)已成為當今最重要的通用技術，這些算法利用真實世界中的范例來模擬人類認知能力，已經(jīng)在現(xiàn)實工作場所中廣為應用。然而，為了充分利用這些技術，發(fā)揮算法的優(yōu)勢，各類組織必須將人工任務重新定義為預測任務(prediction task)。

　　機器學習算法的關鍵特征之一是，其性能會隨著數(shù)據(jù)量增加而提高。因此，應用算法本身就會產(chǎn)生一種技術動力：將人的各類信息視為可記錄、可訪問的數(shù)據(jù)。就像大規(guī)模生產(chǎn)體系一樣，這些數(shù)據(jù)也“具有內(nèi)生政治屬性”，因為其核心功能傾向于肯定某些社會實踐，否定另一些行為，尤其與人類個體維護隱私的意愿直接沖突。

　　在美國社會學家阿米塔伊·埃茨昂尼(Amitai Etzioni)等社群主義者的眼里，建立在社群成員信息公開化基礎之上的體系似乎是經(jīng)得起檢視的。對他們而言，對隱私的種種限制只是執(zhí)行社會規(guī)范的一種手段。但計算機算法與社群主義者不同，它不關心社會規(guī)范，只關心如何通過將人類生活轉(zhuǎn)化為可供開采的數(shù)據(jù)集，并基于此更準確地做預測。

　　科技勢在必行的力量在不經(jīng)意間把信奉個人主義的西方人轉(zhuǎn)變?yōu)樯缛褐髁x者，使他們更仰賴于以算法評估為基礎的賢能主義體制。無論是在工作、學習，還是約會類應用程序中，我們都已經(jīng)習慣于使用不具人格的工具來評估人們的資格，并為我們在層級結構中分配位置。

　　可以肯定的是，算法評估不是什么新鮮的概念。一代人以前，奧斯卡·甘迪(Oscar H. Gandy)等學者就曾告誡人們：社會正在轉(zhuǎn)向“得分+排名”模式，我們需要建立責任和補償機制來彌補由技術造成的錯誤。與今天的機器學習算法不同，當時的評估工具比較容易理解，它們是根據(jù)相關規(guī)范性和經(jīng)驗性因素來做決策的，例如，拖欠信用卡賬單導致債臺高筑會損害一個人的信用度——這不是什么秘密。

　　與此相對，新的機器學習技術則致力于深度挖掘大型數(shù)據(jù)集，以期發(fā)現(xiàn)人們可預測但無法完全理解的某些相關性。在工作場所，算法能夠監(jiān)測員工的對話，了解他們在哪吃午飯，在電腦前、電話上和會議中分別花了多少時間，再通過這些數(shù)據(jù)搭建出復雜的生產(chǎn)效率模型，遠超人類基于常識的直覺。在基于算法的賢能主義體制中，模型得出的結論就是我們追求卓越的新標準。

　　這并不等于技術宿命論。我們要趕在技術塑造人類之前塑造技術。商業(yè)領袖和政策制定者可以根據(jù)自身機構的需求，有選擇性地開發(fā)和部署他們想要的技術。我們有能力在人類生活的敏感領域布置隱私防護網(wǎng)，防止數(shù)據(jù)被用來制造傷害，并要求算法設計要在預測準確性與公平性、責任制和透明度之間取得平衡。

　　如果我們遵循算法的自然邏輯，文化將無可避免地朝賢能主義和社群主義的方向發(fā)展。這種平穩(wěn)的轉(zhuǎn)型將對西方的民主制度和政治結構產(chǎn)生深遠的影響。正如研究中國的學者貝淡寧和張維為所指出的那樣，中國不斷發(fā)展的社群主義體制為西方自由主義民主傳統(tǒng)提供了主要的替代性政治選擇。

　　中國體制允許公民參與地方選舉，而國家領導人則通過賢能政治程序來選拔。領導人被認為是人民福祉的監(jiān)護者。自由民主國家不太可能完全采取這樣的政治體制。但如果商業(yè)和消費文化按目前的趨勢發(fā)展下去，西方可能越來越多地轉(zhuǎn)向中國式的賢能主義和社群主義傳統(tǒng)，逐漸遠離個人主義和自由民主的歷史傳統(tǒng)。而如果要避免這一轉(zhuǎn)向，我們必須把政治置于技術之上。