AI是否可以讓我們躺平？數(shù)字技術(shù)能否帶來數(shù)字文明？

5 人類還被需要嗎？人機(jī)關(guān)系應(yīng)該是怎樣的？

主持人：從另一個(gè)層面去考慮：我們可不可以躺平了？現(xiàn)在比較流行的兩個(gè)關(guān)鍵詞：無人，自主。機(jī)器越來越自主了，接下來我們?nèi)祟愒絹碓讲槐恍枰?。過去我們的手不需要了——大吊車代替了我們的手；接下來腿也少需要、不需要了，因?yàn)橛辛舜焦ぞ摺嚒w機(jī)等；我們整個(gè)的器官都被替代了；接下來有了大模型以后，我們的思想甚至也被替代了——現(xiàn)在很多文秘工作可以用大模型來做了。那么在這個(gè)時(shí)代，我們?nèi)诉€被需要嗎？這有點(diǎn)靈魂質(zhì)問了。在新的數(shù)字文明時(shí)代，人機(jī)關(guān)系應(yīng)該是怎樣的？

吳國(guó)盛（清華科學(xué)史）：未來人還有人的用處。這是維納（1894-1964，美國(guó)）的一句問題，是非常好的問題。數(shù)字文明是信息驅(qū)動(dòng)的（注：過去的文明有物質(zhì)驅(qū)動(dòng)的，有能量驅(qū)動(dòng)的），信息驅(qū)動(dòng)的本質(zhì)是計(jì)算/ 信息處理，而計(jì)算的背后是控制，這很重要，意味著現(xiàn)代科學(xué)、數(shù)字化的目標(biāo)是為了控制自然。不過，現(xiàn)在的數(shù)字技術(shù)不僅是控制自然，還控制社會(huì)，這就引發(fā)了一個(gè)非常深刻的問題：數(shù)字技術(shù)本質(zhì)上是一種權(quán)力重新洗牌的技術(shù)。在洗牌過程中，公平、正義、善的問題就出現(xiàn)了。

過去就存在這個(gè)問題，例如有刀、鐵劍的民族，相比沒有的民族，力量會(huì)逆轉(zhuǎn)。蒸汽動(dòng)力也是一樣，它把工人淪為非?？蓱z的角色?，F(xiàn)在的數(shù)字時(shí)代，是不是所有人被卷入了？例如是否會(huì)用一個(gè)軟件有很大的差別（例如在疫情期間，有些老人不會(huì)用智能手機(jī)的打車軟件，叫出租車都很麻煩），這是非?，F(xiàn)實(shí)的一個(gè)問題。

數(shù)字技術(shù)的智能化特征是控制論特征。因?yàn)橹悄芎?/span>大一部分是控制。智能特征進(jìn)一步把人的問題又提出來了：什么是人？過去說人有智能。那么現(xiàn)在機(jī)器也有智能，是不是機(jī)器也是人？實(shí)際上，計(jì)算機(jī)產(chǎn)業(yè)過分放大了人的智能部分。人有知、情、意三部分，除了有智能之外，人還有脾氣、審美等。例如有人認(rèn)為游戲是一種非功利行為，所以游戲這件事情很有意思，現(xiàn)在有游戲產(chǎn)業(yè)，游戲能成為產(chǎn)業(yè)，不僅是里面的智能行為，更多的是里面的審美行為、娛樂行為。所以從這個(gè)意義上看，吳國(guó)盛老師（清華科學(xué)史）并不像很多人那么悲觀，覺得機(jī)器出來以后就怎么著了，因?yàn)橹橐饫锏那楹鸵獾牟糠?，現(xiàn)在機(jī)器恐怕是沒法做到的。

主持人：AI正在走向知、情、意的全面合一。

吳國(guó)盛（清華科學(xué)史）：知情意里的情和意的知化，即希望通過知的方式把情和意給消解掉。你說你有脾氣嗎？其實(shí)你也沒什么脾氣，無非就是你體內(nèi)某些元素的發(fā)作，用元素替代一下，你就沒脾氣了。這實(shí)際上還是一種唯知論的傳統(tǒng)，而且這是比較危險(xiǎn)的一種行為。

所以我們還是要在數(shù)字文明時(shí)代弘揚(yáng)更人性化。何謂更人性化？就是非知部分的意義和重要性。這部分我們始終要記住。因?yàn)槿绻麤]有這部分，就不知道智能產(chǎn)業(yè)將向哪個(gè)方向發(fā)展，因?yàn)楫a(chǎn)業(yè)的發(fā)展首先要合乎人性本身的需要。

人性有什么需要？單憑大數(shù)據(jù)能不能做得到？局部是可以的，但是否能完全分析出來，還很難預(yù)判。

吳飛（浙大AI）：補(bǔ)充兩個(gè)方面。這是一個(gè)辯證的問題。不可否認(rèn)，AI 現(xiàn)在已經(jīng)極大地提升了人類生產(chǎn)、生活和學(xué)習(xí)的能力和效率。但是AI還有很多無法解決的問題，例如因?yàn)锳I 的無能所引發(fā)的倫理問題，還有隱私泄漏、大數(shù)據(jù)殺熟等危害。這些不是AI 故意在作惡，而是AI 技術(shù)水平現(xiàn)在還無法滿足倫理和道德要求。所以發(fā)明一個(gè)機(jī)器或AI 系統(tǒng)出來，并不是想要人類來奴役人類，而是讓人類的生產(chǎn)生活效率更高效。這是從正面來看AI。

同時(shí)，AI 確實(shí)也造成了一些困擾，我們也不能對(duì)這些熟視無睹。所以我們又必須要制定相應(yīng)的法律法規(guī)和道德制度，約束AI 可能產(chǎn)生的不良后果。

所以并不是我們需要去躺平。此次CNCC大會(huì)上，趙春江院士談了在用機(jī)器摘果子[2]，盡管如此，人類還是有很多行為是AI 機(jī)器無法模擬的，人類絕對(duì)不能躺平。人有人的作用，我們應(yīng)該發(fā)揮主動(dòng)力，來把AI 改善和提高得更好，以更好地推動(dòng)我們?nèi)祟惿鐣?huì)的進(jìn)步。

6 從社會(huì)治理角度，人類應(yīng)該發(fā)揮哪些作用？

主持人：從社會(huì)治理的角度來看，我們?nèi)藨?yīng)該發(fā)揮哪些作用？

翟志勇（北航法學(xué)）：剛才主持人提出了一個(gè)問題，就是誰的數(shù)字文明？從兩個(gè)層面來回答。

●   第一個(gè)層面應(yīng)該是我們的共識(shí)：這一定是人的數(shù)字文明。例如10 月28 日上午論壇第一位講者——斯坦福大學(xué)終身名譽(yù)教授James Landay講的以人為核心的AI向善。

所以從這個(gè)意義上看，主持人擔(dān)心人會(huì)躺平。如果說躺平僅僅是指我們可以不去做那些重復(fù)、無意義的勞動(dòng)，躺平也很好，人們都?xì)g迎這種躺平。

但是主持人可能更關(guān)心的是另外的問題，就是人會(huì)不會(huì)被機(jī)器所取代、異化，人會(huì)不會(huì)喪失自主性、認(rèn)知能力？這確實(shí)是我們所要關(guān)心的第一個(gè)層面：如何在數(shù)字文明發(fā)展過程中，始終能夠堅(jiān)守人的自主性、以人為中心的地位。

●   另一個(gè)層面去回答誰的數(shù)字文明，會(huì)涉及剛才段偉文老師（社科院哲學(xué)）提到的問題：誰來去定義這樣一個(gè)文明？誰來給它設(shè)定標(biāo)準(zhǔn)？誰來評(píng)價(jià)它？這里會(huì)存在一個(gè)問題，像主持人提到的，我們更多的是從倫理、法律的角度去關(guān)注，可能更多的是去講：數(shù)字文明首先應(yīng)該是弱者、弱勢(shì)地位人的文明。

提到科技向善、科技不作惡，弱勢(shì)群體可能遭受數(shù)字文明帶來的損害更大。例如機(jī)器人摘蘋果會(huì)導(dǎo)致大量人失業(yè)，而失業(yè)的大部分人可能是處于社會(huì)底層的，他們無法成為技術(shù)的受益者?，F(xiàn)在大模型的出現(xiàn)造成的不是體力勞動(dòng)者的失業(yè)，而是一些腦力勞動(dòng)者的失業(yè)。為此，一些國(guó)家和地區(qū)的政府、當(dāng)局采取了干預(yù)措施，例如印尼、馬來西亞、印度等國(guó)禁止直播帶貨，原因之一是擔(dān)心破壞大量小企業(yè)主/ 小商戶的經(jīng)營(yíng)，由此導(dǎo)致大量失業(yè)。因?yàn)橘I家都去直播帶貨那里去買了，利潤(rùn)變成了主播、直播帶貨公司的利潤(rùn)，小企業(yè)主/ 小商戶等經(jīng)營(yíng)者怎么辦？社會(huì)必須要為底層人士提供最基本的生活保障和就業(yè)權(quán)利。

當(dāng)然，如果從消費(fèi)者角度看，我們可能歡迎直播帶貨，它給我們帶來了更好的商品展示，可能以更低的物價(jià)、更方便地進(jìn)行購(gòu)物，有更好的購(gòu)物體驗(yàn)。但從政策制定、學(xué)者研究的角度來看，它可能會(huì)導(dǎo)致大量人的失業(yè)，或者大量人因此遭受到無法掌控的損害。

所以從這個(gè)意義上看，在第二個(gè)層面中去關(guān)注“誰的數(shù)字文明”，應(yīng)該成為弱者的數(shù)字文明，弱者能夠從中受益，不會(huì)遭受不可控的侵害，這更為重要。

段偉文（社科院哲學(xué)）：人和計(jì)算機(jī)/AI 的差別，就是AI負(fù)責(zé)計(jì)算，人類負(fù)責(zé)判斷和決策。現(xiàn)在的問題是AI的計(jì)算能力越來越強(qiáng)大，反過來對(duì)人的判斷力和決策力提出了更高的要求，這可能是人類在數(shù)字文明時(shí)代面臨的重大挑戰(zhàn)。

主持人：這可能為人類提出了更高的要求。但是我們?nèi)丝赡苓€是傾向于懶惰的生活?？档拢?724—1804，德國(guó)）曾經(jīng)在啟蒙運(yùn)動(dòng)思想里有句重要的話：如果有個(gè)領(lǐng)袖來替我去思考，我是不是自己還會(huì)去思考問題？他那時(shí)還沒有預(yù)測(cè)到現(xiàn)在的機(jī)器時(shí)代，套用這句話就是：如果有一個(gè)機(jī)器替我思考……這個(gè)話題扯得太遠(yuǎn)了。剛剛翟志勇老師（北航法學(xué)）提到了誰的數(shù)字文明的時(shí)候，是從社會(huì)結(jié)構(gòu)上來講，希望最終技術(shù)應(yīng)該是能夠賦能社會(huì)底層，但目前的情況恰恰有可能帶來的是“強(qiáng)者越強(qiáng)，弱者越弱”的大失業(yè)。

在CNCC2023大會(huì)上，來自北大的經(jīng)濟(jì)學(xué)家張維迎教授做了一個(gè)報(bào)告，講到企業(yè)家精神和數(shù)字經(jīng)濟(jì)，按照張老師的觀點(diǎn)，數(shù)字經(jīng)濟(jì)本身應(yīng)該是資源自由競(jìng)爭(zhēng)的，因?yàn)樗胁淮_定性。翟志勇老師（北航法學(xué)）也反對(duì)壟斷。

但是另一方面，從數(shù)字經(jīng)濟(jì)、整個(gè)平臺(tái)經(jīng)濟(jì)的發(fā)展來看，實(shí)際上它帶來一個(gè)很大的問題：數(shù)字壟斷由一部分人掌握了，例如一些大平臺(tái)越來越多地滲透到生活的各個(gè)方面，收集了大量的數(shù)據(jù)，然后因?yàn)榻裉焖械腁I（科學(xué)、農(nóng)業(yè)等）都是要靠數(shù)字來喂的，大模型也要靠數(shù)字，帶來了數(shù)字牽引。這樣一來，這是不是就有點(diǎn)悖論：一方面我們要自由競(jìng)爭(zhēng)；但另一方面還是需要政策、法律的干預(yù)，而不能完全自由。是不是這個(gè)意思？

翟志勇（北航法學(xué)）：數(shù)字文明應(yīng)該是弱者的數(shù)字文明，但這并不是反對(duì)強(qiáng)者或者反對(duì)技術(shù)，而是技術(shù)或數(shù)字文明的發(fā)展應(yīng)該是在保障弱者基本權(quán)益的基礎(chǔ)之上去展開競(jìng)爭(zhēng)和發(fā)展的。一方面?zhèn)惱韺W(xué)家、法學(xué)家或公共政策制定者提出一系列的要求、指標(biāo)；另一方面，技術(shù)專家通過技術(shù)可以實(shí)現(xiàn)這些目標(biāo)。可能這里缺少二者聯(lián)通的管道，法律上叫正當(dāng)程序。實(shí)際上是以最終的一個(gè)程序去保證最終的結(jié)果。在技術(shù)領(lǐng)域中探討這個(gè)問題也是這樣，應(yīng)該有一個(gè)公平的程序來實(shí)現(xiàn)技術(shù)的正當(dāng)程序。在這個(gè)過程中，使得倫理學(xué)者、公共政策的制定者、技術(shù)專家、企業(yè)等能夠在這樣一個(gè)公平的程序里去展開討論，并且制定出有效的技術(shù)標(biāo)準(zhǔn)、公共政策的標(biāo)準(zhǔn)等，而不是任何一方給予對(duì)方一個(gè)必須要接受的東西。所以要有正當(dāng)程序這樣一個(gè)管道，使得所有的相關(guān)利益方都能參與進(jìn)去。

7 小結(jié)

吳飛（浙大AI）：信息技術(shù)和AI 的發(fā)展是人類從農(nóng)耕時(shí)代、工業(yè)文明時(shí)代累積起來的文明，這必然會(huì)成為馬克思所言的普遍智能，為我們每個(gè)人所用，這也是數(shù)字文明追求的目標(biāo)之一。

段偉文（社科院哲學(xué)）：數(shù)字文明延續(xù)了計(jì)算機(jī)控制論，是把人類和機(jī)器當(dāng)成一個(gè)行為者的的思路。換句話，數(shù)字文明時(shí)代最重要的一點(diǎn)是出現(xiàn)了計(jì)算機(jī)作為社會(huì)的行動(dòng)者，作為一個(gè)第三者，就好像出租車司機(jī)和乘客之間有導(dǎo)航一樣，所以我們將來要面對(duì)這種AI 體，它跟人類怎樣相處？它會(huì)不會(huì)成為我們的導(dǎo)師、偶像或精神上的權(quán)威？這里有太多需要思考的地方。

翟志勇（北航法學(xué)）：ChatGPT 橫空出世之后，美國(guó)國(guó)會(huì)對(duì)安全等一系列問題非常關(guān)注，所以ChatGPT之父——OpenAI 的CEO山姆·阿爾特曼(Sam Altman)也去國(guó)會(huì)作證，他作為大模型技術(shù)領(lǐng)先者，呼吁政府對(duì)大模型進(jìn)行監(jiān)管。不僅是美國(guó)國(guó)會(huì)，他呼吁全世界都要對(duì)它進(jìn)行監(jiān)管。由此想到，數(shù)字文明可能更需要技術(shù)開發(fā)者、技術(shù)企業(yè)來參與到倫理、標(biāo)準(zhǔn)、法律公共政策的制定中，這樣才能從公共政策的角度制定出更適合技術(shù)發(fā)展、技術(shù)向善、不做惡的法律與公共政策。因此希望技術(shù)人員能夠加入到這個(gè)領(lǐng)域里，而不僅僅是社科人員走到技術(shù)人員的領(lǐng)域里。

古天龍（暨大可信AI）：希望技術(shù)融入人文社科來進(jìn)行社會(huì)治理，即法律、倫理、道德、技術(shù)多管齊下，呼吁重視技術(shù)治理維度。希望加強(qiáng)數(shù)字技術(shù)治理，提升全民素質(zhì)素養(yǎng)，促進(jìn)數(shù)字文明建設(shè)。

吳國(guó)盛（清華科學(xué)史）：技術(shù)不是中性的，數(shù)字技術(shù)也不是中性的。任何一項(xiàng)技術(shù)的大規(guī)模深入發(fā)展，必然帶來文明新形態(tài)的產(chǎn)生。在今天數(shù)字技術(shù)正在方興未艾地發(fā)展，我們提前提出數(shù)字文明的概念，以此來規(guī)范數(shù)字技術(shù)的發(fā)展，使之朝著有利于人類福祉、健康和幸福生活的方向發(fā)展這一概念，是特別值得稱道的。

主持人：CNCC 大會(huì)主要是討論數(shù)字技術(shù)的，參與者可能更多地盯在器物層面。但是大會(huì)主席在確定這個(gè)題目的時(shí)候，站到了更高的層面，來從整個(gè)人類發(fā)展的歷史和文明形態(tài)的變更上來去考慮這樣的問題。數(shù)字技術(shù)不等于數(shù)字文明，建設(shè)數(shù)字文明，不僅需要技術(shù)，還需要相應(yīng)的所有上層建筑的一起參與。

參考文獻(xiàn)：

[1] 王瑩.如何做好工業(yè)IT和OT的融合.EEPW,2023(12):20-27.

[2] 迎九.院士觀察:我國(guó)智慧農(nóng)業(yè)的現(xiàn)狀與展望. EEPW,2024(1-2):56-59.

（本文來源于《EEPW》2024.3）