AI是否可以讓我們躺平？數(shù)字技術(shù)能否帶來數(shù)字文明？

數(shù)字文明是否可以看作是一種新的文明形態(tài)？這是誰的數(shù)字文明？如何構(gòu)建數(shù)字文明？2023 年 10 月 26-28 日，CNCC2023（ 2023 中國計算機大會）在沈陽召開。在 10 月 28 日上午舉辦了論壇《數(shù)字文明何以可能？》，來自社會科學(xué)和計算機領(lǐng)域的教授圍繞數(shù)字文明的可能性與挑戰(zhàn)展開了思想對話。

從左至右

主持人：王國豫：CCF職業(yè)倫理與學(xué)術(shù)道德委員會主席，教育部長江學(xué)者特聘教授，中國科協(xié)-復(fù)旦大學(xué)科技倫理與人類未來研究院院長

特邀嘉賓：吳國盛：清華大學(xué)科學(xué)史系系主任，科學(xué)史和哲學(xué)系的雙聘教授，國務(wù)院學(xué)位委員會科技史學(xué)科評議組成員；古天龍：暨南大學(xué)教授，可信AI教育部工程研究中心主任，原桂林電子科技大學(xué)校長，教育部高等學(xué)校計算機類專業(yè)教學(xué)指導(dǎo)委員會的副主任委員；翟志勇：北京航天航空大學(xué)法學(xué)教授，社會法研究中心主任，中國科協(xié)北京航天航空大學(xué)科技組織與公共政策研究所副院長；段偉文：中國社會科學(xué)院哲學(xué)所科技哲學(xué)研究室主任、研究員，中國社會科學(xué)院科學(xué)技術(shù)和社會研究中心主任；吳飛：浙江大學(xué)上海高等研究院常務(wù)副院長，浙江大學(xué)AI研究所所長、教授，浙江大學(xué)求是特聘教授，博士生導(dǎo)師

1 數(shù)字文明已經(jīng)到來了嗎？

主持人：CNCC大會主要是圍繞數(shù)字開展的，上天入地都是數(shù)，好像進入了畢達哥拉斯（約公元前580年-500（490）年，古希臘）提出的萬物皆數(shù)的世界，例如數(shù)字工業(yè)^[1]、數(shù)字農(nóng)業(yè)^[2]、數(shù)字經(jīng)濟、數(shù)字金融……。那么，數(shù)字文明是不是就真的已經(jīng)到來了？這是不是就是數(shù)字文明？

在這個被數(shù)字包圍的世界，我們幾乎可以躺平了。例如，通過數(shù)字農(nóng)業(yè)^[2]的講演，可知今后種地也用不著人了?，F(xiàn)在，數(shù)字平臺能把我們的飯送到門口——我們可以坐在家里等著吃飯就行了。這是不是就是數(shù)字文明？

首先，需要給數(shù)字文明有個界定。各位嘉賓所理解的數(shù)字文明是什么？

吳國盛（清華科學(xué)史）：文明基于技術(shù)，這毫無問題。例如史前文明有舊石器文明、新石器文明，之后有青銅文明、黑鐵文明……。所以在人類歷史或史前史時期，文明的形態(tài)首先根源于技術(shù)。

因此，如果數(shù)字技術(shù)成為了我們這個時代占支配地位的影響技術(shù)，當(dāng)然我們可以合情合理地說：某種基于數(shù)字技術(shù)的數(shù)字文明正在冉冉升起。所以這個說法問題不大。

但是也打個補?。和ǔ＿@種文明的名稱是由后人追認的，當(dāng)時的人不知道自己處在什么文明之中。例如，舊石器時代的人不知道自己處于舊石器時代，新石器時代的人也不知道自己處在新石器時代，這是追認的結(jié)果。所以數(shù)字技術(shù)的發(fā)展時間并不長，至今只有幾十年，我們現(xiàn)在說自己的技術(shù)是數(shù)字文明可能也要慎重。

當(dāng)然，近代這種通過自我命名、自詡的方式來規(guī)范當(dāng)下的文明走向，也是有先例的。例如，雖然“中世紀(jì)”這個詞是由文藝復(fù)興時期的人給追認的，但是文藝復(fù)興是文藝復(fù)興人自己定的。所以近代以來，這種為自己確立時代特征、標(biāo)明時代的命名，以此來為自己的時代制定一些規(guī)則，也是可以的。

所以這一補丁仍然是可以的，仍然可以講“數(shù)字文明”。

古天龍（暨大可信AI）：完善的數(shù)字技術(shù)治理以及良好的素質(zhì)素養(yǎng)教育，應(yīng)該是數(shù)字文明所必備的兩個方面。

首先，只有通過數(shù)字技術(shù)的完善治理，才能保障數(shù)字技術(shù)的科技向善、造福人類。其次，具有良好的素質(zhì)素養(yǎng)，才能全民（包括從業(yè)人員、社會公民等）跟技術(shù)進步實現(xiàn)良性的互動，最終實現(xiàn)數(shù)字文明的持續(xù)健康發(fā)展。

翟志勇（北航法學(xué)）：通常可以從器物、觀念和制度三個層面去衡量一個社會的文明。制度層面上，可以把法律和公共政策視為一個社會文明的刻度。社會中的相關(guān)法律、制度種類越豐富，證明社會在這個領(lǐng)域中的文明刻度會更高一些。

如果從這個標(biāo)準(zhǔn)來衡量，會發(fā)現(xiàn)進入21 世紀(jì)之后，無論是中國還是世界其他國家在數(shù)字領(lǐng)域中的立法及公共政策都在飛速增加。尤其近幾年，包括中國、歐盟及美國等國家和地區(qū)在這個領(lǐng)域有大量的立法出現(xiàn)，因此如果從制度角度去衡量，數(shù)字文明已經(jīng)來臨，并且我們生活于其中，因為我們有大量的問題需要法律、公共政策去處理。

段偉文（社科院哲學(xué)）：什么是數(shù)字文明？現(xiàn)在坐在嘉賓席上的段偉文可能就不是段偉文，是一個數(shù)字人，這就是數(shù)字文明。在上場之前5 分鐘，段偉文就用自動翻譯，幫他的微信公眾號自動地更新，增加了一個新的文章的條目。

所謂數(shù)字文明就是數(shù)字技術(shù)，它從根本上來改變我們存在的生產(chǎn)生活方式。而且和前面那些文明非常不同之處：它的發(fā)展是非常迅速的，以至于在這個時代曾有的大量技術(shù)產(chǎn)品，我們已把它們遺忘了。例如現(xiàn)在誰還知道復(fù)讀機？誰還在用Mp3 播放器聽音樂？所以數(shù)字文明以這種迅猛的速度發(fā)展，對我們的人類文明帶來一種根本性的改變。

這就需要我們從制度、文明、治理等方面跟上這個時代、文明的步伐，否則我們雖然進入了數(shù)字文明，但不一定能夠成為數(shù)字時代的文明人。

吳飛（浙大AI）：數(shù)字文明以數(shù)字化為基礎(chǔ)，以信息技術(shù)為核心，是邁進人、機、物互聯(lián)時代的當(dāng)下所有社會關(guān)系和社會活動的總和。

2 數(shù)字文明的要素與愿景

主持人：我們已經(jīng)觸及了數(shù)字文明的不同層次了。翟志勇老師（北航法學(xué)）提到數(shù)字文明涉及三個層面：器物、觀念和制度。吳國盛老師（清華科學(xué)史）指出，我們現(xiàn)在還處于數(shù)字文明的開端。

雖然我們已經(jīng)有了一些數(shù)字技術(shù)，數(shù)字文明在器物層面上也已經(jīng)發(fā)展到一定程度了，例如今天的AI技術(shù)已經(jīng)有了一定的發(fā)展了。如果我們更進一步地走向深度的數(shù)字文明，從技術(shù)史的角度看，每一次文明在更迭中，除了技術(shù)本身作為引擎以外，還有哪些推動數(shù)字文明的力量？

吳國盛（清華科學(xué)史）：翟志勇（北航法學(xué)）老師提到文明至少有三個形態(tài)：器物、制度和觀念。數(shù)字技術(shù)是一個龍頭。馬克思（1818-1883，德國）說技術(shù)是最具有革命性的力量，它總是能夠打碎一個舊的形態(tài)，創(chuàng)造一個新的形態(tài)。但是如果只是數(shù)字技術(shù)自己還做不到數(shù)字文明，它必須要撬動一些東西。

例如，從技術(shù)史上看，咱們中國人特別引以自豪的四大發(fā)明，雖然是中國人首創(chuàng)的，可是在中國社會里并沒有發(fā)生作用，中國社會并沒有因為四大發(fā)明成就一種新的文明形態(tài)，反而給歐洲人帶來了好處，迎來了一個嶄新的世界：從培根（1561-1626，英國）開始，馬克思也認為，大量印刷的《圣經(jīng)》使宗教改革成為可能；火藥炸毀了騎士階層，粉碎了封建領(lǐng)主階級；指南針開辟了世界航路，為創(chuàng)造新的資本主義全球市場準(zhǔn)備了條件。

所以關(guān)鍵的一點是你的技術(shù)革新如果不能轉(zhuǎn)化為一種為更廣泛的社會制度的變革或者創(chuàng)新的驅(qū)動力，那么這個技術(shù)就不能獲得新文明的命名權(quán)。

回到數(shù)字技術(shù)，也是一樣的道理。數(shù)字技術(shù)肯定最終要驅(qū)使創(chuàng)立一套新的制度，例如法律制度、倫理制度、文化制度等，當(dāng)然最后要引出觀念方面的內(nèi)容。所以這是關(guān)鍵。

今天在CNCC（計算機大會）上探討這件事，好像跟計算機專家們沒什么關(guān)系，其實技術(shù)本身就內(nèi)置了一些文化密碼、制度密碼，每一種技術(shù)就內(nèi)含了一些文明驅(qū)動的方向性和意向性。因此這個話題在CNCC 上探討并不是節(jié)外生枝、裝飾性的，而是具有內(nèi)在意義的。

主持人：是否可以僅憑數(shù)字技術(shù)的力量來獨撐這個文明形態(tài)？

吳飛（浙大AI）：有兩個觀點。

第一，我們正在邁向這一新的文明形態(tài)。剛才吳國盛老師（清華科學(xué)史）有句話講得非常到位：文明是由后面的人來定義我們現(xiàn)在的。例如我們已經(jīng)經(jīng)歷了農(nóng)耕時代和工業(yè)革命時代的文明。工業(yè)革命時代的文明的進入，是以蒸汽機的改良為主要代表——1776年左右瓦特改良了蒸汽機。此后，蒸汽機經(jīng)過100多年的緩慢發(fā)展，和紡織工業(yè)、交通工業(yè)、冶金工業(yè)等深度融合，才推動人類社會進入了工業(yè)文明的時代。

今天我們以數(shù)字化為基礎(chǔ)，以信息技術(shù)為核心，也將推動人類社會邁進更加廣闊的天地。我們正在這一個征程上，而不是說我們已經(jīng)完全實現(xiàn)了這種新的文明形態(tài)。只有信息技術(shù)、AI 等使能技術(shù)與農(nóng)業(yè)、工業(yè)、經(jīng)濟、醫(yī)療、教育等緊密結(jié)合，才會造就一種新的文明形態(tài)。

第二，這一技術(shù)和人類社會、包括我們每個人已經(jīng)緊密地聯(lián)系在一起。例如趙春江院士^[2]也匯報了智慧農(nóng)業(yè)的進展。由此，我們能否說我們已進入了數(shù)字農(nóng)業(yè)文明的時代？目前，無論數(shù)字農(nóng)業(yè)還是數(shù)字工業(yè)，還沒有和我們?nèi)司o密地聯(lián)系在一起。有了信息技術(shù)和AI 等技術(shù)，我們創(chuàng)造了一個非常龐大、復(fù)雜的空間。在這個空間里，技術(shù)、人、機、物已經(jīng)互相聯(lián)系在一起。所以傳統(tǒng)的只是規(guī)范人與人之間的行為倫理的概念和方法已經(jīng)不適用了，我們應(yīng)該去形成一種新的文明治理，來更好地規(guī)范人、機、物互聯(lián)時代的文化及發(fā)展。所以數(shù)字文明把技術(shù)和社會的屬性緊密地聯(lián)合起來，是與前面的文明形態(tài)不同的一個重要特點。

主持人：其他老師有沒有補充？

翟志勇（北航法學(xué)）：如果從以人類技術(shù)相關(guān)的文明史發(fā)展的脈絡(luò)來看，會發(fā)現(xiàn)一個很有趣的現(xiàn)象：先有這些文明出現(xiàn)，然后有一系列的反思。但是我們今天一方面在探討文明來沒來，另一方面又在這個文明剛剛來的時候，就開始去反思這個文明，反思涉及的倫理問題、法律問題等。因此就會發(fā)現(xiàn)數(shù)字文明的出現(xiàn)似乎從一開始就伴隨著對于這個文明的反思，這就回到剛才吳飛老師（浙大AI）所講到的，似乎這樣的文明和我們以前所經(jīng)歷的農(nóng)業(yè)文明、工業(yè)文明等不太一樣。

一開始數(shù)字文明就會帶有某一種特殊的文明密碼，包括對于隱私、安全、平等、反歧視等一系列人類文明的關(guān)注，是與技術(shù)發(fā)展同步的。而工業(yè)文明與此不同：工業(yè)文明在造成了一系列的人類災(zāi)難之后，人們才開始去反思，在制度上給予特別的處理，例如在工業(yè)文明發(fā)展后期，人們才開始去重視勞工保護、反對歧視等一系列問題。所以從這個角度來看，是不是也就意味著數(shù)字文明是其本身內(nèi)在的一個特性。

3 如何把文化、文明的觀念融入到數(shù)字技術(shù)中？

主持人：翟志勇老師（北航法學(xué)）的最后一句話，把前面兩位老師的觀點概括了，即今天的一些文化、觀念、制度等已經(jīng)自然而然地成為我們數(shù)字文明的一部分，而不僅僅是外部的。

我們今天正處在數(shù)字文明的起始階段，我們?nèi)绾螐囊婚_始就把一些文化、文明的觀念融入到數(shù)字技術(shù)之中，以更好地打造數(shù)字文明時代？

古天龍（暨大可信AI）：數(shù)字技術(shù)應(yīng)該是以AI 為核心引領(lǐng)的新技術(shù)。這項新技術(shù)跟傳統(tǒng)技術(shù)有異同之處。共同點是都有技術(shù)的兩面性：一方面造福人類，另一方面對社會帶來負面影響。

自古至今，科技的進步確實在為人類帶來進步、福利方面發(fā)揮了重大作用，以至于它的負面效應(yīng)很多時候被忽視了，或者本身就很小。例如原子能技術(shù)、生物領(lǐng)域的基因編輯、克隆技術(shù)等涉及了一些負面效果。今天以AI為引領(lǐng)的數(shù)字技術(shù)所帶來的挑戰(zhàn)和風(fēng)險也尤為嚴(yán)重。首先是偏見歧視問題，挑戰(zhàn)社會的公平正義；還有隱私泄露問題；以及責(zé)權(quán)歸屬等問題（注：在這種新情況下，人機關(guān)系深度融合，最后邊界模糊，我們責(zé)權(quán)怎么歸屬？）；還有價值對齊等問題。

對于這些問題，當(dāng)然數(shù)字技術(shù)本身應(yīng)該有一個治理機制，同時數(shù)字技術(shù)也應(yīng)該有外生的治理。所以數(shù)字技術(shù)治理是可能的、必須的。例如隱私泄露問題，現(xiàn)在我們有隱私計算、聯(lián)邦學(xué)習(xí)、差分隱私、匿名技術(shù)、密碼技術(shù)等。對于偏見歧視問題，現(xiàn)在有公平機器學(xué)習(xí)等公平感知方法。對于責(zé)權(quán)歸屬問題，有區(qū)塊鏈技術(shù)。對于價值對齊問題，有可以設(shè)計出具有道德和倫理意識的智能體。這一個方面可以通過自上而下的方式，輸入人們的傳統(tǒng)價值觀或倫理規(guī)則，讓機器學(xué)習(xí)這種倫理意識；另一方面可以自下而上地通過情景學(xué)習(xí)，讓AI 知道按照人類的行為模式去實施一些道德的決策和倫理行為。

當(dāng)然，也可以自上而下、自下而上相結(jié)合，去開展倫理道德的技術(shù)工作。

所以這些為人們進一步開展數(shù)字技術(shù)的治理提供了可能性，有些方面已經(jīng)有了實施的具體部署應(yīng)用。所以一方面國內(nèi)外上下都在全力以赴地開展AI 從業(yè)人員的職業(yè)操守和道德的規(guī)范，使技術(shù)研發(fā)能夠?qū)崿F(xiàn)數(shù)字技術(shù)的內(nèi)生治理。另一方面，在AI 的部署應(yīng)用中，要提升全民的素質(zhì)素養(yǎng)。當(dāng)然數(shù)字倫理也是個重要內(nèi)容，以此來推動數(shù)字文明的良序發(fā)展。

4 數(shù)字技術(shù)倫理問題由誰來解決？

主持人：有這么一個潛在的命題：數(shù)字技術(shù)倫理問題，大家都承認。企業(yè)在做，計算機從業(yè)人員也在做，這是不是就足夠了？過去科學(xué)家經(jīng)常有一句話，技術(shù)的問題還是由技術(shù)來治理。那么數(shù)字技術(shù)倫理問題也該由數(shù)字技術(shù)倫理治理？

段偉文（社科院哲學(xué)）：首先，要從哲學(xué)上對它有一個理解。計算機、AI、數(shù)字文明的核心是計算機。數(shù)字文明的核心就是計算機文明。從這個角度看，數(shù)字文明的起源是信息論和控制論。那么信息論和控制論那個時代，把人的心智想象成是像計算機一樣的。所以19世紀(jì)的經(jīng)典小說里往往有大段的心理描寫，但是到了20世紀(jì)中葉以后就沒有了，因為人的大腦就是輸入和輸出。所以無論是AI、計算機還是數(shù)字技術(shù)，首先改變了我們對人類自身（包括我們的智能）的認知，而這種改變本身是不是合理的？也還是需要思考。

第二，數(shù)字文明重要的是數(shù)字化的數(shù)據(jù)。有了數(shù)字化數(shù)據(jù)，就意味著在我們這個世界、生物圈之外形成了一個信息圈。在信息圈之上，德日進（1881-1955，法國）在《人的現(xiàn)象》、《人的未來》等書中提到人的進化，認為人類將來會有一個新階段。

因此這種思考實際上從上世紀(jì)50 年代到現(xiàn)在，我們一直有一種人文的批判或人文的恐慌。因為它實際上是要把所有人的智力和思考變成群體的智力和思考。所以美國動畫片《非凡的公主：希瑞》（注：1985 年推出國語版）里有一幕：在緊急的時候，主人公就會拔出劍，指天高喊“希瑞賜于我力量！”她就到了一個所謂的西格瑪點——世界上所有智能變成了一個統(tǒng)一體。

所以第二點就是：我們思考AI/數(shù)字文明的倫理問題時，我們還要思考我們想要的是一個什么樣的未來？在現(xiàn)實生活中，有數(shù)字成癮等問題，在此就不討論了。但是現(xiàn)在的AI 倫理最核心的一個問題是認知權(quán)利的問題，即：誰有權(quán)利收集、分析你的數(shù)據(jù)，掌握你的生物特征，甚至分析你的情感，然后再對它進行調(diào)控？

這是最重要的問題。所以現(xiàn)在已經(jīng)不再是我們在20年前講的數(shù)字鴻溝（注：誰能夠上網(wǎng)，誰擁有信息，誰是信息的窮人和富人等），而是現(xiàn)在誰可以把信息作為一種認知和調(diào)控的手段，用來掌握一定的權(quán)利和生產(chǎn)力。

所以在這種情況下，我們更多的還要思考AI 作為一種認知技術(shù)，它本身的合理性。

最后，我們當(dāng)然可以讓AI 具有道德，讓AI 實現(xiàn)價值對齊。但是問題是具有的是誰的道德？誰的價值？怎樣去對齊？因為在現(xiàn)實世界中，人們的道德價值觀是不同的。有了AI以后，它可以讓我們知道哪些話是不能說的，哪些話是有偏見、歧視的，但是難道這是文明應(yīng)該有的姿態(tài)嗎？難道我們?nèi)俗陨硪稽c都不能夠承受道德、價值上的偏差嗎？我們在現(xiàn)實生活中尚且可以爆粗口，計算機、深層次的AI 就不能爆粗口嗎？這個問題還沒有答案。倫理問題本身也還有更多要反思的地方。

這種反思的立場并不是反對對AI 進行倫理規(guī)制，而是思考怎樣讓倫理規(guī)制更符合人性，更符合文明的發(fā)展規(guī)律。就像吳國盛老師（清華科學(xué)史）剛才所講，我們并不能夠在這種文明剛開始的時候或到了某階段的時候去定義這種文明，如果把它拿到人類5000 年歷史、地球46 億年歷史中來看的話，如果給它這么快地下定義，可能為時過早。

主持人：哲學(xué)家是不斷地在自我反思。

關(guān)于如何打造數(shù)字文明，科學(xué)家和哲學(xué)家有不同的看法。段偉文老師（社科院哲學(xué)）提出了一個問題，就是認知的革命。AI帶來了認知革命，同時也帶來了社會權(quán)力結(jié)構(gòu)的變更，甚至影響了我們的人性。主持人聯(lián)想到了技術(shù)哲學(xué)，從技術(shù)哲學(xué)早期非常著名的代表卡普（1808-1896，德國）到蓋倫（1904-1976，德國）都講了技術(shù)是什么：技術(shù)可以彌補人的不足，減輕人的負擔(dān)，延伸人的手臂、器官，尤其是增強人的力量。CNCC大會10月27日上午的《大模型的研究進展與產(chǎn)業(yè)應(yīng)用展望》論壇上，出現(xiàn)了兩種截然不同的觀點：一種認為AI 尤其是大模型發(fā)展到這個階段，所帶來的倫理問題并不可怕，因為我們始終還是要把它控制在一個工具層面上。但是德國國家工程院院士張建偉認為AI也許未來可能會有意識，他也提到：如果有了意識，是不是就可以更好地分辨善與惡？這個問題涉及AI未來發(fā)展的方向。

5 人類還被需要嗎？人機關(guān)系應(yīng)該是怎樣的？

主持人：從另一個層面去考慮：我們可不可以躺平了？現(xiàn)在比較流行的兩個關(guān)鍵詞：無人，自主。機器越來越自主了，接下來我們?nèi)祟愒絹碓讲槐恍枰恕＿^去我們的手不需要了——大吊車代替了我們的手；接下來腿也少需要、不需要了，因為有了代步工具——汽車、飛機等；我們整個的器官都被替代了；接下來有了大模型以后，我們的思想甚至也被替代了——現(xiàn)在很多文秘工作可以用大模型來做了。那么在這個時代，我們?nèi)诉€被需要嗎？這有點靈魂質(zhì)問了。在新的數(shù)字文明時代，人機關(guān)系應(yīng)該是怎樣的？

吳國盛（清華科學(xué)史）：未來人還有人的用處。這是維納（1894-1964，美國）的一句問題，是非常好的問題。數(shù)字文明是信息驅(qū)動的（注：過去的文明有物質(zhì)驅(qū)動的，有能量驅(qū)動的），信息驅(qū)動的本質(zhì)是計算/信息處理，而計算的背后是控制，這很重要，意味著現(xiàn)代科學(xué)、數(shù)字化的目標(biāo)是為了控制自然。不過，現(xiàn)在的數(shù)字技術(shù)不僅是控制自然，還控制社會，這就引發(fā)了一個非常深刻的問題：數(shù)字技術(shù)本質(zhì)上是一種權(quán)力重新洗牌的技術(shù)。在洗牌過程中，公平、正義、善的問題就出現(xiàn)了。

過去就存在這個問題，例如有刀、鐵劍的民族，相比沒有的民族，力量會逆轉(zhuǎn)。蒸汽動力也是一樣，它把工人淪為非常可憐的角色?，F(xiàn)在的數(shù)字時代，是不是所有人被卷入了？例如是否會用一個軟件有很大的差別（例如在疫情期間，有些老人不會用智能手機的打車軟件，叫出租車都很麻煩），這是非?，F(xiàn)實的一個問題。

數(shù)字技術(shù)的智能化特征是控制論特征。因為智能很大一部分是控制。智能特征進一步把人的問題又提出來了：什么是人？過去說人有智能。那么現(xiàn)在機器也有智能，是不是機器也是人？實際上，計算機產(chǎn)業(yè)過分放大了人的智能部分。人有知、情、意三部分，除了有智能之外，人還有脾氣、審美等。例如有人認為游戲是一種非功利行為，所以游戲這件事情很有意思，現(xiàn)在有游戲產(chǎn)業(yè)，游戲能成為產(chǎn)業(yè)，不僅是里面的智能行為，更多的是里面的審美行為、娛樂行為。所以從這個意義上看，吳國盛老師（清華科學(xué)史）并不像很多人那么悲觀，覺得機器出來以后就怎么著了，因為知情意里的情和意的部分，現(xiàn)在機器恐怕是沒法做到的。

主持人：AI正在走向知、情、意的全面合一。

吳國盛（清華科學(xué)史）：知情意里的情和意的知化，即希望通過知的方式把情和意給消解掉。你說你有脾氣嗎？其實你也沒什么脾氣，無非就是你體內(nèi)某些元素的發(fā)作，用元素替代一下，你就沒脾氣了。這實際上還是一種唯知論的傳統(tǒng)，而且這是比較危險的一種行為。

所以我們還是要在數(shù)字文明時代弘揚更人性化。何謂更人性化？就是非知部分的意義和重要性。這部分我們始終要記住。因為如果沒有這部分，就不知道智能產(chǎn)業(yè)將向哪個方向發(fā)展，因為產(chǎn)業(yè)的發(fā)展首先要合乎人性本身的需要。

人性有什么需要？單憑大數(shù)據(jù)能不能做得到？局部是可以的，但是否能完全分析出來，還很難預(yù)判。

吳飛（浙大AI）：補充兩個方面。這是一個辯證的問題。不可否認，AI 現(xiàn)在已經(jīng)極大地提升了人類生產(chǎn)、生活和學(xué)習(xí)的能力和效率。但是AI還有很多無法解決的問題，例如因為AI 的無能所引發(fā)的倫理問題，還有隱私泄漏、大數(shù)據(jù)殺熟等危害。這些不是AI 故意在作惡，而是AI 技術(shù)水平現(xiàn)在還無法滿足倫理和道德要求。所以發(fā)明一個機器或AI 系統(tǒng)出來，并不是想要人類來奴役人類，而是讓人類的生產(chǎn)生活效率更高效。這是從正面來看AI。

同時，AI 確實也造成了一些困擾，我們也不能對這些熟視無睹。所以我們又必須要制定相應(yīng)的法律法規(guī)和道德制度，約束AI 可能產(chǎn)生的不良后果。

所以并不是我們需要去躺平。此次CNCC大會上，趙春江院士談了在用機器摘果子[2]，盡管如此，人類還是有很多行為是AI 機器無法模擬的，人類絕對不能躺平。人有人的作用，我們應(yīng)該發(fā)揮主動力，來把AI 改善和提高得更好，以更好地推動我們?nèi)祟惿鐣倪M步。

6 從社會治理角度，人類應(yīng)該發(fā)揮哪些作用？

主持人：從社會治理的角度來看，我們?nèi)藨?yīng)該發(fā)揮哪些作用？

翟志勇（北航法學(xué)）：剛才主持人提出了一個問題，就是誰的數(shù)字文明？從兩個層面來回答。

●   第一個層面應(yīng)該是我們的共識：這一定是人的數(shù)字文明。例如10 月28 日上午論壇第一位講者——斯坦福大學(xué)終身名譽教授James Landay講的以人為核心的AI向善。

所以從這個意義上看，主持人擔(dān)心人會躺平。如果說躺平僅僅是指我們可以不去做那些重復(fù)、無意義的勞動，躺平也很好，人們都歡迎這種躺平。

但是主持人可能更關(guān)心的是另外的問題，就是人會不會被機器所取代、異化，人會不會喪失自主性、認知能力？這確實是我們所要關(guān)心的第一個層面：如何在數(shù)字文明發(fā)展過程中，始終能夠堅守人的自主性、以人為中心的地位。

●   另一個層面去回答誰的數(shù)字文明，會涉及剛才段偉文老師（社科院哲學(xué)）提到的問題：誰來去定義這樣一個文明？誰來給它設(shè)定標(biāo)準(zhǔn)？誰來評價它？這里會存在一個問題，像主持人提到的，我們更多的是從倫理、法律的角度去關(guān)注，可能更多的是去講：數(shù)字文明首先應(yīng)該是弱者、弱勢地位人的文明。

提到科技向善、科技不作惡，弱勢群體可能遭受數(shù)字文明帶來的損害更大。例如機器人摘蘋果會導(dǎo)致大量人失業(yè)，而失業(yè)的大部分人可能是處于社會底層的，他們無法成為技術(shù)的受益者?，F(xiàn)在大模型的出現(xiàn)造成的不是體力勞動者的失業(yè)，而是一些腦力勞動者的失業(yè)。為此，一些國家和地區(qū)的政府、當(dāng)局采取了干預(yù)措施，例如印尼、馬來西亞、印度等國禁止直播帶貨，原因之一是擔(dān)心破壞大量小企業(yè)主/ 小商戶的經(jīng)營，由此導(dǎo)致大量失業(yè)。因為買家都去直播帶貨那里去買了，利潤變成了主播、直播帶貨公司的利潤，小企業(yè)主/ 小商戶等經(jīng)營者怎么辦？社會必須要為底層人士提供最基本的生活保障和就業(yè)權(quán)利。

當(dāng)然，如果從消費者角度看，我們可能歡迎直播帶貨，它給我們帶來了更好的商品展示，可能以更低的物價、更方便地進行購物，有更好的購物體驗。但從政策制定、學(xué)者研究的角度來看，它可能會導(dǎo)致大量人的失業(yè)，或者大量人因此遭受到無法掌控的損害。

所以從這個意義上看，在第二個層面中去關(guān)注“誰的數(shù)字文明”，應(yīng)該成為弱者的數(shù)字文明，弱者能夠從中受益，不會遭受不可控的侵害，這更為重要。

段偉文（社科院哲學(xué)）：人和計算機/AI 的差別，就是AI負責(zé)計算，人類負責(zé)判斷和決策?，F(xiàn)在的問題是AI的計算能力越來越強大，反過來對人的判斷力和決策力提出了更高的要求，這可能是人類在數(shù)字文明時代面臨的重大挑戰(zhàn)。

主持人：這可能為人類提出了更高的要求。但是我們?nèi)丝赡苓€是傾向于懶惰的生活?？档拢?724—1804，德國）曾經(jīng)在啟蒙運動思想里有句重要的話：如果有個領(lǐng)袖來替我去思考，我是不是自己還會去思考問題？他那時還沒有預(yù)測到現(xiàn)在的機器時代，套用這句話就是：如果有一個機器替我思考……這個話題扯得太遠了。剛剛翟志勇老師（北航法學(xué)）提到了誰的數(shù)字文明的時候，是從社會結(jié)構(gòu)上來講，希望最終技術(shù)應(yīng)該是能夠賦能社會底層，但目前的情況恰恰有可能帶來的是“強者越強，弱者越弱”的大失業(yè)。

在CNCC2023大會上，來自北大的經(jīng)濟學(xué)家張維迎教授做了一個報告，講到企業(yè)家精神和數(shù)字經(jīng)濟，按照張老師的觀點，數(shù)字經(jīng)濟本身應(yīng)該是資源自由競爭的，因為它有不確定性。翟志勇老師（北航法學(xué)）也反對壟斷。

但是另一方面，從數(shù)字經(jīng)濟、整個平臺經(jīng)濟的發(fā)展來看，實際上它帶來一個很大的問題：數(shù)字壟斷由一部分人掌握了，例如一些大平臺越來越多地滲透到生活的各個方面，收集了大量的數(shù)據(jù)，然后因為今天所有的AI（科學(xué)、農(nóng)業(yè)等）都是要靠數(shù)字來喂的，大模型也要靠數(shù)字，帶來了數(shù)字牽引。這樣一來，這是不是就有點悖論：一方面我們要自由競爭；但另一方面還是需要政策、法律的干預(yù)，而不能完全自由。是不是這個意思？

翟志勇（北航法學(xué)）：數(shù)字文明應(yīng)該是弱者的數(shù)字文明，但這并不是反對強者或者反對技術(shù)，而是技術(shù)或數(shù)字文明的發(fā)展應(yīng)該是在保障弱者基本權(quán)益的基礎(chǔ)之上去展開競爭和發(fā)展的。一方面?zhèn)惱韺W(xué)家、法學(xué)家或公共政策制定者提出一系列的要求、指標(biāo)；另一方面，技術(shù)專家通過技術(shù)可以實現(xiàn)這些目標(biāo)。可能這里缺少二者聯(lián)通的管道，法律上叫正當(dāng)程序。實際上是以最終的一個程序去保證最終的結(jié)果。在技術(shù)領(lǐng)域中探討這個問題也是這樣，應(yīng)該有一個公平的程序來實現(xiàn)技術(shù)的正當(dāng)程序。在這個過程中，使得倫理學(xué)者、公共政策的制定者、技術(shù)專家、企業(yè)等能夠在這樣一個公平的程序里去展開討論，并且制定出有效的技術(shù)標(biāo)準(zhǔn)、公共政策的標(biāo)準(zhǔn)等，而不是任何一方給予對方一個必須要接受的東西。所以要有正當(dāng)程序這樣一個管道，使得所有的相關(guān)利益方都能參與進去。

7 小結(jié)

吳飛（浙大AI）：信息技術(shù)和AI 的發(fā)展是人類從農(nóng)耕時代、工業(yè)文明時代累積起來的文明，這必然會成為馬克思所言的普遍智能，為我們每個人所用，這也是數(shù)字文明追求的目標(biāo)之一。

段偉文（社科院哲學(xué)）：數(shù)字文明延續(xù)了計算機控制論，是把人類和機器當(dāng)成一個行為者的的思路。換句話，數(shù)字文明時代最重要的一點是出現(xiàn)了計算機作為社會的行動者，作為一個第三者，就好像出租車司機和乘客之間有導(dǎo)航一樣，所以我們將來要面對這種AI 體，它跟人類怎樣相處？它會不會成為我們的導(dǎo)師、偶像或精神上的權(quán)威？這里有太多需要思考的地方。

翟志勇（北航法學(xué)）：ChatGPT 橫空出世之后，美國國會對安全等一系列問題非常關(guān)注，所以ChatGPT之父——OpenAI 的CEO山姆·阿爾特曼(Sam Altman)也去國會作證，他作為大模型技術(shù)領(lǐng)先者，呼吁政府對大模型進行監(jiān)管。不僅是美國國會，他呼吁全世界都要對它進行監(jiān)管。由此想到，數(shù)字文明可能更需要技術(shù)開發(fā)者、技術(shù)企業(yè)來參與到倫理、標(biāo)準(zhǔn)、法律公共政策的制定中，這樣才能從公共政策的角度制定出更適合技術(shù)發(fā)展、技術(shù)向善、不做惡的法律與公共政策。因此希望技術(shù)人員能夠加入到這個領(lǐng)域里，而不僅僅是社科人員走到技術(shù)人員的領(lǐng)域里。

古天龍（暨大可信AI）：希望技術(shù)融入人文社科來進行社會治理，即法律、倫理、道德、技術(shù)多管齊下，呼吁重視技術(shù)治理維度。希望加強數(shù)字技術(shù)治理，提升全民素質(zhì)素養(yǎng)，促進數(shù)字文明建設(shè)。

吳國盛（清華科學(xué)史）：技術(shù)不是中性的，數(shù)字技術(shù)也不是中性的。任何一項技術(shù)的大規(guī)模深入發(fā)展，必然帶來文明新形態(tài)的產(chǎn)生。在今天數(shù)字技術(shù)正在方興未艾地發(fā)展，我們提前提出數(shù)字文明的概念，以此來規(guī)范數(shù)字技術(shù)的發(fā)展，使之朝著有利于人類福祉、健康和幸福生活的方向發(fā)展這一概念，是特別值得稱道的。

主持人：CNCC 大會主要是討論數(shù)字技術(shù)的，參與者可能更多地盯在器物層面。但是大會主席在確定這個題目的時候，站到了更高的層面，來從整個人類發(fā)展的歷史和文明形態(tài)的變更上來去考慮這樣的問題。數(shù)字技術(shù)不等于數(shù)字文明，建設(shè)數(shù)字文明，不僅需要技術(shù)，還需要相應(yīng)的所有上層建筑的一起參與。

參考文章：

[1] 王瑩.如何做好工業(yè)IT和OT的融合.EEPW,2023(12):20-27.

[2] 迎九.院士觀察:我國智慧農(nóng)業(yè)的現(xiàn)狀與展望. EEPW,2024(1-2):56-59.

（本文來源于《EEPW》2024.3）