AI是否可以讓我們躺平？數(shù)字技術(shù)能否帶來(lái)數(shù)字文明？

數(shù)字文明是否可以看作是一種新的文明形態(tài)？這是誰(shuí)的數(shù)字文明？如何構(gòu)建數(shù)字文明？2023 年 10 月 26-28 日，CNCC2023（ 2023 中國(guó)計(jì)算機(jī)大會(huì)）在沈陽(yáng)召開(kāi)。在 10 月 28 日上午舉辦了論壇《數(shù)字文明何以可能？》，來(lái)自社會(huì)科學(xué)和計(jì)算機(jī)領(lǐng)域的教授圍繞數(shù)字文明的可能性與挑戰(zhàn)展開(kāi)了思想對(duì)話(huà)。

從左至右

主持人：王國(guó)豫：CCF職業(yè)倫理與學(xué)術(shù)道德委員會(huì)主席，教育部長(zhǎng)江學(xué)者特聘教授，中國(guó)科協(xié)-復(fù)旦大學(xué)科技倫理與人類(lèi)未來(lái)研究院院長(zhǎng)

特邀嘉賓：吳國(guó)盛：清華大學(xué)科學(xué)史系系主任，科學(xué)史和哲學(xué)系的雙聘教授，國(guó)務(wù)院學(xué)位委員會(huì)科技史學(xué)科評(píng)議組成員；古天龍：暨南大學(xué)教授，可信AI教育部工程研究中心主任，原桂林電子科技大學(xué)校長(zhǎng)，教育部高等學(xué)校計(jì)算機(jī)類(lèi)專(zhuān)業(yè)教學(xué)指導(dǎo)委員會(huì)的副主任委員；翟志勇：北京航天航空大學(xué)法學(xué)教授，社會(huì)法研究中心主任，中國(guó)科協(xié)北京航天航空大學(xué)科技組織與公共政策研究所副院長(zhǎng)；段偉文：中國(guó)社會(huì)科學(xué)院哲學(xué)所科技哲學(xué)研究室主任、研究員，中國(guó)社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心主任；吳飛：浙江大學(xué)上海高等研究院常務(wù)副院長(zhǎng)，浙江大學(xué)AI研究所所長(zhǎng)、教授，浙江大學(xué)求是特聘教授，博士生導(dǎo)師

1 數(shù)字文明已經(jīng)到來(lái)了嗎？

主持人：CNCC大會(huì)主要是圍繞數(shù)字開(kāi)展的，上天入地都是數(shù)，好像進(jìn)入了畢達(dá)哥拉斯（約公元前580年-500（490）年，古希臘）提出的萬(wàn)物皆數(shù)的世界，例如數(shù)字工業(yè)^[1]、數(shù)字農(nóng)業(yè)^[2]、數(shù)字經(jīng)濟(jì)、數(shù)字金融……。那么，數(shù)字文明是不是就真的已經(jīng)到來(lái)了？這是不是就是數(shù)字文明？

在這個(gè)被數(shù)字包圍的世界，我們幾乎可以躺平了。例如，通過(guò)數(shù)字農(nóng)業(yè)^[2]的講演，可知今后種地也用不著人了?，F(xiàn)在，數(shù)字平臺(tái)能把我們的飯送到門(mén)口——我們可以坐在家里等著吃飯就行了。這是不是就是數(shù)字文明？

首先，需要給數(shù)字文明有個(gè)界定。各位嘉賓所理解的數(shù)字文明是什么？

吳國(guó)盛（清華科學(xué)史）：文明基于技術(shù)，這毫無(wú)問(wèn)題。例如史前文明有舊石器文明、新石器文明，之后有青銅文明、黑鐵文明……。所以在人類(lèi)歷史或史前史時(shí)期，文明的形態(tài)首先根源于技術(shù)。

因此，如果數(shù)字技術(shù)成為了我們這個(gè)時(shí)代占支配地位的影響技術(shù)，當(dāng)然我們可以合情合理地說(shuō)：某種基于數(shù)字技術(shù)的數(shù)字文明正在冉冉升起。所以這個(gè)說(shuō)法問(wèn)題不大。

但是也打個(gè)補(bǔ)?。和ǔ＿@種文明的名稱(chēng)是由后人追認(rèn)的，當(dāng)時(shí)的人不知道自己處在什么文明之中。例如，舊石器時(shí)代的人不知道自己處于舊石器時(shí)代，新石器時(shí)代的人也不知道自己處在新石器時(shí)代，這是追認(rèn)的結(jié)果。所以數(shù)字技術(shù)的發(fā)展時(shí)間并不長(zhǎng)，至今只有幾十年，我們現(xiàn)在說(shuō)自己的技術(shù)是數(shù)字文明可能也要慎重。

當(dāng)然，近代這種通過(guò)自我命名、自詡的方式來(lái)規(guī)范當(dāng)下的文明走向，也是有先例的。例如，雖然“中世紀(jì)”這個(gè)詞是由文藝復(fù)興時(shí)期的人給追認(rèn)的，但是文藝復(fù)興是文藝復(fù)興人自己定的。所以近代以來(lái)，這種為自己確立時(shí)代特征、標(biāo)明時(shí)代的命名，以此來(lái)為自己的時(shí)代制定一些規(guī)則，也是可以的。

所以這一補(bǔ)丁仍然是可以的，仍然可以講“數(shù)字文明”。

古天龍（暨大可信AI）：完善的數(shù)字技術(shù)治理以及良好的素質(zhì)素養(yǎng)教育，應(yīng)該是數(shù)字文明所必備的兩個(gè)方面。

首先，只有通過(guò)數(shù)字技術(shù)的完善治理，才能保障數(shù)字技術(shù)的科技向善、造福人類(lèi)。其次，具有良好的素質(zhì)素養(yǎng)，才能全民（包括從業(yè)人員、社會(huì)公民等）跟技術(shù)進(jìn)步實(shí)現(xiàn)良性的互動(dòng)，最終實(shí)現(xiàn)數(shù)字文明的持續(xù)健康發(fā)展。

翟志勇（北航法學(xué)）：通?？梢詮钠魑?、觀(guān)念和制度三個(gè)層面去衡量一個(gè)社會(huì)的文明。制度層面上，可以把法律和公共政策視為一個(gè)社會(huì)文明的刻度。社會(huì)中的相關(guān)法律、制度種類(lèi)越豐富，證明社會(huì)在這個(gè)領(lǐng)域中的文明刻度會(huì)更高一些。

如果從這個(gè)標(biāo)準(zhǔn)來(lái)衡量，會(huì)發(fā)現(xiàn)進(jìn)入21 世紀(jì)之后，無(wú)論是中國(guó)還是世界其他國(guó)家在數(shù)字領(lǐng)域中的立法及公共政策都在飛速增加。尤其近幾年，包括中國(guó)、歐盟及美國(guó)等國(guó)家和地區(qū)在這個(gè)領(lǐng)域有大量的立法出現(xiàn)，因此如果從制度角度去衡量，數(shù)字文明已經(jīng)來(lái)臨，并且我們生活于其中，因?yàn)槲覀冇写罅康膯?wèn)題需要法律、公共政策去處理。

段偉文（社科院哲學(xué)）：什么是數(shù)字文明？現(xiàn)在坐在嘉賓席上的段偉文可能就不是段偉文，是一個(gè)數(shù)字人，這就是數(shù)字文明。在上場(chǎng)之前5 分鐘，段偉文就用自動(dòng)翻譯，幫他的微信公眾號(hào)自動(dòng)地更新，增加了一個(gè)新的文章的條目。

所謂數(shù)字文明就是數(shù)字技術(shù)，它從根本上來(lái)改變我們存在的生產(chǎn)生活方式。而且和前面那些文明非常不同之處：它的發(fā)展是非常迅速的，以至于在這個(gè)時(shí)代曾有的大量技術(shù)產(chǎn)品，我們已把它們遺忘了。例如現(xiàn)在誰(shuí)還知道復(fù)讀機(jī)？誰(shuí)還在用Mp3 播放器聽(tīng)音樂(lè)？所以數(shù)字文明以這種迅猛的速度發(fā)展，對(duì)我們的人類(lèi)文明帶來(lái)一種根本性的改變。

這就需要我們從制度、文明、治理等方面跟上這個(gè)時(shí)代、文明的步伐，否則我們雖然進(jìn)入了數(shù)字文明，但不一定能夠成為數(shù)字時(shí)代的文明人。

吳飛（浙大AI）：數(shù)字文明以數(shù)字化為基礎(chǔ)，以信息技術(shù)為核心，是邁進(jìn)人、機(jī)、物互聯(lián)時(shí)代的當(dāng)下所有社會(huì)關(guān)系和社會(huì)活動(dòng)的總和。

2 數(shù)字文明的要素與愿景

主持人：我們已經(jīng)觸及了數(shù)字文明的不同層次了。翟志勇老師（北航法學(xué)）提到數(shù)字文明涉及三個(gè)層面：器物、觀(guān)念和制度。吳國(guó)盛老師（清華科學(xué)史）指出，我們現(xiàn)在還處于數(shù)字文明的開(kāi)端。

雖然我們已經(jīng)有了一些數(shù)字技術(shù)，數(shù)字文明在器物層面上也已經(jīng)發(fā)展到一定程度了，例如今天的AI技術(shù)已經(jīng)有了一定的發(fā)展了。如果我們更進(jìn)一步地走向深度的數(shù)字文明，從技術(shù)史的角度看，每一次文明在更迭中，除了技術(shù)本身作為引擎以外，還有哪些推動(dòng)數(shù)字文明的力量？

吳國(guó)盛（清華科學(xué)史）：翟志勇（北航法學(xué)）老師提到文明至少有三個(gè)形態(tài)：器物、制度和觀(guān)念。數(shù)字技術(shù)是一個(gè)龍頭。馬克思（1818-1883，德國(guó)）說(shuō)技術(shù)是最具有革命性的力量，它總是能夠打碎一個(gè)舊的形態(tài)，創(chuàng)造一個(gè)新的形態(tài)。但是如果只是數(shù)字技術(shù)自己還做不到數(shù)字文明，它必須要撬動(dòng)一些東西。

例如，從技術(shù)史上看，咱們中國(guó)人特別引以自豪的四大發(fā)明，雖然是中國(guó)人首創(chuàng)的，可是在中國(guó)社會(huì)里并沒(méi)有發(fā)生作用，中國(guó)社會(huì)并沒(méi)有因?yàn)樗拇蟀l(fā)明成就一種新的文明形態(tài)，反而給歐洲人帶來(lái)了好處，迎來(lái)了一個(gè)嶄新的世界：從培根（1561-1626，英國(guó)）開(kāi)始，馬克思也認(rèn)為，大量印刷的《圣經(jīng)》使宗教改革成為可能；火藥炸毀了騎士階層，粉碎了封建領(lǐng)主階級(jí)；指南針開(kāi)辟了世界航路，為創(chuàng)造新的資本主義全球市場(chǎng)準(zhǔn)備了條件。

所以關(guān)鍵的一點(diǎn)是你的技術(shù)革新如果不能轉(zhuǎn)化為一種為更廣泛的社會(huì)制度的變革或者創(chuàng)新的驅(qū)動(dòng)力，那么這個(gè)技術(shù)就不能獲得新文明的命名權(quán)。

回到數(shù)字技術(shù)，也是一樣的道理。數(shù)字技術(shù)肯定最終要驅(qū)使創(chuàng)立一套新的制度，例如法律制度、倫理制度、文化制度等，當(dāng)然最后要引出觀(guān)念方面的內(nèi)容。所以這是關(guān)鍵。

今天在CNCC（計(jì)算機(jī)大會(huì)）上探討這件事，好像跟計(jì)算機(jī)專(zhuān)家們沒(méi)什么關(guān)系，其實(shí)技術(shù)本身就內(nèi)置了一些文化密碼、制度密碼，每一種技術(shù)就內(nèi)含了一些文明驅(qū)動(dòng)的方向性和意向性。因此這個(gè)話(huà)題在CNCC 上探討并不是節(jié)外生枝、裝飾性的，而是具有內(nèi)在意義的。

主持人：是否可以?xún)H憑數(shù)字技術(shù)的力量來(lái)獨(dú)撐這個(gè)文明形態(tài)？

吳飛（浙大AI）：有兩個(gè)觀(guān)點(diǎn)。

第一，我們正在邁向這一新的文明形態(tài)。剛才吳國(guó)盛老師（清華科學(xué)史）有句話(huà)講得非常到位：文明是由后面的人來(lái)定義我們現(xiàn)在的。例如我們已經(jīng)經(jīng)歷了農(nóng)耕時(shí)代和工業(yè)革命時(shí)代的文明。工業(yè)革命時(shí)代的文明的進(jìn)入，是以蒸汽機(jī)的改良為主要代表——1776年左右瓦特改良了蒸汽機(jī)。此后，蒸汽機(jī)經(jīng)過(guò)100多年的緩慢發(fā)展，和紡織工業(yè)、交通工業(yè)、冶金工業(yè)等深度融合，才推動(dòng)人類(lèi)社會(huì)進(jìn)入了工業(yè)文明的時(shí)代。

今天我們以數(shù)字化為基礎(chǔ)，以信息技術(shù)為核心，也將推動(dòng)人類(lèi)社會(huì)邁進(jìn)更加廣闊的天地。我們正在這一個(gè)征程上，而不是說(shuō)我們已經(jīng)完全實(shí)現(xiàn)了這種新的文明形態(tài)。只有信息技術(shù)、AI 等使能技術(shù)與農(nóng)業(yè)、工業(yè)、經(jīng)濟(jì)、醫(yī)療、教育等緊密結(jié)合，才會(huì)造就一種新的文明形態(tài)。

第二，這一技術(shù)和人類(lèi)社會(huì)、包括我們每個(gè)人已經(jīng)緊密地聯(lián)系在一起。例如趙春江院士^[2]也匯報(bào)了智慧農(nóng)業(yè)的進(jìn)展。由此，我們能否說(shuō)我們已進(jìn)入了數(shù)字農(nóng)業(yè)文明的時(shí)代？目前，無(wú)論數(shù)字農(nóng)業(yè)還是數(shù)字工業(yè)，還沒(méi)有和我們?nèi)司o密地聯(lián)系在一起。有了信息技術(shù)和AI 等技術(shù)，我們創(chuàng)造了一個(gè)非常龐大、復(fù)雜的空間。在這個(gè)空間里，技術(shù)、人、機(jī)、物已經(jīng)互相聯(lián)系在一起。所以傳統(tǒng)的只是規(guī)范人與人之間的行為倫理的概念和方法已經(jīng)不適用了，我們應(yīng)該去形成一種新的文明治理，來(lái)更好地規(guī)范人、機(jī)、物互聯(lián)時(shí)代的文化及發(fā)展。所以數(shù)字文明把技術(shù)和社會(huì)的屬性緊密地聯(lián)合起來(lái)，是與前面的文明形態(tài)不同的一個(gè)重要特點(diǎn)。

主持人：其他老師有沒(méi)有補(bǔ)充？

翟志勇（北航法學(xué)）：如果從以人類(lèi)技術(shù)相關(guān)的文明史發(fā)展的脈絡(luò)來(lái)看，會(huì)發(fā)現(xiàn)一個(gè)很有趣的現(xiàn)象：先有這些文明出現(xiàn)，然后有一系列的反思。但是我們今天一方面在探討文明來(lái)沒(méi)來(lái)，另一方面又在這個(gè)文明剛剛來(lái)的時(shí)候，就開(kāi)始去反思這個(gè)文明，反思涉及的倫理問(wèn)題、法律問(wèn)題等。因此就會(huì)發(fā)現(xiàn)數(shù)字文明的出現(xiàn)似乎從一開(kāi)始就伴隨著對(duì)于這個(gè)文明的反思，這就回到剛才吳飛老師（浙大AI）所講到的，似乎這樣的文明和我們以前所經(jīng)歷的農(nóng)業(yè)文明、工業(yè)文明等不太一樣。

一開(kāi)始數(shù)字文明就會(huì)帶有某一種特殊的文明密碼，包括對(duì)于隱私、安全、平等、反歧視等一系列人類(lèi)文明的關(guān)注，是與技術(shù)發(fā)展同步的。而工業(yè)文明與此不同：工業(yè)文明在造成了一系列的人類(lèi)災(zāi)難之后，人們才開(kāi)始去反思，在制度上給予特別的處理，例如在工業(yè)文明發(fā)展后期，人們才開(kāi)始去重視勞工保護(hù)、反對(duì)歧視等一系列問(wèn)題。所以從這個(gè)角度來(lái)看，是不是也就意味著數(shù)字文明是其本身內(nèi)在的一個(gè)特性。

3 如何把文化、文明的觀(guān)念融入到數(shù)字技術(shù)中？

主持人：翟志勇老師（北航法學(xué)）的最后一句話(huà)，把前面兩位老師的觀(guān)點(diǎn)概括了，即今天的一些文化、觀(guān)念、制度等已經(jīng)自然而然地成為我們數(shù)字文明的一部分，而不僅僅是外部的。

我們今天正處在數(shù)字文明的起始階段，我們?nèi)绾螐囊婚_(kāi)始就把一些文化、文明的觀(guān)念融入到數(shù)字技術(shù)之中，以更好地打造數(shù)字文明時(shí)代？

古天龍（暨大可信AI）：數(shù)字技術(shù)應(yīng)該是以AI 為核心引領(lǐng)的新技術(shù)。這項(xiàng)新技術(shù)跟傳統(tǒng)技術(shù)有異同之處。共同點(diǎn)是都有技術(shù)的兩面性：一方面造福人類(lèi)，另一方面對(duì)社會(huì)帶來(lái)負(fù)面影響。

自古至今，科技的進(jìn)步確實(shí)在為人類(lèi)帶來(lái)進(jìn)步、福利方面發(fā)揮了重大作用，以至于它的負(fù)面效應(yīng)很多時(shí)候被忽視了，或者本身就很小。例如原子能技術(shù)、生物領(lǐng)域的基因編輯、克隆技術(shù)等涉及了一些負(fù)面效果。今天以AI為引領(lǐng)的數(shù)字技術(shù)所帶來(lái)的挑戰(zhàn)和風(fēng)險(xiǎn)也尤為嚴(yán)重。首先是偏見(jiàn)歧視問(wèn)題，挑戰(zhàn)社會(huì)的公平正義；還有隱私泄露問(wèn)題；以及責(zé)權(quán)歸屬等問(wèn)題（注：在這種新情況下，人機(jī)關(guān)系深度融合，最后邊界模糊，我們責(zé)權(quán)怎么歸屬？）；還有價(jià)值對(duì)齊等問(wèn)題。

對(duì)于這些問(wèn)題，當(dāng)然數(shù)字技術(shù)本身應(yīng)該有一個(gè)治理機(jī)制，同時(shí)數(shù)字技術(shù)也應(yīng)該有外生的治理。所以數(shù)字技術(shù)治理是可能的、必須的。例如隱私泄露問(wèn)題，現(xiàn)在我們有隱私計(jì)算、聯(lián)邦學(xué)習(xí)、差分隱私、匿名技術(shù)、密碼技術(shù)等。對(duì)于偏見(jiàn)歧視問(wèn)題，現(xiàn)在有公平機(jī)器學(xué)習(xí)等公平感知方法。對(duì)于責(zé)權(quán)歸屬問(wèn)題，有區(qū)塊鏈技術(shù)。對(duì)于價(jià)值對(duì)齊問(wèn)題，有可以設(shè)計(jì)出具有道德和倫理意識(shí)的智能體。這一個(gè)方面可以通過(guò)自上而下的方式，輸入人們的傳統(tǒng)價(jià)值觀(guān)或倫理規(guī)則，讓機(jī)器學(xué)習(xí)這種倫理意識(shí)；另一方面可以自下而上地通過(guò)情景學(xué)習(xí)，讓AI 知道按照人類(lèi)的行為模式去實(shí)施一些道德的決策和倫理行為。

當(dāng)然，也可以自上而下、自下而上相結(jié)合，去開(kāi)展倫理道德的技術(shù)工作。

所以這些為人們進(jìn)一步開(kāi)展數(shù)字技術(shù)的治理提供了可能性，有些方面已經(jīng)有了實(shí)施的具體部署應(yīng)用。所以一方面國(guó)內(nèi)外上下都在全力以赴地開(kāi)展AI 從業(yè)人員的職業(yè)操守和道德的規(guī)范，使技術(shù)研發(fā)能夠?qū)崿F(xiàn)數(shù)字技術(shù)的內(nèi)生治理。另一方面，在AI 的部署應(yīng)用中，要提升全民的素質(zhì)素養(yǎng)。當(dāng)然數(shù)字倫理也是個(gè)重要內(nèi)容，以此來(lái)推動(dòng)數(shù)字文明的良序發(fā)展。

4 數(shù)字技術(shù)倫理問(wèn)題由誰(shuí)來(lái)解決？

主持人：有這么一個(gè)潛在的命題：數(shù)字技術(shù)倫理問(wèn)題，大家都承認(rèn)。企業(yè)在做，計(jì)算機(jī)從業(yè)人員也在做，這是不是就足夠了？過(guò)去科學(xué)家經(jīng)常有一句話(huà)，技術(shù)的問(wèn)題還是由技術(shù)來(lái)治理。那么數(shù)字技術(shù)倫理問(wèn)題也該由數(shù)字技術(shù)倫理治理？

段偉文（社科院哲學(xué)）：首先，要從哲學(xué)上對(duì)它有一個(gè)理解。計(jì)算機(jī)、AI、數(shù)字文明的核心是計(jì)算機(jī)。數(shù)字文明的核心就是計(jì)算機(jī)文明。從這個(gè)角度看，數(shù)字文明的起源是信息論和控制論。那么信息論和控制論那個(gè)時(shí)代，把人的心智想象成是像計(jì)算機(jī)一樣的。所以19世紀(jì)的經(jīng)典小說(shuō)里往往有大段的心理描寫(xiě)，但是到了20世紀(jì)中葉以后就沒(méi)有了，因?yàn)槿说拇竽X就是輸入和輸出。所以無(wú)論是AI、計(jì)算機(jī)還是數(shù)字技術(shù)，首先改變了我們對(duì)人類(lèi)自身（包括我們的智能）的認(rèn)知，而這種改變本身是不是合理的？也還是需要思考。

第二，數(shù)字文明重要的是數(shù)字化的數(shù)據(jù)。有了數(shù)字化數(shù)據(jù)，就意味著在我們這個(gè)世界、生物圈之外形成了一個(gè)信息圈。在信息圈之上，德日進(jìn)（1881-1955，法國(guó)）在《人的現(xiàn)象》、《人的未來(lái)》等書(shū)中提到人的進(jìn)化，認(rèn)為人類(lèi)將來(lái)會(huì)有一個(gè)新階段。

因此這種思考實(shí)際上從上世紀(jì)50 年代到現(xiàn)在，我們一直有一種人文的批判或人文的恐慌。因?yàn)樗鼘?shí)際上是要把所有人的智力和思考變成群體的智力和思考。所以美國(guó)動(dòng)畫(huà)片《非凡的公主：希瑞》（注：1985 年推出國(guó)語(yǔ)版）里有一幕：在緊急的時(shí)候，主人公就會(huì)拔出劍，指天高喊“希瑞賜于我力量！”她就到了一個(gè)所謂的西格瑪點(diǎn)——世界上所有智能變成了一個(gè)統(tǒng)一體。

所以第二點(diǎn)就是：我們思考AI/數(shù)字文明的倫理問(wèn)題時(shí)，我們還要思考我們想要的是一個(gè)什么樣的未來(lái)？在現(xiàn)實(shí)生活中，有數(shù)字成癮等問(wèn)題，在此就不討論了。但是現(xiàn)在的AI 倫理最核心的一個(gè)問(wèn)題是認(rèn)知權(quán)利的問(wèn)題，即：誰(shuí)有權(quán)利收集、分析你的數(shù)據(jù)，掌握你的生物特征，甚至分析你的情感，然后再對(duì)它進(jìn)行調(diào)控？

這是最重要的問(wèn)題。所以現(xiàn)在已經(jīng)不再是我們?cè)?0年前講的數(shù)字鴻溝（注：誰(shuí)能夠上網(wǎng)，誰(shuí)擁有信息，誰(shuí)是信息的窮人和富人等），而是現(xiàn)在誰(shuí)可以把信息作為一種認(rèn)知和調(diào)控的手段，用來(lái)掌握一定的權(quán)利和生產(chǎn)力。

所以在這種情況下，我們更多的還要思考AI 作為一種認(rèn)知技術(shù)，它本身的合理性。

最后，我們當(dāng)然可以讓AI 具有道德，讓AI 實(shí)現(xiàn)價(jià)值對(duì)齊。但是問(wèn)題是具有的是誰(shuí)的道德？誰(shuí)的價(jià)值？怎樣去對(duì)齊？因?yàn)樵诂F(xiàn)實(shí)世界中，人們的道德價(jià)值觀(guān)是不同的。有了AI以后，它可以讓我們知道哪些話(huà)是不能說(shuō)的，哪些話(huà)是有偏見(jiàn)、歧視的，但是難道這是文明應(yīng)該有的姿態(tài)嗎？難道我們?nèi)俗陨硪稽c(diǎn)都不能夠承受道德、價(jià)值上的偏差嗎？我們?cè)诂F(xiàn)實(shí)生活中尚且可以爆粗口，計(jì)算機(jī)、深層次的AI 就不能爆粗口嗎？這個(gè)問(wèn)題還沒(méi)有答案。倫理問(wèn)題本身也還有更多要反思的地方。

這種反思的立場(chǎng)并不是反對(duì)對(duì)AI 進(jìn)行倫理規(guī)制，而是思考怎樣讓倫理規(guī)制更符合人性，更符合文明的發(fā)展規(guī)律。就像吳國(guó)盛老師（清華科學(xué)史）剛才所講，我們并不能夠在這種文明剛開(kāi)始的時(shí)候或到了某階段的時(shí)候去定義這種文明，如果把它拿到人類(lèi)5000 年歷史、地球46 億年歷史中來(lái)看的話(huà)，如果給它這么快地下定義，可能為時(shí)過(guò)早。

主持人：哲學(xué)家是不斷地在自我反思。

關(guān)于如何打造數(shù)字文明，科學(xué)家和哲學(xué)家有不同的看法。段偉文老師（社科院哲學(xué)）提出了一個(gè)問(wèn)題，就是認(rèn)知的革命。AI帶來(lái)了認(rèn)知革命，同時(shí)也帶來(lái)了社會(huì)權(quán)力結(jié)構(gòu)的變更，甚至影響了我們的人性。主持人聯(lián)想到了技術(shù)哲學(xué)，從技術(shù)哲學(xué)早期非常著名的代表卡普（1808-1896，德國(guó)）到蓋倫（1904-1976，德國(guó)）都講了技術(shù)是什么：技術(shù)可以彌補(bǔ)人的不足，減輕人的負(fù)擔(dān)，延伸人的手臂、器官，尤其是增強(qiáng)人的力量。CNCC大會(huì)10月27日上午的《大模型的研究進(jìn)展與產(chǎn)業(yè)應(yīng)用展望》論壇上，出現(xiàn)了兩種截然不同的觀(guān)點(diǎn)：一種認(rèn)為AI 尤其是大模型發(fā)展到這個(gè)階段，所帶來(lái)的倫理問(wèn)題并不可怕，因?yàn)槲覀兪冀K還是要把它控制在一個(gè)工具層面上。但是德國(guó)國(guó)家工程院院士張建偉認(rèn)為AI也許未來(lái)可能會(huì)有意識(shí)，他也提到：如果有了意識(shí)，是不是就可以更好地分辨善與惡？這個(gè)問(wèn)題涉及AI未來(lái)發(fā)展的方向。

5 人類(lèi)還被需要嗎？人機(jī)關(guān)系應(yīng)該是怎樣的？

主持人：從另一個(gè)層面去考慮：我們可不可以躺平了？現(xiàn)在比較流行的兩個(gè)關(guān)鍵詞：無(wú)人，自主。機(jī)器越來(lái)越自主了，接下來(lái)我們?nèi)祟?lèi)越來(lái)越不被需要了。過(guò)去我們的手不需要了——大吊車(chē)代替了我們的手；接下來(lái)腿也少需要、不需要了，因?yàn)橛辛舜焦ぞ摺?chē)、飛機(jī)等；我們整個(gè)的器官都被替代了；接下來(lái)有了大模型以后，我們的思想甚至也被替代了——現(xiàn)在很多文秘工作可以用大模型來(lái)做了。那么在這個(gè)時(shí)代，我們?nèi)诉€被需要嗎？這有點(diǎn)靈魂質(zhì)問(wèn)了。在新的數(shù)字文明時(shí)代，人機(jī)關(guān)系應(yīng)該是怎樣的？

吳國(guó)盛（清華科學(xué)史）：未來(lái)人還有人的用處。這是維納（1894-1964，美國(guó)）的一句問(wèn)題，是非常好的問(wèn)題。數(shù)字文明是信息驅(qū)動(dòng)的（注：過(guò)去的文明有物質(zhì)驅(qū)動(dòng)的，有能量驅(qū)動(dòng)的），信息驅(qū)動(dòng)的本質(zhì)是計(jì)算/信息處理，而計(jì)算的背后是控制，這很重要，意味著現(xiàn)代科學(xué)、數(shù)字化的目標(biāo)是為了控制自然。不過(guò)，現(xiàn)在的數(shù)字技術(shù)不僅是控制自然，還控制社會(huì)，這就引發(fā)了一個(gè)非常深刻的問(wèn)題：數(shù)字技術(shù)本質(zhì)上是一種權(quán)力重新洗牌的技術(shù)。在洗牌過(guò)程中，公平、正義、善的問(wèn)題就出現(xiàn)了。

過(guò)去就存在這個(gè)問(wèn)題，例如有刀、鐵劍的民族，相比沒(méi)有的民族，力量會(huì)逆轉(zhuǎn)。蒸汽動(dòng)力也是一樣，它把工人淪為非?？蓱z的角色?，F(xiàn)在的數(shù)字時(shí)代，是不是所有人被卷入了？例如是否會(huì)用一個(gè)軟件有很大的差別（例如在疫情期間，有些老人不會(huì)用智能手機(jī)的打車(chē)軟件，叫出租車(chē)都很麻煩），這是非?，F(xiàn)實(shí)的一個(gè)問(wèn)題。

數(shù)字技術(shù)的智能化特征是控制論特征。因?yàn)橹悄芎?/span>大一部分是控制。智能特征進(jìn)一步把人的問(wèn)題又提出來(lái)了：什么是人？過(guò)去說(shuō)人有智能。那么現(xiàn)在機(jī)器也有智能，是不是機(jī)器也是人？實(shí)際上，計(jì)算機(jī)產(chǎn)業(yè)過(guò)分放大了人的智能部分。人有知、情、意三部分，除了有智能之外，人還有脾氣、審美等。例如有人認(rèn)為游戲是一種非功利行為，所以游戲這件事情很有意思，現(xiàn)在有游戲產(chǎn)業(yè)，游戲能成為產(chǎn)業(yè)，不僅是里面的智能行為，更多的是里面的審美行為、娛樂(lè)行為。所以從這個(gè)意義上看，吳國(guó)盛老師（清華科學(xué)史）并不像很多人那么悲觀(guān)，覺(jué)得機(jī)器出來(lái)以后就怎么著了，因?yàn)橹橐饫锏那楹鸵獾牟糠?，現(xiàn)在機(jī)器恐怕是沒(méi)法做到的。

主持人：AI正在走向知、情、意的全面合一。

吳國(guó)盛（清華科學(xué)史）：知情意里的情和意的知化，即希望通過(guò)知的方式把情和意給消解掉。你說(shuō)你有脾氣嗎？其實(shí)你也沒(méi)什么脾氣，無(wú)非就是你體內(nèi)某些元素的發(fā)作，用元素替代一下，你就沒(méi)脾氣了。這實(shí)際上還是一種唯知論的傳統(tǒng)，而且這是比較危險(xiǎn)的一種行為。

所以我們還是要在數(shù)字文明時(shí)代弘揚(yáng)更人性化。何謂更人性化？就是非知部分的意義和重要性。這部分我們始終要記住。因?yàn)槿绻麤](méi)有這部分，就不知道智能產(chǎn)業(yè)將向哪個(gè)方向發(fā)展，因?yàn)楫a(chǎn)業(yè)的發(fā)展首先要合乎人性本身的需要。

人性有什么需要？單憑大數(shù)據(jù)能不能做得到？局部是可以的，但是否能完全分析出來(lái)，還很難預(yù)判。

吳飛（浙大AI）：補(bǔ)充兩個(gè)方面。這是一個(gè)辯證的問(wèn)題。不可否認(rèn)，AI 現(xiàn)在已經(jīng)極大地提升了人類(lèi)生產(chǎn)、生活和學(xué)習(xí)的能力和效率。但是AI還有很多無(wú)法解決的問(wèn)題，例如因?yàn)锳I 的無(wú)能所引發(fā)的倫理問(wèn)題，還有隱私泄漏、大數(shù)據(jù)殺熟等危害。這些不是AI 故意在作惡，而是AI 技術(shù)水平現(xiàn)在還無(wú)法滿(mǎn)足倫理和道德要求。所以發(fā)明一個(gè)機(jī)器或AI 系統(tǒng)出來(lái)，并不是想要人類(lèi)來(lái)奴役人類(lèi)，而是讓人類(lèi)的生產(chǎn)生活效率更高效。這是從正面來(lái)看AI。

同時(shí)，AI 確實(shí)也造成了一些困擾，我們也不能對(duì)這些熟視無(wú)睹。所以我們又必須要制定相應(yīng)的法律法規(guī)和道德制度，約束AI 可能產(chǎn)生的不良后果。

所以并不是我們需要去躺平。此次CNCC大會(huì)上，趙春江院士談了在用機(jī)器摘果子[2]，盡管如此，人類(lèi)還是有很多行為是AI 機(jī)器無(wú)法模擬的，人類(lèi)絕對(duì)不能躺平。人有人的作用，我們應(yīng)該發(fā)揮主動(dòng)力，來(lái)把AI 改善和提高得更好，以更好地推動(dòng)我們?nèi)祟?lèi)社會(huì)的進(jìn)步。

6 從社會(huì)治理角度，人類(lèi)應(yīng)該發(fā)揮哪些作用？

主持人：從社會(huì)治理的角度來(lái)看，我們?nèi)藨?yīng)該發(fā)揮哪些作用？

翟志勇（北航法學(xué)）：剛才主持人提出了一個(gè)問(wèn)題，就是誰(shuí)的數(shù)字文明？從兩個(gè)層面來(lái)回答。

●   第一個(gè)層面應(yīng)該是我們的共識(shí)：這一定是人的數(shù)字文明。例如10 月28 日上午論壇第一位講者——斯坦福大學(xué)終身名譽(yù)教授James Landay講的以人為核心的AI向善。

所以從這個(gè)意義上看，主持人擔(dān)心人會(huì)躺平。如果說(shuō)躺平僅僅是指我們可以不去做那些重復(fù)、無(wú)意義的勞動(dòng)，躺平也很好，人們都?xì)g迎這種躺平。

但是主持人可能更關(guān)心的是另外的問(wèn)題，就是人會(huì)不會(huì)被機(jī)器所取代、異化，人會(huì)不會(huì)喪失自主性、認(rèn)知能力？這確實(shí)是我們所要關(guān)心的第一個(gè)層面：如何在數(shù)字文明發(fā)展過(guò)程中，始終能夠堅(jiān)守人的自主性、以人為中心的地位。

●   另一個(gè)層面去回答誰(shuí)的數(shù)字文明，會(huì)涉及剛才段偉文老師（社科院哲學(xué)）提到的問(wèn)題：誰(shuí)來(lái)去定義這樣一個(gè)文明？誰(shuí)來(lái)給它設(shè)定標(biāo)準(zhǔn)？誰(shuí)來(lái)評(píng)價(jià)它？這里會(huì)存在一個(gè)問(wèn)題，像主持人提到的，我們更多的是從倫理、法律的角度去關(guān)注，可能更多的是去講：數(shù)字文明首先應(yīng)該是弱者、弱勢(shì)地位人的文明。

提到科技向善、科技不作惡，弱勢(shì)群體可能遭受數(shù)字文明帶來(lái)的損害更大。例如機(jī)器人摘蘋(píng)果會(huì)導(dǎo)致大量人失業(yè)，而失業(yè)的大部分人可能是處于社會(huì)底層的，他們無(wú)法成為技術(shù)的受益者?，F(xiàn)在大模型的出現(xiàn)造成的不是體力勞動(dòng)者的失業(yè)，而是一些腦力勞動(dòng)者的失業(yè)。為此，一些國(guó)家和地區(qū)的政府、當(dāng)局采取了干預(yù)措施，例如印尼、馬來(lái)西亞、印度等國(guó)禁止直播帶貨，原因之一是擔(dān)心破壞大量小企業(yè)主/ 小商戶(hù)的經(jīng)營(yíng)，由此導(dǎo)致大量失業(yè)。因?yàn)橘I(mǎi)家都去直播帶貨那里去買(mǎi)了，利潤(rùn)變成了主播、直播帶貨公司的利潤(rùn)，小企業(yè)主/ 小商戶(hù)等經(jīng)營(yíng)者怎么辦？社會(huì)必須要為底層人士提供最基本的生活保障和就業(yè)權(quán)利。

當(dāng)然，如果從消費(fèi)者角度看，我們可能歡迎直播帶貨，它給我們帶來(lái)了更好的商品展示，可能以更低的物價(jià)、更方便地進(jìn)行購(gòu)物，有更好的購(gòu)物體驗(yàn)。但從政策制定、學(xué)者研究的角度來(lái)看，它可能會(huì)導(dǎo)致大量人的失業(yè)，或者大量人因此遭受到無(wú)法掌控的損害。

所以從這個(gè)意義上看，在第二個(gè)層面中去關(guān)注“誰(shuí)的數(shù)字文明”，應(yīng)該成為弱者的數(shù)字文明，弱者能夠從中受益，不會(huì)遭受不可控的侵害，這更為重要。

段偉文（社科院哲學(xué)）：人和計(jì)算機(jī)/AI 的差別，就是AI負(fù)責(zé)計(jì)算，人類(lèi)負(fù)責(zé)判斷和決策?，F(xiàn)在的問(wèn)題是AI的計(jì)算能力越來(lái)越強(qiáng)大，反過(guò)來(lái)對(duì)人的判斷力和決策力提出了更高的要求，這可能是人類(lèi)在數(shù)字文明時(shí)代面臨的重大挑戰(zhàn)。

主持人：這可能為人類(lèi)提出了更高的要求。但是我們?nèi)丝赡苓€是傾向于懶惰的生活?？档拢?724—1804，德國(guó)）曾經(jīng)在啟蒙運(yùn)動(dòng)思想里有句重要的話(huà)：如果有個(gè)領(lǐng)袖來(lái)替我去思考，我是不是自己還會(huì)去思考問(wèn)題？他那時(shí)還沒(méi)有預(yù)測(cè)到現(xiàn)在的機(jī)器時(shí)代，套用這句話(huà)就是：如果有一個(gè)機(jī)器替我思考……這個(gè)話(huà)題扯得太遠(yuǎn)了。剛剛翟志勇老師（北航法學(xué)）提到了誰(shuí)的數(shù)字文明的時(shí)候，是從社會(huì)結(jié)構(gòu)上來(lái)講，希望最終技術(shù)應(yīng)該是能夠賦能社會(huì)底層，但目前的情況恰恰有可能帶來(lái)的是“強(qiáng)者越強(qiáng)，弱者越弱”的大失業(yè)。

在CNCC2023大會(huì)上，來(lái)自北大的經(jīng)濟(jì)學(xué)家張維迎教授做了一個(gè)報(bào)告，講到企業(yè)家精神和數(shù)字經(jīng)濟(jì)，按照張老師的觀(guān)點(diǎn)，數(shù)字經(jīng)濟(jì)本身應(yīng)該是資源自由競(jìng)爭(zhēng)的，因?yàn)樗胁淮_定性。翟志勇老師（北航法學(xué)）也反對(duì)壟斷。

但是另一方面，從數(shù)字經(jīng)濟(jì)、整個(gè)平臺(tái)經(jīng)濟(jì)的發(fā)展來(lái)看，實(shí)際上它帶來(lái)一個(gè)很大的問(wèn)題：數(shù)字壟斷由一部分人掌握了，例如一些大平臺(tái)越來(lái)越多地滲透到生活的各個(gè)方面，收集了大量的數(shù)據(jù)，然后因?yàn)榻裉焖械腁I（科學(xué)、農(nóng)業(yè)等）都是要靠數(shù)字來(lái)喂的，大模型也要靠數(shù)字，帶來(lái)了數(shù)字牽引。這樣一來(lái)，這是不是就有點(diǎn)悖論：一方面我們要自由競(jìng)爭(zhēng)；但另一方面還是需要政策、法律的干預(yù)，而不能完全自由。是不是這個(gè)意思？

翟志勇（北航法學(xué)）：數(shù)字文明應(yīng)該是弱者的數(shù)字文明，但這并不是反對(duì)強(qiáng)者或者反對(duì)技術(shù)，而是技術(shù)或數(shù)字文明的發(fā)展應(yīng)該是在保障弱者基本權(quán)益的基礎(chǔ)之上去展開(kāi)競(jìng)爭(zhēng)和發(fā)展的。一方面?zhèn)惱韺W(xué)家、法學(xué)家或公共政策制定者提出一系列的要求、指標(biāo)；另一方面，技術(shù)專(zhuān)家通過(guò)技術(shù)可以實(shí)現(xiàn)這些目標(biāo)?？赡苓@里缺少二者聯(lián)通的管道，法律上叫正當(dāng)程序。實(shí)際上是以最終的一個(gè)程序去保證最終的結(jié)果。在技術(shù)領(lǐng)域中探討這個(gè)問(wèn)題也是這樣，應(yīng)該有一個(gè)公平的程序來(lái)實(shí)現(xiàn)技術(shù)的正當(dāng)程序。在這個(gè)過(guò)程中，使得倫理學(xué)者、公共政策的制定者、技術(shù)專(zhuān)家、企業(yè)等能夠在這樣一個(gè)公平的程序里去展開(kāi)討論，并且制定出有效的技術(shù)標(biāo)準(zhǔn)、公共政策的標(biāo)準(zhǔn)等，而不是任何一方給予對(duì)方一個(gè)必須要接受的東西。所以要有正當(dāng)程序這樣一個(gè)管道，使得所有的相關(guān)利益方都能參與進(jìn)去。

7 小結(jié)

吳飛（浙大AI）：信息技術(shù)和AI 的發(fā)展是人類(lèi)從農(nóng)耕時(shí)代、工業(yè)文明時(shí)代累積起來(lái)的文明，這必然會(huì)成為馬克思所言的普遍智能，為我們每個(gè)人所用，這也是數(shù)字文明追求的目標(biāo)之一。

段偉文（社科院哲學(xué)）：數(shù)字文明延續(xù)了計(jì)算機(jī)控制論，是把人類(lèi)和機(jī)器當(dāng)成一個(gè)行為者的的思路。換句話(huà)，數(shù)字文明時(shí)代最重要的一點(diǎn)是出現(xiàn)了計(jì)算機(jī)作為社會(huì)的行動(dòng)者，作為一個(gè)第三者，就好像出租車(chē)司機(jī)和乘客之間有導(dǎo)航一樣，所以我們將來(lái)要面對(duì)這種AI 體，它跟人類(lèi)怎樣相處？它會(huì)不會(huì)成為我們的導(dǎo)師、偶像或精神上的權(quán)威？這里有太多需要思考的地方。

翟志勇（北航法學(xué)）：ChatGPT 橫空出世之后，美國(guó)國(guó)會(huì)對(duì)安全等一系列問(wèn)題非常關(guān)注，所以ChatGPT之父——OpenAI 的CEO山姆·阿爾特曼(Sam Altman)也去國(guó)會(huì)作證，他作為大模型技術(shù)領(lǐng)先者，呼吁政府對(duì)大模型進(jìn)行監(jiān)管。不僅是美國(guó)國(guó)會(huì)，他呼吁全世界都要對(duì)它進(jìn)行監(jiān)管。由此想到，數(shù)字文明可能更需要技術(shù)開(kāi)發(fā)者、技術(shù)企業(yè)來(lái)參與到倫理、標(biāo)準(zhǔn)、法律公共政策的制定中，這樣才能從公共政策的角度制定出更適合技術(shù)發(fā)展、技術(shù)向善、不做惡的法律與公共政策。因此希望技術(shù)人員能夠加入到這個(gè)領(lǐng)域里，而不僅僅是社科人員走到技術(shù)人員的領(lǐng)域里。

古天龍（暨大可信AI）：希望技術(shù)融入人文社科來(lái)進(jìn)行社會(huì)治理，即法律、倫理、道德、技術(shù)多管齊下，呼吁重視技術(shù)治理維度。希望加強(qiáng)數(shù)字技術(shù)治理，提升全民素質(zhì)素養(yǎng)，促進(jìn)數(shù)字文明建設(shè)。

吳國(guó)盛（清華科學(xué)史）：技術(shù)不是中性的，數(shù)字技術(shù)也不是中性的。任何一項(xiàng)技術(shù)的大規(guī)模深入發(fā)展，必然帶來(lái)文明新形態(tài)的產(chǎn)生。在今天數(shù)字技術(shù)正在方興未艾地發(fā)展，我們提前提出數(shù)字文明的概念，以此來(lái)規(guī)范數(shù)字技術(shù)的發(fā)展，使之朝著有利于人類(lèi)福祉、健康和幸福生活的方向發(fā)展這一概念，是特別值得稱(chēng)道的。

主持人：CNCC 大會(huì)主要是討論數(shù)字技術(shù)的，參與者可能更多地盯在器物層面。但是大會(huì)主席在確定這個(gè)題目的時(shí)候，站到了更高的層面，來(lái)從整個(gè)人類(lèi)發(fā)展的歷史和文明形態(tài)的變更上來(lái)去考慮這樣的問(wèn)題。數(shù)字技術(shù)不等于數(shù)字文明，建設(shè)數(shù)字文明，不僅需要技術(shù)，還需要相應(yīng)的所有上層建筑的一起參與。

參考文章：

[1] 王瑩.如何做好工業(yè)IT和OT的融合.EEPW,2023(12):20-27.

[2] 迎九.院士觀(guān)察:我國(guó)智慧農(nóng)業(yè)的現(xiàn)狀與展望. EEPW,2024(1-2):56-59.

（本文來(lái)源于《EEPW》2024.3）