教皇將與微軟、IBM共同簽署人工智能倫理原則

據(jù)外媒報(bào)道，梵蒂岡官員周五計(jì)劃公布有關(guān)人工智能的倫理原則。此舉獲得了微軟和國(guó)際商用機(jī)器公司（IBM）的支持，他們也是主要的兩家來(lái)自技術(shù)產(chǎn)業(yè)的支持者。

這份“人工智能倫理羅馬宣言”文件宣稱(chēng)，人工智能技術(shù)應(yīng)尊重個(gè)人隱私，應(yīng)以可靠而無(wú)偏見(jiàn)的方式工作，應(yīng)考慮“所有人的需求”，并以透明的方式運(yùn)作——這是一個(gè)正處于研究進(jìn)行時(shí)的領(lǐng)域，人工智能系統(tǒng)的決定往往難以預(yù)測(cè)。

這份文件表明，公司和研究機(jī)構(gòu)正越來(lái)越有興趣為快速發(fā)展的技術(shù)設(shè)置防護(hù)欄。警方使用面部識(shí)別系統(tǒng)調(diào)查犯罪，財(cái)富500強(qiáng)公司使用人工智能審查求職者——這兩個(gè)例子都屬于高風(fēng)險(xiǎn)事務(wù)，在這些事務(wù)中使用不準(zhǔn)確或有偏見(jiàn)的軟件系統(tǒng)可能將給人類(lèi)帶來(lái)傷害。

據(jù)IBM執(zhí)行副總裁兼簽署人之一約翰·凱利三世（John Kelly III）說(shuō)，梵蒂岡的這一舉措是出于教皇方濟(jì)各一年多前對(duì)人工智能及其對(duì)社會(huì)影響的擔(dān)憂。

“他主要擔(dān)心的是，這一技術(shù)是否對(duì)所有人開(kāi)放？還是會(huì)進(jìn)一步分化富人和窮人？”凱利在接受采訪時(shí)說(shuō)。他說(shuō)，梵蒂岡官員還對(duì)人工智能將取代人類(lèi)工作這一前景表示了擔(dān)憂，并為此于去年9月在美國(guó)的一個(gè)研究中心與IBM會(huì)面（探討了這一問(wèn)題）。

教皇方濟(jì)各本周五將收到這份文件，并將在梵蒂岡主教生命學(xué)院本周主辦的人工智能倫理會(huì)議上對(duì)此做出結(jié)論。其他與會(huì)者包括歐洲議會(huì)主席大衛(wèi)·薩索利（David Sassoli）和微軟總裁布萊德·史密斯（Brad Smith）。

目前尚不清楚今后還有哪些其他技術(shù)公司會(huì)簽署該文件，也不清楚簽署方將如何執(zhí)行這些倫理原則。

例如，IBM希望在它的人工智能系統(tǒng)提出醫(yī)療建議時(shí)能有一名醫(yī)生參與其中。本周，IBM與羅馬Bambino Gesù兒童醫(yī)院達(dá)成了一項(xiàng)合作協(xié)議。這項(xiàng)合作的重點(diǎn)將是開(kāi)發(fā)能加快對(duì)腦腫瘤患者進(jìn)行診斷和治療的技術(shù)。

IBM和微軟都表示，他們都對(duì)客戶(hù)是如此急于使用他們的技術(shù)感到不安，因此他們拒絕了這方面的業(yè)務(wù)。凱利表示，在IBM研發(fā)人工智能技術(shù)時(shí)所遇到的倫理問(wèn)題中，約有三分之一并沒(méi)有明確的答案。 他說(shuō)：“未來(lái)我們將會(huì)遇到更多沒(méi)有明確答案的倫理問(wèn)題，因?yàn)榧夹g(shù)進(jìn)步是如此之快?！?/p>