OpenAI已經(jīng)發(fā)現(xiàn)會(huì)威脅人類(lèi)的人工智能技術(shù)

11月23日消息，據(jù)路透社援引兩位知情人士透露，在OpenAI首席執(zhí)行官薩姆·奧特曼(Sam Altman)被公司前董事會(huì)罷免之前，幾名研究人員向董事會(huì)發(fā)出了一封信，警告稱(chēng)人工智能領(lǐng)域的一項(xiàng)技術(shù)突破可能會(huì)威脅到人類(lèi)。

兩位消息人士表示，這封信和人工智能算法上的突破是導(dǎo)致董事會(huì)罷免奧特曼的催化劑。奧特曼是生成式人工智能領(lǐng)域的代表人物。在他本周二晚些時(shí)候重返OpenAI擔(dān)任首席執(zhí)行官之前，已有700多名員工威脅要辭職，并加入微軟麾下，以此來(lái)聲援奧特曼。

消息人士稱(chēng)，這封信只是董事會(huì)對(duì)奧特曼產(chǎn)生的諸多不滿(mǎn)之一。目前信的內(nèi)容無(wú)從得知，寫(xiě)這封信的研究人員也沒(méi)有立即回應(yīng)置評(píng)請(qǐng)求。

OpenAI拒絕置評(píng)。

據(jù)其中一位消息人士透露，長(zhǎng)期擔(dān)任公司高管的米拉·穆拉蒂(Mira Murati)周三告訴員工，一封關(guān)于人工智能技術(shù)突破Q*的信件最終促成了董事會(huì)的行動(dòng)。

其中一名知情人士表示，OpenAI在Q*這項(xiàng)技術(shù)突破上取得了進(jìn)展，一些內(nèi)部人士認(rèn)為Q*可能指的是OpenAI在通用人工智能（AGI）領(lǐng)域的突破。OpenAI將AGI定義為比人類(lèi)更聰明的人工智能系統(tǒng)。

這位不愿透露姓名的消息人士表示，在龐大計(jì)算資源的幫助下，新模型能夠解決某些數(shù)學(xué)問(wèn)題。消息人士說(shuō)，雖然Q*的數(shù)學(xué)成績(jī)目前還只能達(dá)到小學(xué)生的水平，但在相關(guān)測(cè)試中取得的優(yōu)異成績(jī)讓研究人員對(duì)未來(lái)這項(xiàng)技術(shù)的前景非常樂(lè)觀。

目前還無(wú)法獨(dú)立證實(shí)研究人員所說(shuō)的Q*能力。