美國加州推進(jìn)人工智能安全法案，引發(fā)科技領(lǐng)袖分歧

加利福尼亞州議會(huì)批準(zhǔn)了一項(xiàng)備受爭(zhēng)議的人工智能安全法案，要求企業(yè)確保其技術(shù)不會(huì)造成重大傷害。

這項(xiàng)名為 SB 1047 的法案得到了一系列美國知名人士的批評(píng)和贊揚(yáng)?，F(xiàn)在，這項(xiàng)法案將回到州參議院進(jìn)行確認(rèn)投票，可能進(jìn)行修改，此后將提交給州長(zhǎng)加文?紐森（Gavin Newsom）。該法案已經(jīng)在州眾議院以 41 票贊成、9 票反對(duì)獲得通過。

SB 1047 法案規(guī)定，開發(fā)強(qiáng)大人工智能模型的公司必須采取“合理的謹(jǐn)慎措施”，確保其技術(shù)不會(huì)造成“嚴(yán)重傷害”，比如大規(guī)模傷亡或超過 5 億美元的財(cái)產(chǎn)損失。這項(xiàng)法案由加利福尼亞州參議員斯科特?維納（Scott Wiener）提出，于今年 5 月在州參議院獲得通過。該法案將要求企業(yè)采取預(yù)防措施，比如引入可以隨時(shí)關(guān)閉其技術(shù)的“終止開關(guān)”。該法案還要求將模型提交給第三方測(cè)試，以確保將嚴(yán)重風(fēng)險(xiǎn)降至最低水平。

此外，該法案還將為希望分享安全隱患的人工智能公司員工提供舉報(bào)人保護(hù)。不遵守該法案的公司可能會(huì)被加州總檢察長(zhǎng)起訴。

“創(chuàng)新和安全可以攜手并進(jìn)，而加州正在引領(lǐng)這一潮流，”維納在聲明中說，“通過這次投票，州眾議院邁出了真正具有歷史意義的一步，積極主動(dòng)地開展工作，以確保一項(xiàng)令人興奮的新技術(shù)在發(fā)展過程中保護(hù)公眾利益?！彼€稱該法案是一項(xiàng)“簡(jiǎn)單易行的常識(shí)性措施”，將許多大公司已經(jīng)做出的安全承諾編纂成法律。

在過去的幾個(gè)月里，該法案遭到了許多主要科技領(lǐng)袖、初創(chuàng)公司和風(fēng)險(xiǎn)投資家的激烈反對(duì)，他們認(rèn)為該法案代表了政府對(duì)一項(xiàng)仍處于起步階段的技術(shù)的過度干預(yù)，可能會(huì)扼殺加利福尼亞州的科技創(chuàng)新。上周，OpenAI 公開表示反對(duì)該法案，認(rèn)為此類政策應(yīng)在聯(lián)邦層面而非州層面實(shí)施。

包括美國眾議員羅?卡納（Ro Khanna）、舊金山市長(zhǎng)倫敦?布里德（London Breed）等政界人士也對(duì)該法案表示反對(duì)，他們對(duì)科技行業(yè)的擔(dān)憂表示認(rèn)同，即該法案可能會(huì)阻礙加州在人工智能創(chuàng)新方面的領(lǐng)導(dǎo)地位。

但在這次投票前的最后階段，該法案也贏得了人工智能領(lǐng)域一些重要人物的支持。8 月 27 日，埃隆?馬斯克（Elon Musk）出人意料地表示了支持，盡管他說這是一個(gè)“艱難的決定，會(huì)讓一些人不高興”。OpenAI 的競(jìng)爭(zhēng)對(duì)手 Anthropic 以注重安全而著稱，也謹(jǐn)慎地支持了這項(xiàng)法案，并在上周表示，“收益可能大于成本”，而且可以切實(shí)地實(shí)施這些條款。在維納實(shí)施了該公司建議的幾項(xiàng)修正后，Anthropic 對(duì)該法案更加支持。

面對(duì)批評(píng)者，維納為該法案進(jìn)行了辯護(hù)，強(qiáng)調(diào)其條款僅適用于花費(fèi)超過 1 億美元訓(xùn)練大型模型或花費(fèi) 1000 萬美元微調(diào)模型的公司，這將使大多數(shù)規(guī)模較小的初創(chuàng)公司免受影響。這位議員還表示，雖然他會(huì)支持聯(lián)邦立法，但國會(huì)在科技監(jiān)管方面歷來行動(dòng)遲緩，在缺乏全國性行動(dòng)的情況下，他認(rèn)為加州有責(zé)任發(fā)揮帶頭作用。

現(xiàn)在，隨著 SB 1047 法案提交給州長(zhǎng)紐森，有關(guān)該法案的爭(zhēng)論還將繼續(xù)。OpenAI、科技孵化器 Y Combinator 和風(fēng)險(xiǎn)投資公司 Andreessen Horowitz（SB 1047 的批評(píng)者）都注冊(cè)了游說人員為該法案工作。