人工智能發(fā)展面臨的法律挑戰(zhàn)

　　值得注意的是，對(duì)于產(chǎn)品生產(chǎn)者的嚴(yán)格責(zé)任，規(guī)定有“當(dāng)前科學(xué)水平尚不能發(fā)現(xiàn)缺陷”的免責(zé)事由。但是這項(xiàng)免責(zé)事由在人工智能領(lǐng)域是否適用值得討論?盡管在深度學(xué)習(xí)訓(xùn)練數(shù)據(jù)和學(xué)習(xí)過程存在不可預(yù)見性，但考慮到人工智能的算法完全由開發(fā)者編寫，開發(fā)者對(duì)風(fēng)險(xiǎn)源頭具有絕對(duì)的控制力，司法機(jī)關(guān)可能會(huì)推定開發(fā)者應(yīng)當(dāng)預(yù)見算法執(zhí)行中的可能風(fēng)險(xiǎn)或要求開發(fā)者需要對(duì)風(fēng)險(xiǎn)程度的增加承擔(dān)責(zé)任。在此情況下，如果生產(chǎn)者想要免責(zé)，就要對(duì)當(dāng)前技術(shù)難以發(fā)現(xiàn)這項(xiàng)風(fēng)險(xiǎn)進(jìn)行舉證，但這是比較困難的，特別是在人身?yè)p害領(lǐng)域，法院對(duì)免責(zé)事由的審查往往比財(cái)產(chǎn)損害要更加嚴(yán)格。

　　人工智能與行業(yè)監(jiān)管

　　人工智能技術(shù)或者產(chǎn)品的研發(fā)本身目前并未設(shè)置行政許可和準(zhǔn)入限制，但是一旦這些技術(shù)和產(chǎn)品將要應(yīng)用到具體的行業(yè)之中，那么就有可能會(huì)涉及各類行業(yè)的牌照取得的問題。

　　例如在目前最備受熱議的“智能投顧”行業(yè)，就出現(xiàn)了很多人打著智能投顧的幌子行非法薦股和無(wú)牌照代銷的現(xiàn)象。智能投顧，通俗地說(shuō)就是“機(jī)器人理財(cái)”，最早出現(xiàn)在美國(guó)，是用數(shù)據(jù)算法優(yōu)化理財(cái)配置的產(chǎn)品。目前國(guó)內(nèi)的智能投顧平臺(tái)主要有投資咨詢和資產(chǎn)管理兩大方向的業(yè)務(wù)。因此，“智能投顧”也會(huì)涉及投資咨詢和資產(chǎn)管理兩個(gè)方面的牌照。如果平臺(tái)從事證券投資咨詢業(yè)務(wù)，按規(guī)定，其必須取得經(jīng)中國(guó)證監(jiān)會(huì)頒發(fā)的證券投資咨詢從業(yè)資格。而且這樣的平臺(tái)只能向投資者提供咨詢建議，不能接觸投資者賬戶或者受托理財(cái)。如果智能投顧平臺(tái)涉及銷售金融產(chǎn)品，還需要根據(jù)產(chǎn)品類型取得相關(guān)許可。未取得相關(guān)許可的智能投顧平臺(tái)經(jīng)營(yíng)者可能會(huì)因非法經(jīng)營(yíng)罪陷入刑事法律風(fēng)險(xiǎn)。在其他的人工智能應(yīng)用行業(yè)，例如醫(yī)療設(shè)備、聯(lián)網(wǎng)的可穿戴設(shè)備等，牌照的監(jiān)管問題也不容忽視。

　　未來(lái)行業(yè)監(jiān)管是否需要延伸至人工智能領(lǐng)域?對(duì)于金融、醫(yī)療、智能家居、自動(dòng)駕駛等專業(yè)領(lǐng)域，監(jiān)管是否有必要介入人工智能的開發(fā)，這取決于人工智能技術(shù)的發(fā)展程度，如果有一天人工智能進(jìn)化到了能夠代替人做決策的階段，那么在人工智能的開發(fā)環(huán)節(jié)便需要引入相關(guān)領(lǐng)域的具備資質(zhì)的專業(yè)人員。在此之前，對(duì)于僅僅在自動(dòng)化操作和輔助判斷領(lǐng)域發(fā)揮作用的人工智能，不妨留給技術(shù)人員自由生長(zhǎng)。

　　技術(shù)創(chuàng)新與不正當(dāng)競(jìng)爭(zhēng)

　　人工智能的優(yōu)勢(shì)，就在于它能在一定程度上模擬用戶的思維過程，并輔助或代替用戶作出決定。不難預(yù)見，這一過程中可能存在的服務(wù)交叉和選擇偏好問題，將成為競(jìng)爭(zhēng)法領(lǐng)域新的熱門話題。

　　為了進(jìn)行輔助決策，人工智能可能需要利用其他設(shè)備或軟件運(yùn)行過程中的數(shù)據(jù)，那么用戶和其他軟件的開發(fā)者，誰(shuí)是這些數(shù)據(jù)的所有人，誰(shuí)能夠作出有效的授權(quán)?如果堅(jiān)持使用公共數(shù)據(jù)必須逐一取得其他設(shè)備生產(chǎn)者或軟件開發(fā)者的同意，無(wú)疑將極大的制約人工智能的應(yīng)用場(chǎng)景和發(fā)展速度。相反，如果認(rèn)為人工智能開發(fā)者在充分保證用戶知情權(quán)和選擇權(quán)、不損害產(chǎn)品或軟件原有功能和商業(yè)模式的前提下，可以獲取其他設(shè)備或軟件的公共數(shù)據(jù)，那么必將有助于市場(chǎng)競(jìng)爭(zhēng)、打破目前“軍閥割據(jù)”的混亂局面。

　　語(yǔ)音助手已經(jīng)可以簡(jiǎn)化用戶的操作，不遠(yuǎn)的未來(lái)，如果人工智能發(fā)展到可以預(yù)測(cè)用戶的需求的階段，在用戶的進(jìn)入特定場(chǎng)景前便已經(jīng)準(zhǔn)備好相應(yīng)的服務(wù)，這種“衣來(lái)伸手飯來(lái)張口”的提前介入，糾結(jié)屬于合法的技術(shù)創(chuàng)新，還是構(gòu)成對(duì)競(jìng)爭(zhēng)對(duì)手的惡意干擾甚至流量劫持，往往需要結(jié)合介入時(shí)機(jī)、介入方式和損害后果等因素綜合判斷。技術(shù)中立原則并非萬(wàn)能的擋箭牌。

　　總得來(lái)說(shuō)，人工智能的最高理想是代替用戶決策，而決策隱含著對(duì)服務(wù)的篩選和分發(fā)，這意味著人工智能將成為一種全新的流量入口。可以預(yù)見的是，開發(fā)者夾帶自身利益的沖動(dòng)難以杜絕，但另一方面，也無(wú)需對(duì)此過度擔(dān)憂，長(zhǎng)遠(yuǎn)來(lái)看，只要用戶依然享有用腳投票的權(quán)利，市場(chǎng)競(jìng)爭(zhēng)始終是保證用戶體驗(yàn)的不二法門。

　　未成年人保護(hù)和AI倫理

　　一說(shuō)到人工智能的用戶，很多人第一聯(lián)想到的總是成年人，而忽略了身邊的很多“小玩家”。人工智能作為一種“增值”技術(shù)，早已滲透在我們的手機(jī)、iPad、電腦當(dāng)中，而小朋友們又是這些產(chǎn)品的“頭號(hào)粉絲”，其接觸到人工智能，實(shí)屬必然。但是就在這時(shí)候，人工智能貌似并不能識(shí)別出“小用戶們”的身份。最近，國(guó)外網(wǎng)站出現(xiàn)了一段視頻，在視頻中小孩向亞馬遜Alexa下達(dá)指令：“Alexa，請(qǐng)播放‘diggerdigger(兒童歌曲)’。”之后，亞馬遜個(gè)人助手通過算法進(jìn)行識(shí)別，竟然認(rèn)為小孩子想聽情色內(nèi)容并開始播放。當(dāng)小孩子的父母意識(shí)到發(fā)生了什么事情的時(shí)候，已經(jīng)為時(shí)已晚。無(wú)獨(dú)有偶，一名六歲的女孩在和Echo內(nèi)置的人工智能助手Alexa聊天時(shí)，訂下了價(jià)值170美元的玩具。雖然小孩的媽媽在知道此事后立刻取消了操作，但訂單早已經(jīng)被處理。和孩子身高幾乎相同的玩偶在第二天就被送到了家門口。因此，我們看到，鑒于人工智能技術(shù)尚不成熟，而且小孩子這項(xiàng)技術(shù)的認(rèn)知也未深入，他們?cè)诮佑|到人工智能系統(tǒng)時(shí)很有可能發(fā)生各種問題。人工智能的研發(fā)者和制造者應(yīng)該預(yù)料到未成年人有接觸到其產(chǎn)品的可能性，并采取相應(yīng)的保護(hù)措施。

　　同時(shí)，其他主體例如政府、學(xué)校和家長(zhǎng)，對(duì)提高未成年人對(duì)人工智能的認(rèn)知都負(fù)有責(zé)任。例如，在美國(guó)白宮發(fā)布的報(bào)告《為未來(lái)人工智能做好準(zhǔn)備》中就提到，院校應(yīng)在安防、隱私和安全方面納入倫理學(xué)和相關(guān)主題，將其作為人工智能、機(jī)器學(xué)、計(jì)算機(jī)科學(xué)和數(shù)據(jù)科學(xué)整體課程的一部分。同時(shí)，在其另一份報(bào)告《人工智能、自動(dòng)化與經(jīng)濟(jì)報(bào)告》中也提出了“為未來(lái)的工作教育和培訓(xùn)美國(guó)人”戰(zhàn)略，明確在數(shù)學(xué)、計(jì)算機(jī)科學(xué)等與人工智能密切相關(guān)的主題中提高學(xué)生們的認(rèn)知。

　　在過去的六十年中，人工智能技術(shù)起起伏伏，這一波人工智能熱將在多大程度上影響人類社會(huì)還未可知。在考慮如何使用這項(xiàng)技術(shù)幫助人類決策的同時(shí)，我們也要清楚地認(rèn)識(shí)到，監(jiān)管部門和司法機(jī)關(guān)對(duì)透明性和舉證責(zé)任的要求，與機(jī)器學(xué)習(xí)結(jié)果的不確定性和算法保密要求之間，存在著一種結(jié)構(gòu)性的緊張關(guān)系。如何在建立一個(gè)既能鼓勵(lì)人工技術(shù)發(fā)展，又能合理分配風(fēng)險(xiǎn)的監(jiān)管制度，是下一篇專欄要討論的問題。