<meter id="pryje"><nav id="pryje"><delect id="pryje"></delect></nav></meter>
          <label id="pryje"></label>

          新聞中心

          EEPW首頁(yè) > 智能計(jì)算 > 業(yè)界動(dòng)態(tài) > 人工智能和隱私安全不可兼得?

          人工智能和隱私安全不可兼得?

          作者: 時(shí)間:2019-06-26 來(lái)源:中國(guó)科學(xué)報(bào) 收藏

          在人們?cè)絹?lái)越看重個(gè)人和信息的當(dāng)下,技術(shù)是把雙刃劍。如何讓在保障用戶的軌道上有序發(fā)展,正成為國(guó)內(nèi)外共同關(guān)注的焦點(diǎn)和難點(diǎn)。

          本文引用地址:http://www.ex-cimer.com/article/201906/401895.htm

          5月16日,美國(guó)舊金山市政府通過(guò)《停止秘密監(jiān)察條例》法案,禁止舊金山的政府機(jī)構(gòu)使用人臉識(shí)別技術(shù),并將"靠人臉識(shí)別技術(shù)獲得某些信息"列為違法行為。這無(wú)疑是一種保護(hù)的措施,但也引起諸多爭(zhēng)議。

          國(guó)內(nèi)某著名計(jì)算機(jī)視覺(jué)創(chuàng)業(yè)公司一位要求匿名的副總裁在接受《中國(guó)科學(xué)報(bào)》采訪時(shí)反問(wèn):"舊金山已經(jīng)不再是一座能讓人感到的城市,人臉識(shí)別作為提高安全系數(shù)的基礎(chǔ)工具,反而禁止使用,不知道什么技術(shù)手段可以保證安全?"

          和隱私安全不可兼得?

          有意思的是,最近亞馬遜公司的股東以壓倒性多數(shù)票,否決了該公司停止向政府機(jī)構(gòu)出售其人臉識(shí)別技術(shù)的一項(xiàng)提議,只有2.4%的股東投票贊成這項(xiàng)禁令。

          "這兩件事情放在一起看非常有意思。"上述副總裁說(shuō),這說(shuō)明圍繞個(gè)人隱私、群體安全問(wèn)題,對(duì)于人臉識(shí)別技術(shù)的使用需要一個(gè)平衡。"這個(gè)平衡,就是一個(gè)好的規(guī)則規(guī)范——不僅要去規(guī)范人臉識(shí)別技術(shù)企業(yè),還要去規(guī)范使用這些技術(shù)的機(jī)構(gòu)。"

          實(shí)際上,人臉識(shí)別技術(shù)所創(chuàng)造的價(jià)值是被認(rèn)可的。該副總裁認(rèn)為,假使只是因?yàn)椴淮_定使用人臉識(shí)別技術(shù)能夠帶來(lái)什么后果就直接禁用,那么這只能是一種短視或者短期行為。

          "在滿足某些條件的情況下,這種技術(shù)當(dāng)然是可以應(yīng)用的。"他說(shuō)道,"作為發(fā)明和使用新技術(shù)的人,都要去認(rèn)真思考這些問(wèn)題,并且一起努力促使新規(guī)范的形成,而不是直接禁止掉。"

          隨著大數(shù)據(jù)的使用、算力的提高和算法的突破,人工智能正變得無(wú)處不在。由此帶來(lái)的問(wèn)題是,人們一方面享受人工智能帶來(lái)的"紅利",另一方面則面臨隱私被當(dāng)做"資源"過(guò)度和非法使用的困境。如何應(yīng)對(duì)人們隱私"裸奔"的挑戰(zhàn)變得越發(fā)嚴(yán)峻。

          技術(shù)手段:區(qū)塊鏈技術(shù)被派上場(chǎng)

          以"人工智能+醫(yī)療"為例,人工智能技術(shù)在醫(yī)療健康領(lǐng)域的應(yīng)用潛力巨大,但也面臨著數(shù)據(jù)的問(wèn)題——用以訓(xùn)練人工智能模型的大量醫(yī)學(xué)數(shù)據(jù),可能是圖像、基因組、電子健康記錄等這些非常敏感的信息。

          基于醫(yī)院的數(shù)據(jù)進(jìn)行訓(xùn)練的人工智能算法有望獲得診斷、預(yù)防疾病和甚至治療疾病的能力。但在許多國(guó)家,由于法律原因,醫(yī)療記錄無(wú)法輕易共享并提供給算法。這使得利用人工智能在醫(yī)學(xué)圖像或數(shù)據(jù)中發(fā)現(xiàn)疾病的研究通常只能涉及相對(duì)較小的數(shù)據(jù)集,極大地制約了技術(shù)應(yīng)用前景。

          美國(guó)加州大學(xué)伯克利分校一家創(chuàng)業(yè)公司"綠洲實(shí)驗(yàn)室"(Oasis Labs),致力于探索利用云計(jì)算和區(qū)塊鏈等技術(shù)確保用于研究的醫(yī)療數(shù)據(jù)等信息不被泄露或?yàn)E用。目前,斯坦福大學(xué)醫(yī)學(xué)院已經(jīng)批準(zhǔn)綠洲實(shí)驗(yàn)室與相關(guān)的研究人員一道在該院開(kāi)展實(shí)驗(yàn),測(cè)試他們的技術(shù)對(duì)解決上述兩難問(wèn)題是否有效果。

          綠洲實(shí)驗(yàn)室首先將患者的個(gè)人數(shù)據(jù)存儲(chǔ)在一款合作設(shè)計(jì)的安全芯片上,并保存在云端。外部人員——希望以數(shù)據(jù)集訓(xùn)練算法的工程師們,可以在該系統(tǒng)(安全芯片+云端)下,利用數(shù)據(jù)運(yùn)行算法并輸出結(jié)果。該系統(tǒng)也會(huì)在接收到數(shù)據(jù)訪問(wèn)請(qǐng)求時(shí),觸發(fā)基于區(qū)塊鏈的軟件上的智能合約系統(tǒng),智能合約不僅會(huì)記錄數(shù)據(jù)的使用方式,還能檢查機(jī)器學(xué)習(xí)計(jì)算是否被正確執(zhí)行。

          綠洲實(shí)驗(yàn)室聯(lián)合創(chuàng)始人兼加州大學(xué)伯克利分校教授Dawn Song介紹說(shuō),該技術(shù)還可以推及人工智能在其他領(lǐng)域的應(yīng)用,例如財(cái)務(wù)記錄、個(gè)人購(gòu)買(mǎi)習(xí)慣或網(wǎng)頁(yè)瀏覽數(shù)據(jù)。不過(guò)他表示,在探索其他領(lǐng)域之前,他們的計(jì)劃是先推動(dòng)此技術(shù)在醫(yī)療領(lǐng)域的應(yīng)用。

          盡管綠洲實(shí)驗(yàn)室的技術(shù)探索展現(xiàn)出了潛力,但美國(guó)弗吉尼亞大學(xué)專(zhuān)門(mén)研究機(jī)器學(xué)習(xí)與安全問(wèn)題的專(zhuān)家埃文斯仍持保守態(tài)度。他指出,在安全硬件中存儲(chǔ)數(shù)據(jù)也有失敗的風(fēng)險(xiǎn)。一旦硬件制造方遭遇攻擊,它所處理的數(shù)據(jù)就會(huì)面臨風(fēng)險(xiǎn)。并且,現(xiàn)在也沒(méi)有證據(jù)證明,區(qū)塊鏈一定就是可靠的技術(shù)。

          立法約束:讓合規(guī)應(yīng)用有章可循

          在沒(méi)有好的技術(shù)措施解決問(wèn)題之前,使用法規(guī)法律保護(hù)隱私和個(gè)人信息安全,是全球通用的做法。

          2018年5月,歐盟頒布的被稱(chēng)為"史上最嚴(yán)"的《通用數(shù)據(jù)保護(hù)條例》(GDPR),就對(duì)企業(yè)獲取及使用數(shù)據(jù)的方式進(jìn)行了嚴(yán)格的限定。GDPR要求經(jīng)營(yíng)者告知并獲得客戶同意才可記錄用戶搜索等記錄,且不能使用模糊、冗長(zhǎng)的語(yǔ)言政策來(lái)獲取用戶數(shù)據(jù)使用許可等。并且,GDPR對(duì)違法企業(yè)的懲處力度也是空前的。

          中國(guó)科學(xué)院自動(dòng)化研究所研究員曾毅認(rèn)為,GDPR值得我國(guó)借鑒。雖然GDPR在實(shí)施初期,遭到很多企業(yè)質(zhì)疑且難以推行,但隨著企業(yè)接受并按要求落實(shí),他們將得到更多用戶的認(rèn)可和信任。

          曾毅告訴《中國(guó)科學(xué)報(bào)》,如果人工智能系統(tǒng)不能盡力確保個(gè)人數(shù)據(jù)的安全性,不但無(wú)法贏得用戶信賴,而且將觸犯相關(guān)法律。人工智能的研發(fā)者、服務(wù)提供者、使用者都應(yīng)充分了解有關(guān)個(gè)人數(shù)據(jù)安全的行業(yè)共識(shí)、規(guī)范、管理辦法、法律,以促進(jìn)人工智能的健康發(fā)展。

          "加快立法的同時(shí),還應(yīng)考慮我國(guó)國(guó)情,保護(hù)人工智能的發(fā)展"土壤"。"國(guó)內(nèi)智能設(shè)備體系安全服務(wù)提供商同余科技創(chuàng)始人袁開(kāi)國(guó)對(duì)《中國(guó)科學(xué)報(bào)》舉例說(shuō),比如要明確數(shù)據(jù)的所有權(quán)屬于用戶,企業(yè)不能非法使用、兜售用戶數(shù)據(jù);但如果企業(yè)是為了更好地服務(wù)用戶,在經(jīng)過(guò)用戶授權(quán)允許下,可以對(duì)用戶數(shù)據(jù)進(jìn)行深層次分析,明確數(shù)據(jù)的使用權(quán)。

          "隱私保護(hù)是對(duì)公民基本人權(quán)的保護(hù),也影響著國(guó)民經(jīng)濟(jì)的發(fā)展。"中國(guó)社會(huì)科學(xué)院哲學(xué)研究所研究員、北京協(xié)和醫(yī)學(xué)院生命倫理學(xué)研究中心學(xué)術(shù)委員會(huì)主任邱仁宗在接受《中國(guó)科學(xué)報(bào)》采訪時(shí)表示,隨著技術(shù)的發(fā)展,人們的各種信息可以被輕易獲取。

          "我反對(duì)這種未經(jīng)授權(quán)的"人肉搜索"。"邱仁宗表示,應(yīng)該認(rèn)真研究GDPR,開(kāi)展由人工智能專(zhuān)家、倫理學(xué)家、公眾代表、監(jiān)管人員參與的個(gè)人數(shù)據(jù)保護(hù)研討會(huì),盡快制定我國(guó)的專(zhuān)門(mén)法律法規(guī)。 



          關(guān)鍵詞: 人工智能 隱私 安全

          評(píng)論


          相關(guān)推薦

          技術(shù)專(zhuān)區(qū)

          關(guān)閉
          看屁屁www成人影院,亚洲人妻成人图片,亚洲精品成人午夜在线,日韩在线 欧美成人 (function(){ var bp = document.createElement('script'); var curProtocol = window.location.protocol.split(':')[0]; if (curProtocol === 'https') { bp.src = 'https://zz.bdstatic.com/linksubmit/push.js'; } else { bp.src = 'http://push.zhanzhang.baidu.com/push.js'; } var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(bp, s); })();