“深度神經(jīng)網(wǎng)絡(luò)” 文章進(jìn)入“深度神經(jīng)網(wǎng)絡(luò)”技術(shù)社區(qū)

比人腦突觸快百萬倍！新型可編程電阻器誕生

人的大腦能夠同時學(xué)習(xí)和記憶大量信息而又不需要太多能量的能力，很多研究機(jī)構(gòu)都希望制造出類似于大腦甚至超越大腦的計算機(jī)。在人腦中，學(xué)習(xí)是由神經(jīng)元之間的連接（突觸）的增強(qiáng)和減弱而發(fā)生的。深度神經(jīng)網(wǎng)絡(luò)一直采用這種策略，實現(xiàn)模擬機(jī)器學(xué)習(xí)。美國麻省理工學(xué)院近日開發(fā)出一種由無機(jī)材料制成的電阻器，它將人工模擬突觸的運行速度大大提高，比以前的版本快100萬倍，也比人腦中的突觸快約100萬倍。這些可編程電阻器不僅提高了神經(jīng)網(wǎng)絡(luò)訓(xùn)練的速度，同時也降低了執(zhí)行訓(xùn)練所需的成本和能量，這可以幫助科學(xué)家更快地開發(fā)深度學(xué)習(xí)模型。這一技術(shù)的
關(guān)鍵字：美國材料深度神經(jīng)網(wǎng)絡(luò)

直覺有害！Facbook最新研究：易于解釋的神經(jīng)元會誤導(dǎo)DNN的學(xué)習(xí)

　　編譯|蔣寶尚　　關(guān)于AI是什么，學(xué)界和業(yè)界已經(jīng)給出了非常多的定義，但是對于AI理解，探討尚不足。換句話說，計算機(jī)科學(xué)家解釋深度神經(jīng)網(wǎng)絡(luò)（DNNs）的能力大大落后于我們利用其取得有用結(jié)果的能力。　　當(dāng)前理解深度神經(jīng)網(wǎng)絡(luò)的常見做法是在單個神經(jīng)元特性上“折騰”。例如，激活識別貓圖像的神經(jīng)元，而關(guān)閉其他神經(jīng)元的“控制變量法”。這種方法的學(xué)術(shù)術(shù)語叫做“類選擇性”。　　由于直觀和易理解，“類選擇性”在學(xué)界廣泛應(yīng)用。誠然，在訓(xùn)練過程中，這類可解釋的神經(jīng)元確實會“選擇性地”出現(xiàn)在各種不同任務(wù)網(wǎng)絡(luò)中。例如，預(yù)測產(chǎn)品評論
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí)

為什么深度學(xué)習(xí)如此容易被愚弄？AI研究員正努力修復(fù)神經(jīng)網(wǎng)絡(luò)缺陷

　　來源：nature　　編譯：張大筆茹、小七　　假設(shè)一輛自動駕駛汽車看到停車標(biāo)志時并沒有減速，而是加速駛?cè)肓朔泵Φ氖致房?，從而?dǎo)致了交通事故。事故報告顯示，停車標(biāo)志的表面粘了四個小的矩形標(biāo)志。這說明一些微小擾動就能愚弄車載人工智能（AI），使其將“停止”一詞誤讀為“限速45”。　　目前，此類事件還未發(fā)生，但是人為擾動可能影響AI是非?，F(xiàn)實的。研究人員已經(jīng)展示了如何通過粘貼紙來欺騙AI系統(tǒng)誤讀停車標(biāo)志，或者通過在眼鏡或帽子上粘貼印刷圖案來欺騙人臉識別系統(tǒng)，又或者通過在音頻中插入白噪聲使語音識別系統(tǒng)產(chǎn)生錯
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí)

DNNBrain：北師大團(tuán)隊出品的用于映射深層神經(jīng)網(wǎng)絡(luò)到大腦的工具箱

導(dǎo)讀深度神經(jīng)網(wǎng)絡(luò)(DNN)通過端到端的深度學(xué)習(xí)策略在許多具有挑戰(zhàn)性的任務(wù)上達(dá)到了人類水平的性能。深度學(xué)習(xí)產(chǎn)生了具有多層抽象層次的數(shù)據(jù)表示;然而，它沒有明確地提供任何關(guān)于DNNs內(nèi)部運作的解釋，換句話說它的內(nèi)部運作是一個黑盒子。深度神經(jīng)網(wǎng)絡(luò)的成功吸引了神經(jīng)科學(xué)家，他們不僅將DNN應(yīng)用到生物神經(jīng)系統(tǒng)模型中，而且還采用了認(rèn)知神經(jīng)科學(xué)的概念和方法來理解DNN的內(nèi)部表示。盡管可以使用諸如PyTorch和TensorFlow之類的通用深度學(xué)習(xí)框架來進(jìn)行此類跨學(xué)科研究，但是使用這些框架通常需要高級編程專家和全面的數(shù)學(xué)知
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí) 腦機(jī)接口

CNN(卷積神經(jīng)網(wǎng)絡(luò))、RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))、DNN(深度神經(jīng)網(wǎng)絡(luò))的內(nèi)部網(wǎng)絡(luò)結(jié)構(gòu)的區(qū)別

先說DNN，從結(jié)構(gòu)上來說他和傳統(tǒng)意義上的NN（神經(jīng)網(wǎng)絡(luò)）沒什么區(qū)別，但是神經(jīng)網(wǎng)絡(luò)發(fā)展時遇到了一些瓶頸問題。一開始的神經(jīng)元不能表示異或運算，科學(xué)家通過增加網(wǎng)絡(luò)層數(shù)，增加隱藏層可以表達(dá)。并發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)的層數(shù)直接決定了它對現(xiàn)實的表達(dá)能力。但是隨著層數(shù)的增加會出現(xiàn)局部函數(shù)越來越容易出現(xiàn)局部最優(yōu)解的現(xiàn)象，用數(shù)據(jù)訓(xùn)練深層網(wǎng)絡(luò)有時候還不如淺層網(wǎng)絡(luò)，并會出現(xiàn)梯度消失的問題。我們經(jīng)常使用sigmoid函數(shù)作為神經(jīng)元的輸入輸出函數(shù)，在BP反向傳播梯度時，信號量為1的傳到下一層就變成0.25了，到最后面幾層基本無法達(dá)到調(diào)節(jié)參數(shù)
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí) CNN RNN

深度神經(jīng)網(wǎng)絡(luò)（DNN）模型與前向傳播算法

　　深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Networks，以下簡稱DNN）是深度學(xué)習(xí)的基礎(chǔ)，而要理解DNN，首先我們要理解DNN模型，下面我們就對DNN的模型與前向傳播算法做一個總結(jié)?！　?.從感知機(jī)到神經(jīng)網(wǎng)絡(luò)　　在感知機(jī)原理小結(jié)中，我們介紹過感知機(jī)的模型，它是一個有若干輸入和一個輸出的模型，如下圖:　　輸出和輸入之間學(xué)習(xí)到一個線性關(guān)系，得到中間輸出結(jié)果：　　z=∑i=1mwixi+bz=∑i=1mwixi+b　　接著是一個神經(jīng)元激活函數(shù):　　sign(z)={?11z<0z≥0sign(z)={
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí)

什么是DNN？它對AI發(fā)展意味著什么

為了讓AI加速器在最短延遲內(nèi)達(dá)到最佳精準(zhǔn)度，特別是在自動駕駛車中，TFLOP已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針，然而，有專家認(rèn)為這種野蠻處理方式并不可持續(xù)…… 為了讓人工智能(AI)加速器在最短延遲內(nèi)達(dá)到最佳精準(zhǔn)度，特別是在自動駕駛車(AV)中，TFLOP(兆次浮點運算)已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針。這場競賽的選手包括Nvidia的Xavier、Mobileye的EyeQ5、特斯拉(Tesla)的全自動駕駛(FSD)計算機(jī)芯片，以及NXP-Kalray芯片。然而，有專家認(rèn)為這種野蠻處理方式
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí)

深度學(xué)習(xí)干貨｜基于Tensorflow深度神經(jīng)網(wǎng)絡(luò)(DNN)詳解

深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks，簡稱DNN)是深度學(xué)習(xí)的基礎(chǔ)，想要學(xué)好深度學(xué)習(xí)，首先我們要理解DNN模型。DNN的基本結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)是基于感知機(jī)的擴(kuò)展，而DNN可以理解為有很多隱藏層的神經(jīng)網(wǎng)絡(luò)。多層神經(jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)DNN其實也基本一樣，DNN也叫做多層感知機(jī)(MLP)。DNN按不同層的位置劃分，神經(jīng)網(wǎng)絡(luò)層可以分為三類，輸入層，隱藏層和輸出層，如下圖示例，一般來說第一層是輸入層，最后一層是輸出層，而中間的層數(shù)都是隱藏層。網(wǎng)絡(luò)結(jié)構(gòu)層與層之間是全連接的，也就是說，第i層的任意一個神經(jīng)
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí)

特斯拉收購初創(chuàng)公司專注自動駕駛“深度神經(jīng)網(wǎng)絡(luò)”

據(jù)外媒報道，特斯拉收購計算機(jī)視覺初創(chuàng)公司DeepScale的交易開始收獲回報，通過收購?fù)暾麍F(tuán)隊開始為這家電動汽車制造商提供新的專利。
關(guān)鍵字：特斯拉 “深度神經(jīng)網(wǎng)絡(luò)” 自動駕駛

IBM的8位浮點精度深度神經(jīng)網(wǎng)絡(luò)模型解析

　　在12月初舉辦的NeurIPS會議上，IBM展示了一款新型人工智能芯片?！　BM的研究人員聲稱，他們已開發(fā)出一個更加高效的模型用于處理神經(jīng)網(wǎng)絡(luò)，該模型只需使用8位浮點精度進(jìn)行訓(xùn)練，推理(inferencing)時更是僅需4位浮點精度。該研究的成果已于2018年12月初在國際電子元件會議(International Electron Devices Meeting，IEDM)和神經(jīng)信息處理系統(tǒng)大會(Conference on NeuralInformation Processing Syste
關(guān)鍵字： IBM 深度神經(jīng)網(wǎng)絡(luò)

人類和DNN的目標(biāo)識別穩(wěn)健性比較

　　深度神經(jīng)網(wǎng)絡(luò)在很多任務(wù)上都已取得了媲美乃至超越人類的表現(xiàn)，但其泛化能力仍遠(yuǎn)不及人類。德國蒂賓根大學(xué)等多所機(jī)構(gòu)近期的一篇論文對人類和 DNN 的目標(biāo)識別穩(wěn)健性進(jìn)行了行為比較，并得到了一些有趣的見解。機(jī)器之心對該論文進(jìn)行了編譯介紹?！　≌　∥覀兺ㄟ^ 12 種不同類型的圖像劣化(image degradation)方法，比較了人類與當(dāng)前的卷積式深度神經(jīng)網(wǎng)絡(luò)(DNN)在目標(biāo)識別上的穩(wěn)健性。首先，對比三種著名的 DNN(ResNet-152、VGG-19、GoogLeNet)，我們發(fā)現(xiàn)不管對圖像進(jìn)行怎樣的操
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò)

人工智能與語音識別技術(shù)

隨著深度神經(jīng)網(wǎng)絡(luò)在大規(guī)模語音識別任務(wù)上獲得顯著效果提升，大數(shù)據(jù)的不斷完善和漣漪效應(yīng)的提出，在近十年，中國的人工智能也得到了快速發(fā)展。作為國內(nèi)智能語音與人工智能產(chǎn)業(yè)領(lǐng)導(dǎo)者的科大訊飛率先將遞歸神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用到真實在線系統(tǒng)中，并提出了全新的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)FSMN——訊飛構(gòu)型。
關(guān)鍵字：深度神經(jīng)網(wǎng)絡(luò) 遞歸神經(jīng)網(wǎng)絡(luò) 卷積神經(jīng)網(wǎng)絡(luò) 訊飛構(gòu)型 201604

共12條 1/1 1

“深度神經(jīng)網(wǎng)絡(luò)”介紹

您好，目前還沒有人創(chuàng)建詞條“深度神經(jīng)網(wǎng)絡(luò)”!
歡迎您創(chuàng)建該詞條，闡述對“深度神經(jīng)網(wǎng)絡(luò)”的理解，并與今后在此搜索“深度神經(jīng)網(wǎng)絡(luò)”的朋友們分享。創(chuàng)建詞條

“深度神經(jīng)網(wǎng)絡(luò)” 文章 進(jìn)入“深度神經(jīng)網(wǎng)絡(luò)”技術(shù)社區(qū)

“深度神經(jīng)網(wǎng)絡(luò)”介紹

熱門主題

“深度神經(jīng)網(wǎng)絡(luò)” 文章進(jìn)入“深度神經(jīng)網(wǎng)絡(luò)”技術(shù)社區(qū)