谷歌AI負責人Jeff Dean：一文回顧谷歌的2018技術進展
加入技術交流群
我們研究了Google軟件定義網絡WAN，這是一個獨立的聯(lián)合查詢處理平臺，可以在許多存儲系統(tǒng)中對基于不同文件格式存儲的數(shù)據(jù)執(zhí)行SQL查詢(BigTable，Spanner， Google Spreadsheets等)
本文引用地址：http://www.ex-cimer.com/article/201901/396818.htm運行內容托管等大型Web服務需要在動態(tài)環(huán)境中實現(xiàn)穩(wěn)定的負載平衡。我們開發(fā)了一致的哈希方案，對每臺服務器的最大負載提供了嚴格的可證明保證，并將其部署到Google Cloud Pub / Sub中的云客戶。
AutoML
去年，我們展示了如何使用進化算法自動發(fā)現(xiàn)最先進的神經網絡架構，快速構建計算機視覺模型的AutoML。還探討了強化學習如何應用于除神經網絡架構搜索之外的其他問題，表明它可以用于1)自動生成圖像變換序列，以提高各種圖像模型的準確性，以及2)找到新的符號優(yōu)化表達式，比常用的優(yōu)化更新規(guī)則更有效。
我們的另一個重點是自動發(fā)現(xiàn)計算效率高的神經網絡架構，以便它們可以在自動駕駛環(huán)境中運行，這些環(huán)境對計算資源或推理時間有嚴格的限制。為此，我們認為在強化學習架構搜索的獎勵函數(shù)中將模型的準確性與其推理計算時間相結合，可以找到高度準確的模型，同時滿足特定的性能約束。我們還探索了使用ML來學習自動壓縮ML模型以獲得更少的參數(shù)并使用更少的計算資源。
TPU
TPU已經實現(xiàn)了谷歌研究方面的突破，例如BERT(前面已討論過)。它還允許世界各地的研究人員通過開源建立谷歌研究，并尋求自己的新突破。例如，任何人都可以通過Colab免費對TPU上的BERT進行微調，而TensorFlow Research Cloud讓數(shù)千名研究人員有機會從更大量的免費云TPU計算能力中受益。
在谷歌內部，TPU還推動了Google的核心產品的重大改進，包括搜索，YouTube，Gmail，Google智能助理，谷歌翻譯等等。
開源軟件和數(shù)據(jù)集
我們的開源工具TensorFlow已經被下載超過3000萬。2018年，TensorFlow有八個主要版本，并增加了快速執(zhí)行和分發(fā)策略等功能。隨著TensorFlow Lite、TensorFlow.js 和TensorFlow Probability等相關產品的推出，TensorFlow生態(tài)系統(tǒng)在2018年大幅增長。
除了繼續(xù)開發(fā)現(xiàn)有的開源生態(tài)系統(tǒng)之外，我們在2018年引入了一個新的框架，用于靈活和可重復強化學習的可視化工具，可以快速了解數(shù)據(jù)集的特征(無需編寫任何代碼)。
今年，我們很高興發(fā)布Google數(shù)據(jù)集搜索，這是一種從所有網絡中查找公共數(shù)據(jù)集的新工具。多年來，我們還策劃并發(fā)布了許多新穎的數(shù)據(jù)集。
我們發(fā)布了Open Images V4數(shù)據(jù)集，包含190萬張圖片，共計600個類別，共標記了1540萬個邊界框，這是迄今的有對象位置注釋的最大數(shù)據(jù)集。這些邊界框大部分都是由專業(yè)注釋人員手動繪制的，確保了它們的準確性和一致性。
健康
在過去幾年中，我們一直將ML應用于健康，我們在這個領域的一般方法是與醫(yī)療保健組織合作解決基礎研究問題(利用臨床專家的反饋優(yōu)化技術)，然后將結果發(fā)表在同行評審的科學和臨床期刊上。一旦研究得到臨床和科學驗證，我們就會進行用戶和HCI研究，以了解我們如何在現(xiàn)實臨床環(huán)境中進行部署。2018年，我們在計算機輔助診斷上取得新的突破。
2018年，我們研發(fā)了一個可以與視網膜專家相媲美的深度學習模型。我們與Verily的Alphabet同事合作，在印度的Aravind Eye Hospitals和泰國衛(wèi)生部附屬的Rajavithi醫(yī)院等 10多個地點部署了這種糖尿病視網膜病變檢測系統(tǒng)。
我們還發(fā)表了一種機器學習模型的研究，該模型可以評估視網膜圖像的心血管風險，可以幫助臨床醫(yī)生更好地了解患者的健康狀況。
研究推廣
2018年，我們在加納阿克拉建立了我們在非洲的第一個人工智能研究辦公室，同時擴大了在巴黎，東京和阿姆斯特丹的人工智能研究，并在普林斯頓開設了一個研究實驗室。
評論