NVIDIA宣布與物聯網芯片設計師ARM建立合作關系，旨在通過使物聯網芯片公司將人工智能(AI)集成到他們的設計中變得簡單，從而推動推理加速。

在周二在圣何塞的NVIDIAGTC的主旨演講中，公司首席執行官和創始人黃延森解釋說，合作伙伴將看到開源NVIDIA深度學習加速器(NVDLA)體系結構集成到ARM的項目Trillium中，用于機器學習。

NVDLA基于NVIDIA Xavier，被GPU巨頭吹捧為“芯片上強大的自主機器系統”。 據黃說，這將提供一個自由，開放的架構，以促進一種標準的方式設計深度學習推斷..

NVIDIA自動機器副總裁兼總經理Deepu Talla在一次新聞發布會上說：“未來，Inference將成為每個物聯網設備的核心能力。”

SEE：IT領導者深度學習指南（技術專業研究）

塔拉補充道：“我們與ARM的合作將使數百家芯片公司很容易融入深度學習技術，從而推動這一潮流的采用。”

日本企業集團軟銀(Softbank)于2016年以243億￡的價格收購了ARM，它的愿景是連接一萬億個物聯網設備，預計到2035年將有這么多設備存在。

與上一代相比，GTC周二還宣布，該公司最新的深度學習計算平臺將提高8倍的性能。

這些進步已經被主要的云廠商采用，包括對NVIDIA特斯拉V100數據中心GPU的雙重內存提升；一種新的GPU互連結構NVIDIANVS witch，它使多達16個特斯拉V100GPU以每秒2.4TB的速度同時通信；以及一個更新的軟件堆棧。

特斯拉V100產品現在將擁有32GB的內存，立即生效，Cray、HPE、IBM、聯想、Supermicro和Tyan宣布第二季度推出V10032GB，OracleCloud基礎設施預計將在2018年下半年在云中提供V10032GB。

黃說：“我們都在進行深度學習，這就是結果。我們只是在增加動力。”

黃還詳細介紹了深度學習計算的突破，與NVIDIA DGX-2。

一個單一的服務器，DGX-2能夠提供2個Petaflops的計算能力，并擁有300臺服務器的深度學習處理能力。 它還獲得了32GB的升級。

他說：“深度學習的非凡進步只是暗示了未來的發展。” “許多這些進步都站在NVIDIA的深度學習平臺上，該平臺已迅速成為世界標準。”

這位首席執行官說，他的公司正在以超越摩爾定律的速度提升其深度學習平臺的性能，使“突破將有助于革命性的醫療、交通、科學探索和無數其他領域”。

隨著黃指出GPU加速深度學習推理正在獲得牽引力，NVIDIA還推出了一系列新技術和合作伙伴關系，以擴大其超尺度數據中心的推理能力，為語音識別、自然語言處理、推薦系統和圖像識別等能力提供支持。

該公告包括將TensorR T（一種高性能的深度學習推理優化器和運行時，為深度學習應用程序提供低延遲、高通量推理）集成到谷歌的TensorFlow1.7框架中。

這大大改善了在TensorFlow中的引用，就像以前的TensorFlow1.6一樣，單個V100每秒可以處理大約300幅圖像；移動到1.7將允許每秒處理超過2，600幅圖像。

據傳，最新一代黃光裕周二公布的TensorRT4與CPU相比，提供了多達190X更快的深度學習推理，用于計算機視覺、神經機器翻譯、自動語音識別和語音合成等常見應用。

NVIDIA還宣布，其Kaldi語音識別框架已為GPU優化，允許為消費者提供“更有用”的虛擬助理，并降低數據中心運營商的部署成本。