英特爾今天宣布了其第三代至強可擴展處理器(分別是金牌和白金牌)處理器以及新一代的Optane持久存儲器(閱讀：極低延遲，高耐久性SSD)和Stratix AI FPGA產品。

除了硬件加速的AI 之外，AMD目前幾乎在所有可能的性能指標上都擊敗了英特爾 ，這并不是新聞。對于英特爾而言，這顯然也不是什么新聞，因為該公司對至強可擴展處理器的性能與競爭對手的Epyc Rome處理器沒有任何要求。更有趣的是，英特爾根本沒有提到通用計算工作負載。

要找到所示的唯一非AI代代改進的解釋，需要跳過多個腳注。有了足夠的決心，我們最終發現概述幻燈片中提到的“ 1.9倍平均性能提升”是指“估計的或模擬的” SPECrate 2017基準，將四路鉑金8380H系統與已有五年歷史的四路鉑金系統進行了比較E7-8890 v3。

公平地說，英特爾似乎確實在AI領域引入了一些非同尋常的令人印象深刻的創新。以前只是為AVX-512指令集打上商標的“深度學習增強”現在也包含了全新的16位浮點數據類型。

借助較早的Xeon可擴展級處理器，英特爾率先并大力推動使用8位INT8整數(通過其OpenVINO庫進行推理處理)。對于推理工作負載，英特爾認為，INT8在大多數情況下，較低的精度是可以接受的，同時可以極大地加速推理流程。但是，對于培訓而言，大多數應用程序仍需要更高的FP3232位浮點處理精度。

新一代增加了16位浮點處理器支持，英特爾稱之為bfloat16。將FP32 模型的位寬減半可加快處理速度，但更重要的是，將模型保留在內存中所需的RAM減少了一半。對于程序員和使用FP32 模型的代碼庫，利用新數據類型也比轉換為整數更簡單。

英特爾還深思熟慮地提供了一個 圍繞BF16數據類型的效率的游戲。我們不建議將它作為游戲或教育工具使用。

Optane儲存加速

英特爾還宣布了新一代的Optane“持久內存” SSD，速度提高了25%，可用于大大加速AI和其他存儲管道。Optane SSD使用3D Xpoint技術而不是 典型的SSD進行NAND閃存操作。3D Xpoint具有比NAND更高的寫入耐久性和更低的延遲。較低的延遲和更大的寫入耐力使其成為一種快速緩存技術，尤其具有吸引力，該技術甚至可以加速所有固態陣列。

此處最大的收獲是，Optane極低的延遲可通過提供對大型而無法完全存儲在RAM中的模型的快速訪問來加速AI管道(這常常是存儲的瓶頸)的加速。對于涉及快速大量寫入的管線，Optane高速緩存層還可以通過減少實際必須執行的寫入總數來顯著提高其下的NAND主存儲的預期壽命。

延遲與IOPS，讀/寫工作負載為70/30。 橙色和綠色線是數據中心級的傳統NAND SSD。 藍線是Optane。

放大 /延遲與IOPS的對比，讀/寫工