富士通實驗室有限公司日前宣布了一項新的“內容感知計算”技術的開發，該技術可以在提高計算速度的同時控制準確性。該技術是為響應AI技術的發展和普及對計算能力的不斷增長的需求而開發的。

將這項新技術應用于深度學習任務有望將計算速度提高十倍，從而使將AI用于更廣泛的未來應用程序變得更加容易。

發展背景

近年來，人工智能技術在圖像識別和語音翻譯等領域的廣泛應用導致對處理能力的需求不斷增加，使現有技術難以承受極限。為響應這種趨勢，已經開發了針對這種性質的AI應用進行了優化的新型GPU和專用處理器。根據特定的應用程序，可以在各種環境中計算AI任務，范圍從云環境到邊緣計算上下文。提供穩定性和快速處理能力的技術將越來越有必要提供處理苛刻的AI任務所需的計算能力。

問題

圖形處理單元(GPU)和專用處理器提高了計算性能，但是還沒有趕上AI的計算需求。作為進一步簡化AI任務性能的一種手段，人們對減輕計算負擔和提高速度的技術的興趣日益濃厚。

例如，在深度學習中計算神經網絡算法時，一種實現更高性能速度的方法是將運算精度從32位降低到8位，并執行4次并行運算。不幸的是，如果均勻地降低操作精度，則操作結果也會惡化。

因此，受過訓練的專家必須努力確定應該通過反復試驗來降低哪個區域的計算精度。這種方法證明調整很耗時，每當輸入數據或執行環境發生變化時都需要重新調整。

關于最新技術

為了克服這些挑戰，富士通開發了“內容感知計算”技術，該技術可自動控制并加快計算精度。這可以在包括GPU，CPU，云和邊緣在內的各種執行環境中實現更快的AI處理。該技術的特征如下。

1.自動減少技術

神經網絡通常具有數值范圍，其中隨著學習的進行，每一層都收斂到相似的數值。根據計算過程中神經網絡中每一層數值范圍的分布，根據學習情況確定計算精度的應用程度，例如分布寬時位寬，而分布寬時位寬。學習是先進的和融合的(圖1)。這使得深度學習的速度比以前快三倍，同時減少了計算結果的下降。

2.同步緩解技術，可在并行環境中以性能波動實現高速執行

在云環境或許多應用程序共享CPU的其他環境中，由于通信沖突，處理中斷等，對某些節點的響應可能會存在明顯的延遲。另一方面，在并行處理的每個操作中，估計終止處理時的處理時間的減少以及對操作結果的影響程度，并且控制每個操作的終止時間，使得可以最大程度地減少處理時間而不會惡化操作結果。這可實現更快的并行處理，從而使深度學習計算中的確認性能快3.7倍。

特效

最終，新開發的技術“ Content-Aware Computing”可以將AI任務的處理速度提高多達10倍。通過將此技術整合到AI框架和庫中，可以使用具有內置低位計算功能的GPU和CPU加快云環境和數據中心中的AI處理。

未來的計劃

展望未來，富士通的目標是將該技術整合到一個廣泛使用的AI框架中，并將成為使用深度學習執行AI服務的基礎。