微軟研究公司(Micros of t Research)今天開放了一個軟件工具包，旨在解決AI的“黑匣子”問題。 解釋ML是為了幫助開發人員嘗試介紹人工智能系統輸出的解釋的方法。 解釋ML目前在alpha中，可在GitHub上使用。

解釋人工智能系統所作預測的能力日益受到關注，因為人工智能更多地應用于法律和保健等部門。

“如果醫生、法官和其他決策者信任支撐智能系統的模型，他們就能做出更好的決策。 更廣泛地說，隨著對模型的更充分理解，最終用戶可能更容易接受人工智能驅動的產品和解決方案，而日益增長的監管需求可能更容易得到滿足，“微軟數據科學家和工程師今天在一篇博客中說。

微軟的研究人員還認為，可解釋性可以幫助開發人員決定最佳的方法來訓練人工智能模型或衡量方法之間的一致性。

此舉之際，微軟結束了在西雅圖舉行的年度Build Developer Conference，該公司在這里推出了用于在網絡上創建文檔的Fluid框架、Azure Kubernetesnetes服務，以及第一批人工智能和機器人工具包。

在構建之前，上周微軟宣布了它的開放神經網絡交換(ONN X)現在支持Nvidia的Tensor Intel的nGraphfor在Nvidia和Intel硬件上的高速推理。

微軟是AI合作伙伴關系的成員，這是一個由80多家科技公司和非營利組織組成的集團，最近宣布算法不適合自動化審前保釋程序，部分原因是缺乏對原告如何被標記為高風險或低風險的明確解釋。

AzureCloud和AI負責人Scott Guthrie上周斷言，微軟參與開源項目的意愿遠遠超過亞馬遜或谷歌。

“我想你看到的是一個微軟，它既深深地擁抱了開放，既是消費者，也是貢獻者，我認為這是獨一無二的。 如果你看看，比如說AWS對開源的貢獻，就不會有很多。 有很多消費，但沒有太多的貢獻回來，我認為，即使你是看看谷歌相對于我們在Azure上所做的貢獻，我認為人們通常會驚喜地把它加起來。”

Venture Beat要求提供更多關于微軟內部如何使用該工具的細節。 如果我們聽到回音，這個故事會更新的。