人工智能的世界是什么樣的?

幾十年來，研究人員一直對此感到困惑，但近年來，這個問題變得更加緊迫。機器視覺系統正在越來越多的生活領域得到應用，從醫療保健到自動駕駛汽車，但是通過機器的眼睛“看到” - 理解為什么它將那個人歸類為行人但將其作為路標 -仍然是一個挑戰。我們無法這樣做可能會產生嚴重甚至致命的后果。有人會說，由于涉及自動駕駛汽車的死亡，它已經有了。

谷歌和非營利實驗室OpenAI的新研究希望通過繪制這些系統用于理解世界的視覺數據來進一步開放人工智能視覺的黑匣子。這種被稱為“ 激活地圖集 ”的方法讓研究人員可以分析各種算法的工作原理，不僅揭示了他們識別的抽象形狀，顏色和圖案，還揭示了他們如何將這些元素結合起來識別特定的物體，動物和場景。

谷歌的Shan Carter是這項工作的首席研究員，他告訴The Verge，如果先前的研究就像在算法的視覺字母表中顯示單個字母一樣，激活地圖集提供了更接近整個字典的東西，顯示字母是如何組合在一起制作實際字詞的。“因此，在像'鯊魚'這樣的圖像類別中，會有很多激活因素，比如'牙齒'和'水'，”卡特說。

這項工作不一定是一個巨大的突破，但它在更廣泛的研究領域中向前邁出了一步，稱為“特征可視化”。佐治亞理工學院的博士生Ramprasaath Selvaraju沒有參與這項工作，他說這項研究“非常令人著迷的“并結合了許多現有的想法來創造一個新的”非常有用“的工具。

Selvaraju告訴The Verge，在未來，這樣的工作將有很多用途，幫助我們建立更高效和先進的算法，并通過讓研究人員進入內部來提高他們的安全性和消除偏見。“由于[神經網絡]固有的復雜性，它們缺乏可解釋性，”Selvaraju說。但他表示，未來，當這種網絡經常用于駕駛汽車和引導機器人時，這將是必要的。

OpenAI的Chris Olah也參與了這個項目，他說：“感覺有點像創造一個顯微鏡。至少，這就是我們所追求的目標。“