人工智能(AI)的主要問題之一是“人工”部分。另一個是“智能”。雖然我們想假裝我們正在設置機器人智能，以擺脫人類的偏見和其他缺點，但實際上，我們經常將故障一次轉移到AI中，一次一個數據集。

數據科學家漢娜·戴維斯(Hannah Davis)指出了這一點，認為“數據集就是世界觀”，充滿了主觀含義。但是她并沒有留下AI希望垂死的希望，而是提供了一些方法來改善我們告知AI的數據。

人工智能一直都是關于人的

擺正我們有多“數據驅動”的姿勢已變得十分必要，而AI完全依賴于要使用的數據，這已成定局。例如，機器學習算法的奇跡之一就是它們能夠以多快的速度篩選大量數據以發現模式并做出相應的響應。但是，必須對此類模型進行培訓，這就是為什么數據科學家傾向于將其聚集在已建立的高質量數據集周圍。

不幸的是，正如戴維斯指出的那樣，這些數據集不是中立的：

[A]數據集是世界觀。它涵蓋了收集和收集數據人員的世界觀，無論他們是研究人員，藝術家還是公司。它涵蓋了標簽商的世界觀，無論它們是手動，不知不覺地還是通過諸如Mechanical Turk之類的第三方服務對數據進行標簽，該服務都有其自身的人口統計學偏差。它涵蓋了組織者創建的固有分類法的世界觀，這些組織在許多情況下是其動機與高質量生活直接不相容的公司。

看到問題了嗎?機器學習模型僅與提供它們的數據集一樣聰明，并且這些數據集受到塑造它們的人的限制。正如一位《衛報》編輯感嘆的那樣，這可能會導致機器更快地犯下我們相同的錯誤：“人工智能的承諾是，它將使機器具有從數據中發現模式的能力，并能比人類更快更好地做出決策。 。如果他們更快地做出更糟糕的決定會怎樣?”

進一步使事情復雜化的是，我們自己的錯誤和偏見又由機器學習模型決定。正如Manjunath Bhat所寫的那樣：“人們以數據的形式消費事實。但是，可以對數據進行突變，轉換和更改，而這一切都是為了使其易于使用。我們別無選擇，只能生活在高度情境化的世界觀的范圍內。”換句話說，我們沒有清楚地看到數據。我們的偏見塑造了我們輸入到機器學習模型中的模型，這些模型又反過來塑造了可供我們使用和解釋的數據。