Facebook，Instagram和Twitter限制了Predictim可以訪問的數據量，Predictim是一家總部位于加利福尼亞的創業公司，它使用機器學習來審查潛在的保姆。在華盛頓郵報 上周報道了 其方法后，社交網絡對公司采取了行動，引起了廣泛的批評。

Predictim聲稱使用“先進的人工智能”來判斷保姆的適用性。這包括在對個人的角色進行自動評估之前，通過個人的Facebook，Instagram和Twitter歷史進行梳理。該公司聲稱，它可以預測個人是否是吸毒者，是否可能欺負或騷擾他人，即使他們的態度“不好”。

專家們批評Predictim的服務是不科學的，并指出機器學習在解析人類語音等復雜數據方面是出了名的不可靠。AI可能善于識別照片中的物體或手寫數字化，但它無法可靠地解釋音調和語音中的細微差別，如諷刺或笑話。數據政策專家還指出，Predictim的軟件并沒有解釋它的決定如何，這意味著潛在的保姆可能會在不知道原因或提供解釋的情況下失去工作。

據華盛頓郵報和BBC新聞報道，Facebook，Instagram和Twitter都在過去幾周內對Predictim采取了行動。Facebook表示，在違反禁止開發人員使用此信息審查求職者的禁令后，它極大地限制了該公司在Facebook和Instagram上訪問用戶數據。Twitter在本周早些時候撤銷了Predictim對API的訪問權限(用于訪問規模的數據，而不是閱讀個人資料)。一位發言人告訴郵報， “我們嚴格禁止將Twitter數據和API用于監視目的，包括進行背景調查。”

“每個人都會在社交媒體上看到人們，他們會在GOOGLE上看到人們。”

Predictim的首席執行官兼聯合創始人Sal Parsa表示，該公司沒有做錯任何事。Parsa告訴BBC新聞說：“每個人都在社交媒體上看人，他們會在Google上看人。” “我們只是在實現這一過程的自動化。”

Parsa還建議，掃描用戶數據以便向他們定位廣告的社交網絡有自己阻止其軟件的動機。“Twitter和Facebook已經在挖掘我們的數據，”Parsa告訴郵報。“就在那里，用戶生成的數據。現在又有一家初創公司試圖利用這些數據來幫助父母選擇一位更好的保姆，并在此過程中賺到一點錢。“

無論這些行動如何，關于自動背景調查合法性的更廣泛的問題仍然懸而未決。一些專家建議，Predictim的軟件可能會違反州級禁止雇主要求訪問求職者的社交媒體帳戶。其他社交網絡希望完全阻止這種數據抓取。LinkedIn目前正處于與第三方網站HiQ 的法律斗爭中，后者利用其數據來預測員工何時可能離職。

與此同時，公司繼續創建更多基于人工智能的篩選服務，不僅僅是關注社交媒體活動，還包括其他指標，包括個人的訪談表現。專家擔心，將關鍵決策移交給無法解釋其思維或理解人類行為的算法是不明智的，而銷售這些服務的公司則表示機器級方法更加詳細和公正。