當訓練數據按性別傾斜時 AI系統在診斷疾病方面更差

2022-07-17 18:54:01 編輯：元光雨來源：

導讀人工智能模型在預測哪些退伍事務醫院治療的患者會出現腎功能突然下降方面顯示出巨大的希望。但這也帶來了一個關鍵的警告：女性僅占用于...

人工智能模型在預測哪些退伍事務醫院治療的患者會出現腎功能突然下降方面顯示出巨大的希望。但這也帶來了一個關鍵的警告：女性僅占用于訓練算法的數據的患者的6%，而且在女性身上進行測試時效果更差。

由谷歌姊妹公司DeepMind構建的這種引人注目的算法的缺點突出了一個問題，即從事醫學的機器學習研究人員越來越擔心。新的研究表明，這個問題可能比專家們以前意識到的更為普遍和陰險。

這項研究由阿根廷的研究人員領導，并于周一在PNAS雜志上發表。研究發現，當女性患者被排除在開發機器學習模型的訓練數據中或在表示數據中的代表性明顯不足時，該算法在對所有影響胸部區域的各種醫療條件。當男人被排除在外或人數不足時，也看到了相同的模式。

加利福尼亞大學伯克利分校的齊亞德·奧伯邁耶(Ziad Obermeyer)說：“這是一個關于偏差如何進入算法的有價值的警告性故事，”他研究機器學習及其臨床和健康政策應用。“這些結果的結合，以及對這些算法進行訓練的數據集通常并不關注這些多樣性的度量，這確實很重要，”未參與研究的Obermeyer補充道。

阿根廷的研究人員專注于AI在醫學中最流行的應用之一：分析圖像以嘗試進行診斷。他們檢查的系統負責分析胸部區域的X射線圖像，以檢測是否存在14種醫療狀況，包括疝氣，和心臟擴大。

標簽：

免責聲明：本文由用戶上傳，如有侵權請聯系刪除！