醫生目前花費大量時間撰寫有關患者的說明并將其插入電子健康記錄(EHR)系統。根據2016年的一項研究，醫生花費大約兩個小時進行行政工作，每個小時花在患者身上。借助先進的人工智能工具，這種筆記寫入過程可以很快實現自動化，幫助醫生更好地管理他們的班次并使他們免于這項繁瑣的任務。

Google Brain的研究員Peter Liu最近開發了一種新的語言建模任務，可以通過分析患者的醫療記錄來預測新筆記的內容，其中包括人口統計學，實驗室測量，藥物和過去的筆記等數據。在他早期發表在arXiv上的研究中，他使用MIMIC-III(重癥監護醫療信息市場)EHR數據集訓練生成模型，然后將模型生成的注釋與數據集中的實際注釋進行比較。

通常采用的方法可以減少臨床醫生花在筆記上的時間，包括使用聽寫服務和雇傭可以為他們寫筆記的助理。人工智能工具可以幫助解決這個問題，減少花在額外人員和資源上的成本。

“筆記的輔助寫作功能，例如自動完成或錯誤檢查，受益于語言模型，”劉在他的論文中寫道。“ 模型越強，這些特征就越有效。因此，本文的重點是建立臨床筆記的語言模型。”

劉使用兩種語言模式：第一種叫變壓器的架構，并在去年在發表的一項研究中引入在神經信息處理系統的進步刊物。由于該模型在較短的文本(例如單個句子)中表現更好，他還測試了最近引入的基于變壓器的模型，稱為具有記憶壓縮關注的變換器(T-DMCA)，其被發現對于更長的序列更有效。

他在MIMIC-III數據集上訓練了這些模型，其中包含來自三級醫院重癥監護病房的39,597名患者的去識別EHR。這是目前最全面的EHR數據集，可公開獲取，并且可以在線輕松訪問。

“我們基于HER數據為臨床筆記引入了一種新的語言建模任務，并展示了如何將多模態數據上下文表示給模型，”劉在他的論文中解釋道。“我們提出了該任務的評估指標，并提出了令人鼓舞的結果，顯示了這些模型的預測能力。”

這些模型能夠有效地預測醫生筆記的很多內容。將來，它們可以幫助開發更復雜的拼寫檢查和自動完成功能。然后可以將這些功能集成到幫助臨床醫生完成管理工作的工具中。雖然這項研究的結果是有希望的，但在模型可以更大規模使用之前仍然需要克服一些挑戰。

“在許多情況下，EHR提供的最大背景不足以完全預測音符，”劉在他的論文中解釋道。“最明顯的案例是MIMIC-III缺乏成像數據用于放射學報告。對于非成像筆記，我們也缺乏有關最新患者 - 提供者互動的信息。未來的工作可能會試圖用超出EHR的數據來增加注釋背景例如，成像數據或患者與醫生之間的相互作用。盡管我們在EHR軟件中討論了錯誤糾正和自動完成功能，但它們對用戶生產率的影響并未在臨床環境中進行測量，我們將其作為未來的工作。