NAM表示醫(yī)療保健在采用AI時必須謹慎行事

人工智能具有改變和破壞醫(yī)療保健的潛力。但是，該行業(yè)必須提防意想不到的后果，并且不要屈從于市場宣傳和利潤動機。

這就是醫(yī)學研究院的一份新報告的論點，該報告的作者將文件描述為對醫(yī)療保健中AI的成就，可能性和陷阱的“清醒和平衡”評估。

他們補充說：“盡管像所有技術一樣，在醫(yī)學中使用AI的潛力很大，但實現(xiàn)并非沒有一定風險。”

NAM研究的合著者，再生研究院的研究開發(fā)副總裁Eneida Mendonca醫(yī)學博士認為，人工智能有可能產(chǎn)生意想不到的后果，因此，必須遵守法規(guī)并在道德上加以實施。

Mendonca說：“最好是主動建立監(jiān)管框架，而不是響應特定問題。”“衛(wèi)生系統(tǒng)必須采取步驟，以確保該技術正在增強對所有患者的護理。系統(tǒng)負責人必須努力避免在AI應用程序的使用中引入社會偏見，包括在數(shù)據(jù)收集和算法評估過程中要求透明性。”

她補充說：“必須調整通用的IT治理結構來管理AI，并且如果可能的話，應在學習健康系統(tǒng)的背景下使用該技術，以便可以不斷評估和調整其影響以最大化收益。”

NAM研究的作者指出，人工智能工具僅與用于開發(fā)和維護它們的數(shù)據(jù)一樣好，并指出當前數(shù)據(jù)源存在許多限制，這些限制對于提供循證醫(yī)療保健和開發(fā)人工智能算法至關重要。

作者認為：“電子健康記錄和其他健康信息系統(tǒng)的實施為科學家提供了有關個人健康數(shù)據(jù)的豐富的縱向，多維和詳細記錄。”“但是，這些數(shù)據(jù)嘈雜且有偏差，因為它們是在記錄護理過程中出于不同目的而產(chǎn)生的。”

結果，NAM研究警告說，不良數(shù)據(jù)只會導致不良模型。作者觀察到：“有一種趨勢是將AI炒作一種神奇的東西，無論輸入什么，它都可以學習。”“在實踐中，數(shù)據(jù)的選擇總是勝過模型的特定數(shù)學公式的選擇。”

盡管如此，研究作者的希望仍是，人工智能將成為醫(yī)療行業(yè)以及聯(lián)邦政府對廣泛采用的電子病歷的大規(guī)模投資的“回報”。

盡管如此，Regenstrief的Mendonca建議，由于AI已集成到EHR中，因此該行業(yè)必須專注于臨床安全性并仔細監(jiān)控其用途和結果。

Mendonca說：“正如我們在科學院的報告中所寫的那樣，'實際上，目前已獲得的32萬多個健康應用程序中，幾乎沒有一個已被下載了近40億次，實際上卻被證明可以改善健康狀況。”

“最明智的AI指導是從醫(yī)療保健中的實際問題開始，通過與相關利益相關者，一線用戶，患者及其家人(包括AI和非AI選項)合作，探索最佳解決方案，并實施和擴展?jié)M足我們五重奏的方案目的：更好的健康，更好的護理體驗，臨床醫(yī)生的福祉，更低的成本和健康平等。”研究的作者總結道。