與醫(yī)療保健中的AI相關(guān)的6種嚴(yán)重風(fēng)險

小編發(fā)現(xiàn)不少朋友對于 與醫(yī)療保健中的AI相關(guān)的6種嚴(yán)重風(fēng)險 這方面的信息都比較感興趣，小編就針對 與醫(yī)療保健中的AI相關(guān)的6種嚴(yán)重風(fēng)險整理了一些相關(guān)方面的信息在這里分享給大家。

AI的迅速崛起可能會永遠(yuǎn)改變醫(yī)療保健，從而加快診斷速度，并使醫(yī)療服務(wù)提供商花費更多時間直接與患者溝通。但是，根據(jù)布魯金斯學(xué)會(Brookings Institution)的一份新報告，醫(yī)療行業(yè)中與AI有關(guān)的風(fēng)險也必須加以解決。

非營利組織的報告中指出了AI的六種潛在風(fēng)險：

1.傷害和錯誤：“最明顯的風(fēng)險是AI系統(tǒng)有時會出錯，并可能導(dǎo)致患者受傷或其他醫(yī)療保健問題，”密歇根大學(xué)法學(xué)院的作者W. Nicholson Price II寫道。“如果人工智能系統(tǒng)為患者推薦了錯誤的藥物，沒有通過放射線掃描發(fā)現(xiàn)腫瘤，或者由于錯誤地預(yù)測了哪個患者會受益更大，而將醫(yī)院的病床分配給了另一位患者，則該患者可能會受傷。”

與錯誤相關(guān)的AI系統(tǒng)將尤其令人不安，因為它們會立即影響這么多患者。此外，如果患者，患者的家人和朋友發(fā)現(xiàn)“計算機”是犯了重大錯誤的原因，他們可能不會做出很好的反應(yīng)。在當(dāng)今的在線患者評論時代，人們很快就知道，提供商的AI功能不可信賴。

2.數(shù)據(jù)可用性：開發(fā)合法AI算法所需的與患者數(shù)據(jù)有關(guān)的后勤工作令人生畏。即使僅收集單個患者的所有必要數(shù)據(jù)也會帶來各種挑戰(zhàn)。正如Price II解釋的那樣，患者“通常會看到不同的提供商和保險公司，從而導(dǎo)致數(shù)據(jù)拆分為多種系統(tǒng)和多種格式。”

3.隱私問題：當(dāng)您收集患者數(shù)據(jù)時，這些患者的隱私當(dāng)然應(yīng)該是一個大問題。研究人員可能會努力確?；颊邤?shù)據(jù)保持私密性，但始終有惡意黑客在等待利用錯誤。即使是像Google這樣的大型公司，也會遇到與患者數(shù)據(jù)和隱私有關(guān)的問題，這表明參與AI的每個人都必須認(rèn)真對待。

Price II補充說：“ AI可能以另一種方式隱含隱私：即使算法從未收到該信息，AI也可以預(yù)測有關(guān)患者的私人信息。”

4.偏見和不平等：根據(jù)該報告，如果用于訓(xùn)練AI系統(tǒng)的數(shù)據(jù)甚至包含最微弱的偏見暗示，那么這種偏見將出現(xiàn)在實際的AI中。

Price II寫道：“例如，如果可用于AI的數(shù)據(jù)主要是在學(xué)術(shù)醫(yī)學(xué)中心收集的，那么所得的AI系統(tǒng)將了解較少(因此治療效果會較差)來自通常不訪問學(xué)術(shù)醫(yī)學(xué)中心的人群的患者。” 。“類似地，如果使用語音識別AI系統(tǒng)來記錄遇到的筆記，那么當(dāng)提供者的種族或性別在培訓(xùn)數(shù)據(jù)中所占的比例不足時，這種AI的性能可能會更差。”

5.專業(yè)重組：實施AI技術(shù)的長期風(fēng)險之一是，它可能導(dǎo)致“醫(yī)學(xué)專業(yè)的轉(zhuǎn)變”。

Price II寫道：“一些醫(yī)學(xué)?？疲绶派鋵W(xué)，很可能會隨著他們的大部分工作變得可自動化而發(fā)生重大變化。“一些學(xué)者擔(dān)心，隨著時間的流逝，人工智能的廣泛使用將導(dǎo)致人類知識和能力的下降，從而使提供者失去捕捉和糾正人工智能錯誤并進(jìn)一步發(fā)展醫(yī)學(xué)知識的能力。”

6.涅磐謬誤： Price II解釋說，涅磐謬誤是在將新選項與理想方案而不是之前的理想方案進(jìn)行比較時發(fā)生的。換句話說，在AI實施之后，患者護(hù)理可能不是100%完美，但這并不意味著事情應(yīng)該與以往保持一致。

這種現(xiàn)象會發(fā)生并導(dǎo)致醫(yī)療體系不采取任何行動嗎?