推動人工智能在醫(yī)療保健中的發(fā)展

三年前，人工智能先驅(qū) Geoffrey Hinton說：“我們現(xiàn)在應(yīng)該停止培訓放射科醫(yī)生。完全顯而易見的是，五年之內(nèi)，深度學習將比放射科醫(yī)生做得更好。”

如今，全球數(shù)百家新興公司都在嘗試將深度學習應(yīng)用于放射學。然而，被AI取代的放射科醫(yī)生的數(shù)量大約為零。(實際上，它們在世界范圍內(nèi)都短缺。)

至少就短期而言，該數(shù)字可能保持不變。事實證明，放射學比欣頓和其他許多人想象的要自動化得多。對于一般醫(yī)學而言，情況同樣如此。有概念的許多證據(jù)，如的自動診斷從胸部X射線，但在其中深學習(機器學習技術(shù)，它是目前最占優(yōu)勢的方法來AI)已經(jīng)實現(xiàn)了變換和改進出奇少數(shù)情況下經(jīng)常答應(yīng)了。

首先，有關(guān)深度學習有效性的實驗室證據(jù)并不像看起來那樣可靠。當使用AI的機器勝過人類的機器時，正面的結(jié)果往往會引起媒體的廣泛關(guān)注，而當機器的表現(xiàn)不如人類時，負面的結(jié)果則很少在學術(shù)期刊上報道，甚至更少的媒體報道。

同時，越來越多的文學作品表明，深度學習從根本上容易受到“對抗性攻擊”的攻擊，并且常常容易被虛假的聯(lián)想所欺騙。例如，如果一輛翻倒的校車碰巧被雪包圍，可能會誤認為是掃雪機。用幾片膠帶改變了停車標志，因此深度學習系統(tǒng)將其誤認為是速度限制。如果這些問題在機器學習社區(qū)中廣為人知，那么它們的含義在醫(yī)學界就不太為人所理解了。

例如，在X射線圖像上進行訓練以進行診斷決策的深度學習算法可以輕松地檢測用于制作圖像的成像機?？紤]這種假設(shè)情況：醫(yī)院使用兩種不同型號的X射線機-一種便攜式，一種安裝在固定位置。因病情臥床不起的患者必須使用便攜式機器在床旁成像。這意味著機器的選擇與條件的存在相關(guān)。而且，由于AI算法對使用哪臺機器高度敏感，因此它可能會無意中誤認為與機器有關(guān)的基本條件信息。在醫(yī)院中始終使用便攜式機器的相同算法可能會產(chǎn)生混淆的決定。

實際上，深度學習僅在狹義的技術(shù)意義上(即在神經(jīng)網(wǎng)絡(luò)中使用了多少“層”的準神經(jīng)元)是深度的，而不是在概念上。深度學習系統(tǒng)擅長在訓練數(shù)據(jù)中查找關(guān)聯(lián)，但無法區(qū)分因果相關(guān)和意外相關(guān)，例如成像設(shè)備上的模糊。虛假的聯(lián)想可能會被過度加權(quán)。

例如，在通過圖像診斷皮膚癌時，皮膚科醫(yī)生只有在懷疑皮膚癌的情況下才可以使用尺子來確定皮膚的大小。這樣，尺子的存在與圖像數(shù)據(jù)中的癌癥診斷相關(guān)聯(lián)。AI算法可以很好地利用這種關(guān)聯(lián)而不是病變的視覺外觀來做出癌癥決策。但是統(tǒng)治者實際上并沒有引起癌癥，這意味著該系統(tǒng)很容易被誤導(dǎo)。