新研究發(fā)出警告，醫(yī)學成像AI軟件易被愚弄

wo665451

　　  一項新研究發(fā)出警告，分析醫(yī)學成像的AI軟件容易被愚弄。研究人員稱，深度學習神經(jīng)網(wǎng)絡(luò)在識別醫(yī)學成像上的準確性得到了廣泛報道，但對于其的弱點和安全問題則了解不多。德國研究人員上周報道稱，AI系統(tǒng)比有經(jīng)驗的皮膚科醫(yī)生能更準確的診斷皮膚癌。
  　　研究人員認為，在將AI工具整合到醫(yī)療保健系統(tǒng)的過程中，需要對其潛在的弱點有更多了解。他們檢查了愚弄醫(yī)學成像分析軟件的難度。他們發(fā)現(xiàn)利用“對抗樣本”（adversarial examples）能很容易的欺騙AI軟件錯誤分類，這種攻擊方法人類很難識破。