新研究發(fā)出警告，醫(yī)學(xué)成像AI軟件易被愚弄

wo665451

　　  一項(xiàng)新研究發(fā)出警告，分析醫(yī)學(xué)成像的AI軟件容易被愚弄。研究人員稱(chēng)，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)在識(shí)別醫(yī)學(xué)成像上的準(zhǔn)確性得到了廣泛報(bào)道，但對(duì)于其的弱點(diǎn)和安全問(wèn)題則了解不多。德國(guó)研究人員上周報(bào)道稱(chēng)，AI系統(tǒng)比有經(jīng)驗(yàn)的皮膚科醫(yī)生能更準(zhǔn)確的診斷皮膚癌。
  　　研究人員認(rèn)為，在將AI工具整合到醫(yī)療保健系統(tǒng)的過(guò)程中，需要對(duì)其潛在的弱點(diǎn)有更多了解。他們檢查了愚弄醫(yī)學(xué)成像分析軟件的難度。他們發(fā)現(xiàn)利用“對(duì)抗樣本”（adversarial examples）能很容易的欺騙AI軟件錯(cuò)誤分類(lèi)，這種攻擊方法人類(lèi)很難識(shí)破。