新研究發(fā)出警告，醫學(xué)成像AI軟件易被愚弄

wo665451

　　  一項新研究發(fā)出警告，分析醫學(xué)成像的AI軟件容易被愚弄。研究人員稱(chēng)，深度學(xué)習神經(jīng)網(wǎng)絡(luò )在識別醫學(xué)成像上的準確性得到了廣泛報道，但對于其的弱點(diǎn)和安全問(wèn)題則了解不多。德國研究人員上周報道稱(chēng)，AI系統比有經(jīng)驗的皮膚科醫生能更準確的診斷皮膚癌。
  　　研究人員認為，在將AI工具整合到醫療保健系統的過(guò)程中，需要對其潛在的弱點(diǎn)有更多了解。他們檢查了愚弄醫學(xué)成像分析軟件的難度。他們發(fā)現利用“對抗樣本”（adversarial examples）能很容易的欺騙AI軟件錯誤分類(lèi)，這種攻擊方法人類(lèi)很難識破。