딥러닝 기반 의료 영상 인공지능 모델의 취약성: 적대적 공격 (Exploiting the Vulnerability of Deep Learning-Based Artificial Intelligence Models in Medical Imaging: Adversarial Attacks)

서지정보

· 발행기관 : 대한영상의학회
· 수록지 정보 : 대한영상의학회지 / 80권 / 2호 / 259 ~ 273페이지
· 저자명 : 김휘영, 정대철, 최병욱

초록

딥러닝 학습모델 성능의 비약적인 발전으로 인해 영상의학을 중심으로 하여 기계학습 모델들이 실제 임상현장에서 의사를 보조하여 진단능을 높이고 작업의 효율성을 증대 시켜줄 것이라는 기대가 많다. 이러한 기대로 인해 많은 병원과 민간 기업 등에서 의학 영상을 이용한자동 진단 학습모델 개발 경쟁이 뜨겁다. 실제로 가까운 미래에 많은 딥러닝 기반의 자동 진단 프로그램들이 의료 환경에서 사용될 것이다. 그러나, 딥러닝 알고리듬이 내재적으로 가진불확실성(uncertainty)에 의한 적대적 공격(adversarial attack)의 가능성은 특히 의학문제에 딥러닝 알고리듬을 적용하는 데에 큰 걸림돌이 된다. 본 종설에서는 의학영상을 다루는딥러닝 모델들에 대해 어떠한 원리와 방식으로 적대적 공격이 이루어질 수 있으며, 이로 인하여 어떤 문제들이 발생할 수 있으며 적대적 공격을 차단할 수 있는 방법은 없는지 자세히살펴보고자 한다.

영어초록

Due to rapid developments in the deep learning model, artificial intelligence (AI) models are expected to enhance clinical diagnostic ability and work efficiency by assisting physicians. Therefore, many hospitals and private companies are competing to develop AI-based automatic diagnostic systems using medical images. In the near future, many deep learning-based automatic diagnostic systems would be used clinically. However, the possibility of adversarial attacks exploiting certain vulnerabilities of the deep learning algorithm is a major obstacle to deploying deep learning-based systems in clinical practice. In this paper, we will examine in detail the kinds of principles and methods of adversarial attacks that can be made to deep learning models dealing with medical images, the problems that can arise, and the preventive measures that can be taken against them.

참고자료

· 없음