임베디드 시스템을 위한 소프트웨어 기반 적대적 공격 대응 연구

Abstract

최근 DNN의 분류 결과를 고의적으로 잘못된 분류 결과가 도출되도록 유도하는 적대적 공격의 종류가 다양해지고 정교해지고 있다. 이에 DNN들은 적대적 공격에 노출이 잦아졌으며 드론이나 자율 주행 시스템과 같은 임베디드 시스템에서의 적대적 공격으로 인한 오분류의 결과는 치명적일 수 있다. 그러나 임베디드 시스템은 DNN 연산 하드웨어의 성능과 메모리 용량이 제한되어 있기 때문에 적대적 공격을 빠른 속도로 판별하거나 방어하기 매우 어렵다. 이를 위해 전용 하드웨어를 개발하면 비용 측면에서의 부담이 있고 공격 방식과 타겟 DNN의 변경에 유연하게 대처하기 어려움이 있다. 이런 문제를 해결하고자 본 논문에서는 임베디드 시스템에서 적대적 공격 탐지와 적대적 예제 복원을 통한 방어를 할 수 있도록 각각의 기법을 소개한다. 적대적 공격 탐지를 위해 소프트웨어 기반 적대적 공격 검출 기법인 임베디드 NIC를 제안한다. 이 기법은 공격 검출에 필요한 메모리를 최소화하기 위해 타겟 DNN의 은닉층 중 검출을 진행할 은닉층을 선별한다. 또한 타겟 DNN 추론이 진행될 때 병렬적으로 검출하며 이 둘 간의 실행시간 격차를 최소화한다. 적대적 예제 복원을 위해서는 eDenoizer를 제안한다. eDenoizer는 적대적 예제의 잡음(adversarial perturbation)을 제거하는 DNN의 컨볼루션 커널 텐서에 필요한 연산량을 터커 분해를 적용하여 줄인다. 또한 다른 DNN들과 동시에 복원을 진행할 때 CPU측에서 높게 설정한 잡음 제거를 진행하는 DNN과 타겟 DNN의 우선순위를 GPU로 전달하여 적대적 공격 방어를 우선적으로 실행할 수 있다. 실험 결과 임베디드 NIC는 적용 전 대비 실행시간의 차이가 최대 99.6% 감소하고 83.9%의 메모리 사용량 감소를 나타내며 eDenoizer는 1.78%의 미미한 분류 정확도 감소와 함께 적대적 예제 복원이 수반된 추론 속도는 51.72% 단축된다.