-
딥러닝 적대적 공격을 막는 방어 프레임 개발
우리 대학 전기및전자공학부 노용만 교수 연구팀이 물체를 검출하는 딥러닝 신경망에 대한 적대적 공격을 방어하는 알고리즘을 개발했다고 15일 밝혔다.
최근 몇 년간 인공지능 딥러닝 신경망 기술이 나날이 발전하고 실세계에 활용되면서, 딥러닝 신경망 기술은 자율주행 및 물체검출 등 다양한 분야에서 떠오르는 핵심기술로 주목받고 있다.
하지만 현재의 딥러닝 기반 검출 네트워크는, 특정한 적대적 패턴을 입력 이미지에 악의적으로 주입하여 잘못된 예측 결과를 초래하는 적대적 공격에 대해 심각하게 취약하다. 적대적 패턴이란 공격자가 검출이 되지 않기 위해 인위적으로 만든 패턴이다. 이 패턴이 포함된 물체는 검출이 되지 않게 하는 것으로 적대적 패턴 공격이라 한다.
이러한 취약성은 인공지능으로 대표되는 딥러닝 기반의 모델을 국방이나 의료 및 자율주행 등 국민의 생명과 재산을 직접 다루는 분야에 적용할 때 크게 문제가 된다. 구체적인 예로 국방·보안을 위한 감시 정찰 분야에서 적군이 적대적 패턴으로 위장하여 침입하면 검출을 못하는 경우가 발생하여 국방 및 보안에 매우 큰 위험을 초래할 수 있다.
기존의 많은 연구가 적대적 패턴 공격을 막기 위해 노력했으나 추가로 복잡한 모듈이 필요하거나 네트워크를 처음부터 다시 학습해야 했기 때문에, 기존 연구는 실시간으로 동작하는 물체검출 알고리즘에 현실적으로 적용하기가 쉽지 않았다.
노 교수 연구팀은 물리적인 환경에서 적대적 패턴 공격의 원리를 반대로 이용해 적대적 공격을 막아내는 방어 프레임을 고안했다. 이러한 방어 프레임은 부가적인 복잡한 모듈이나 네트워크의 재학습이 필요하지 않으므로 보다 실용적이고 강인한 물체검출 네트워크를 구축하는데 폭넓게 응용 및 적용될 수 있을 것으로 기대된다.
공동 제1 저자인 전기및전자공학부 유영준 박사과정 학생과 이홍주 박사과정 학생 등이 함께 수행한 이번 연구는 영상처리 분야 최고의 국제 학술지인 `IEEE Transactions on Image Processing'에 11월 1일 자로 온라인 게재됐다. (논문명 : Defending Person Detection Against Adversarial Patch Attack by using Universal Defensive Frame).
연구팀은 문제 해결을 위해 적대적 공격의 원리를 역으로 이용해, 학습된 네트워크에 접근하지 않으면서도 입력단에서 방어할 수 있는 방어 프레임 기술을 고안했다.
연구팀의 방어 기술은 적대적 공격과 정반대로 물체검출 시 딥러닝 모델이 옳은 예측 결과를 내리도록 방어 프레임을 만드는 것이다. 이러한 방어 프레임은 마치 창과 방패의 싸움처럼 적대적 패턴과 함께 경쟁적으로 학습되며, 해당 과정을 반복해 최종적으로 모든 적대적 패턴 공격에 대해 높은 방어성능을 지니도록 최적화된다.
연구팀은 입력 이미지 외부에 덧붙이는 방어 프레임을 변화시킴으로써 손쉽게 방어성능을 조절할 수 있음을 확인했고, 개발된 방어 프레임은 인리아(INRIA) 검출 벤치마크 데이터셋에서 기존 방어 알고리즘 대비 평균 31.6% 정확도가 향상하는 성과를 거뒀다.
연구팀이 개발한 방어 프레임은 실시간 물체 탐지 시, 모델의 재학습 없이 적대적 패턴 공격을 방어할 수 있으므로 예측 시간 및 비용 절감을 크게 이룰 수 있을 것으로 기대된다.
연구팀은 나아가 이번 연구에서 개발된 방어 프레임을 물리적으로 직접 구현시켜서, 물리적 환경에 자연스레 놓여있는 적대적 패턴 공격과 마찬가지로 좀 더 접근성 있는 방어 방법으로도 활발히 응용될 수 있음을 제시하였다.
노용만 교수는 "국방 및 보안 분야에서 인공지능이 활용되기 위해서 아직 인공지능의 완전성을 높이는 많은 연구가 필요한데, 이번에 개발된 방어 기술은 이 분야들에서 인공지능 모델을 적용 시 실용적인 적대적 방어를 제시함에 의의가 있을 것ˮ이라며 "이 기술은 국방 감시정찰, 보안, 자율주행 분야에도 적용될 수 있을 것이다ˮ라고 말했다.
한편 이번 연구는 방위사업청과 국방과학연구소의 지원으로 한국과학기술원 미래국방 인공지능 특화연구센터에서 수행됐다.
2022.11.15
조회수 4919
-
김용대 교수, 대테러 방지용 안티 드론 기술 개발
〈 (오른쪽 위부터 시계방향으로) 김용대 교수, 권유진, 노주환, 신호철, 김도현 박사과정 〉
우리 대학 전기및전자공학부 김용대 교수 연구팀이 위조 GPS 신호를 이용해 드론의 위치를 속이는 방식으로 드론을 납치할 수 있는 안티 드론 기술을 개발했다.
이 기술은 긴급 상황에서 급격한 방향 변화 없이도 드론이 원하는 방향으로 안전하게 움직이도록 유도할 수 있어 테러 등의 목적을 가진 위험한 드론에 효과적으로 대응할 수 있다.
이번 연구성과는 ‘ACM 트랜잭션 온 프라이버시 & 시큐리티(ACM Transactions on Privacy and Security, TOPS)’ 저널 4월 9일 자에 게재됐다. (논문명 : Tractor Beam: Safe-hijacking of Consumer Drones with Adaptive GPS Spoofing)
드론 산업이 발전하며 수색, 구조, 방재 및 재해 대응, 택배와 정찰 등 다양한 영역에서 드론이 활용되면서 한편으로는 사유지와 주요시설 무단 침입, 안전과 보안 위협, 사생활 침해 등의 우려 또한 커지고 있다.
이에 따라 드론 침투를 탐지하고 대응하는 안티 드론 산업 급성장하고 있다. 현재 공항 등 주요시설에 구축되고 있는 안티 드론 시스템들은 방해 전파나 고출력 레이저를 쏘거나 그물로 포획해 드론을 무력화시키는 방식이다.
그러나 테러를 목적으로 폭발물이나 무기를 장착한 드론은 사람들과 주요시설로부터 즉시 안전거리를 확보한 뒤 무력화해야 피해가 최소화될 수 있다. 예를 들어 공항에서 무단 침입한 드론을 단순 방해 전파로 대응하면 드론을 못 움직이게 할 수는 있지만 한 자리에 계속 떠 있게 돼 비행기의 이착륙이 긴 시간 중단될 수 있다.
이렇듯 위험한 드론을 발견하는 즉시 안전하게 원하는 방향으로 격리할 수 있는 새로운 안티 드론 기술의 필요성이 커지고 있다.
김 교수 연구팀은 위조 GPS 신호를 이용해 드론의 위치를 속이는 방식으로 드론을 납치할 수 있는 안티 드론 기술을 개발했다.
위조 GPS 신호를 통해 드론이 자신의 위치를 착각하게 만들어서 정해진 위치나 경로로부터 드론을 이탈시키는 공격 기법은 기존 연구를 통해 알려진 바 있다. 그러나 이러한 공격 기법은 GPS 안전모드가 활성화되면 적용할 수 없다는 문제가 있다.
GPS 안전모드는 드론이 위조 GPS 신호로 인해 신호가 끊기거나 위치 정확도가 낮아지면 드론의 안전을 보장하기 위해 발동되는 일종의 비상 모드로 모델이나 제조사에 따라 제각각이기 때문이다.
연구팀은 디제이아이(DJI), 패롯(Parrot) 등 주요 드론 제조업체의 드론 GPS 안전모드를 분석하고 이를 기준으로 드론의 분류 체계를 만들어 각 드론 유형에 따른 드론 납치 기법을 설계했다.
이 분류 체계는 거의 모든 형태의 드론 GPS 안전모드를 다루고 있어 모델, 제조사와 관계없이 GPS를 사용하고 있는 드론이라면 보편적으로 적용할 수 있다. 연구팀은 실제 총 4종의 드론에 개발한 기법을 적용했고, 그 결과 작은 오차범위 안에서 의도한 납치 방향으로 드론을 안전하게 유도할 수 있음을 입증했다.
김 교수는 “기존 컨슈머 드론들은 GPS 안전모드를 갖추고 있어 위조 GPS 공격으로부터 안전한 것처럼 보이나 초보적인 방법으로 GPS 오류를 감지하고 있어 대부분 우회가 가능하다”라며 “특히 드론 불법 비행으로 발생하는 항공업계와 공항의 피해를 줄이는데 기여할 수 있을 것이다”라고 말했다.
연구팀은 기술이전을 통해 기존 안티 드론 솔루션에 연구팀이 개발한 기술을 적용하는 방식으로 상용화에 나설 계획이다.
이번 연구는 방위사업청의 광운대학교 초소형무인기 전술신호처리 특화연구실과 국방과학연구소의 지원을 통해 수행됐다.
□ 그림 설명
그림1. PC로 부터 위조 GPS 전파를 생성하여 지향성 안테나를 이용해 드론에 신호를 주입하는 실험환경
2019.06.05
조회수 14853
-
조은애 교수, 사용량 90% 줄이고 수명 2배 늘린 백금촉매 개발
〈 조 은 애 교수 〉
우리 대학 신소재공학과 조은애 교수 연구팀이 백금 사용량을 90% 줄이면서 동시에 수명은 2배 향상시킨 연료전지 촉매를 개발했다.
임정훈 연구원이 1저자로 참여한 이번 연구는 국제 학술지 ‘나노 레터스(Nano Letters)’ 4월호(4월 11일자)에 게재됐다.
연료전지는 대기오염 물질을 배출하지 않는 친환경 발전장치로 기존 발전 설비를 대체할 수 있다. 연료전지를 주원료로 이용하는 수소 전기차 한 대는 성인 70명이 호흡하는 공기로부터 미세먼지와 초미세먼지를 98% 이상 정화할 수 있는 달리는 공기청정기로 불린다.
하지만 이 연료전지에 전극촉매로 사용되는 백금의 비싼 가격은 상용화를 가로막는 큰 장벽이다. 또한 현재 개발된 탄소 담지 백금 나노촉매는 상용화 기준에 못 미치는 산소환원반응 활성과 내구성을 보여 한계로 남아있다.
연구팀은 기존 백금 기반 촉매들의 산소환원반응 활성 및 내구성을 증진하는 것을 목표했다. 우선 백금과 니켈 합금 촉매를 합성한 뒤 성능 증진을 위해 여러 금속 원소를 도입한 결과 갈륨이 가장 효과적임을 발견했다.
연구팀은 백금-니켈 합금 촉매를 팔면체 형태의 나노입자로 만들고 나노입자의 표면에 갈륨을 첨가해 기존 백금 촉매에 비해 성능을 12배 향상시켰다.
특히 기존 연료전지 촉매들이 대부분 실제 시스템에 적용하는 데는 실패한 반면 조 교수 연구팀은 개발한 촉매를 이용해 연료전지를 제작해 가격을 30% 줄이고 수명도 2배 이상 향상시켜 실제 적용이 가능함을 증명했다.
1저자인 임정훈 연구원은 “기존 합성 방법으로 제조 가능한 백금 니켈 합금 촉매 표면에 갈륨을 첨가해 가열만 하면 촉매가 합성되기 때문에 기존 공정에 쉽게 도입이 가능하고 대량 생산이 용이해 실용화 가능성이 높다.”고 말했다.
조은애 교수는 “연료전지의 가격저감과 내구성 향상을 동시에 달성한 연구 성과로 수소 전기차, 발전용 연료전지의 시장경쟁력 제고가 기대된다”고 말했다.
이번 연구는 에너지기술평가원, 한국연구재단 기후변화대응사업과 국방과학연구소의 지원을 통해 수행됐다.
□ 그림 설명
그림1. 내구성 평가 후의 촉매 입자 형상 변화
2018.04.17
조회수 15097