-
안테나 하나로 AI ‘설계도’ 훔쳐본다... 대응 기술도 제시
스마트폰 얼굴 인식부터 자율주행차까지, 인공지능(AI)은 ‘블랙박스’로 보호돼 왔다. 하지만 KAIST·국제 연구진이 벽 너머에서 AI의 ‘설계도’를 훔쳐볼 수 있는 새로운 보안 위협을 밝혀냈다. 대응 기술도 함께 제시했다. 향후 자율주행·의료·금융 등 다양한 분야에서 AI 보안을 강화하는 데 활용될 것으로 기대된다.
우리 대학 전산학부 한준 교수 연구팀은 싱가포르국립대(NUS), 중국 저장대(Zhejiang University)와의 공동 연구를 통해 소형 안테나만으로 원거리에서 인공지능(AI) 모델 구조를 탈취할 수 있는 공격 시스템 ‘모델스파이(ModelSpy)’를 개발했다고 31일 밝혔다.
이 기술은 마치 도청 장치처럼 인공지능이 작동할 때 발생하는 미세한 신호를 포착해 내부 구조를 분석하는 방식이다. 연구팀은 인공지능 연산을 담당하는 그래픽 처리 장치(GPU)에서 발생하는 전자기파에 주목했다.
AI가 복잡한 연산을 수행할 때 GPU에서는 미세한 전자기 신호가 발생하는데, 연구팀은 이 신호의 패턴을 분석해 모델의 층 구성과 세부 설정값을 복원하는 데 성공했다.
실험 결과, 최신 GPU 5종을 대상으로 벽 너머나 최대 6m 거리에서도 인공지능 모델 구조를 높은 정확도로 파악할 수 있었다. 특히 딥러닝 모델의 핵심 구조인 레이어를 최대 97.6%의 정확도로 추정했다.
이번 기술은 기존 해킹처럼 서버에 직접 침투하거나 악성코드를 설치할 필요 없이, 가방에 넣을 수 있는 소형 안테나만으로도 공격이 가능하다는 점에서 큰 보안 위협으로 평가된다.
연구팀은 이러한 기술이 악용될 경우 기업의 핵심 AI 자산이 외부로 유출될 수 있다고 보고, 전자기파 교란이나 연산 난독화 등 대응 기술도 함께 제시했다. 단순한 공격 시연을 넘어 현실적인 방어 방안을 제안했다는 점에서 책임 있는 보안 연구 사례로 평가된다.
한준 교수는 “이번 연구는 AI 시스템이 물리적 환경에서도 새로운 공격에 노출될 수 있음을 입증한 사례”라며 “자율주행이나 국가 기반 시설과 같은 중요한 AI 인프라를 보호하기 위해 하드웨어와 소프트웨어를 아우르는‘사이버-물리 보안’체계 구축이 중요하다”고 밝혔다.
이번 연구는 KAIST 전산학부 한준 교수가 공동 교신저자로 참여했으며, 컴퓨터 보안 분야 최고 권위 학술대회인 ‘NDSS(Network and Distributed System Security Symposium) 2026’에서 발표됐다. 또한 연구의 혁신성을 인정받아 최우수 논문상을 수상했다.
※ 논문명: Peering Inside the Black-Box: Long-Range and Scalable Model Architecture Snooping via GPU Electromagnetic Side-Channel,
논문 링크: https://www.ndss-symposium.org/ndss-paper/peering-inside-the-black-box-long-range-and-scalable-model-architecture-snooping-via-gpu-electromagnetic-side-channel/
2026.03.31
조회수 2234
-
가짜 분유는 이제 스마트폰으로 손쉽게 찾아낸다
가짜 분유 파문은 현재까지도 지속적으로 발생하고 있으며 수만 명의 영유아의 생명을 위협하는 심각한 전세계적 문제다. 하지만 이러한 가짜 분유의 진위 여부를 쉽게 확인하는 것은 거의 불가능에 가깝다. 공동연구진은 스마트폰을 활용해 위조 분유를 빠르고 정확하게 탐지하는 시스템을 개발해서 화제가 되고 있다.
우리 대학 전산학부 한준 교수 연구팀이 연세대, POSTECH, 싱가포르국립대와 공동연구를 통해서 스마트폰을 이용한 가짜 분유 탐지 기술을 개발했다고 2일 밝혔다.
한준 교수 연구팀은 스마트폰에 탑재된 일반 카메라만을 사용해 위조 분말을 탐지하는 ‘파우듀(PowDew)’ 시스템을 개발했다. 연구팀이 최초 개발한 이 시스템은 분말 식품의 성분 및 제조 과정 등에 따라 결정되는 고유한 물리적 성질(습윤성 및 다공성 등)과 액체류와의 상호작용을 이용했다.
이 시스템을 활용하면 소비자가 본인의 스마트폰 카메라로 분유 가루 위에 떨어진 물방울의 움직임을 관측해 손쉽게 분유의 진위를 확인할 수 있다고 전했다. 또한 연구팀은 실험을 통해 6개의 서로 다른 분유 브랜드에 대해 최대 96.1%의 높은 정확도로 위조 분유를 탐지할 수 있음을 확인했다.
나아가 이 기술의 응용 분야는 향후 분유 뿐만 아니라 다양한 식품 및 의약품군으로 확장될 수 있을 것으로 기대된다. 소비자뿐만 아니라 유통사 및 정부 기관의 손쉬운 진위 확인도 가능하게 하여 효율적이고 안전한 제품 유통을 가능하게 할 수 있다.
한준 교수는 “이 기술이 소비자들이 쉽게 사용할 수 있는 검사 도구가 되어 시장에 유통되는 위조 분말 식품을 줄이는 데 크게 기여할 것”이라며 “다양한 분야로의 확장을 통해 위조 제품 문제 해결에 앞장서겠다”고 말했다.
연구팀은 해당 연구의 중요성과 혁신성을 인정받아 모바일 컴퓨팅 분야 최고 권위 국제 학술대회인 ‘ACM 모비시스(ACM MobiSys)’에서 2024 최우수논문상(Best Paper Award)을 수상했다.
(논문명: PowDew: Detecting Counterfeit Powdered Food Products using a Commodity Smartphone)
한편 이번 연구는 한국연구재단 중견연구자지원사업의 지원을 받아 수행됐다.
2024.08.02
조회수 10791