%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%AC
-
딥페이크 탐지 모바일 앱 서비스 개시
우리 대학 전산학부 이흥규 교수 연구팀이 인공신경망 기반 딥페이크(deepfake) 탐지와 사진 위변조 탐지 소프트웨어인 `카이캐치(KaiCatch)'를 모바일 앱 형태로 개발해 서비스를 시작한다고 30일 밝혔다. 이는 디지털콘텐츠 위변조 탐지가 필요한 공공기관, 산업계, 언론 및 방송사, 각종 포털 종사자들 및 일반인들도 손쉽게 활용할 수 있을 것으로 기대된다.
이번 모바일 앱 서비스는 본격적으로 일반인들도 손쉽게 디지털콘텐츠 위변조 탐지 기술을 활용할 수 있도록 실용화 단계로 들어섰다는 점에서 의미가 크다. KAIST에서 딥페이크 영상을 포함해 각종 위변조 사진들을 잡아낸다는 의미를 지닌 `카이캐치(KaiCatch)' 소프트웨어를 모바일 앱 형태로 개발해 서비스를 시작하는데 이러한 유형의 서비스로는 국내 최초다. 구글스토어에서 `카이캐치'를 검색해 앱을 다운로드하면 간단하게 딥페이크 및 이미지 위변조 분석을 할 수 있다.
주로 사람의 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 얼굴 재현, 얼굴 속성 변환으로 크게 3가지 유형으로 나눌 수 있다. 그중 얼굴 교체와 얼굴 재현은 악의적으로 사용할 때 가짜 뉴스로 사회적 큰 혼란을 일으킬 수 있고 음란물 제작 등에도 악용돼 개인의 인권을 크게 침해할 수 있다. 또한, 얼굴 속성 변환은 영상 증거를 조작하는데 악용될 수 있다.
연구팀이 개발한 기술은 딥페이크 생성 유형에 상관없이 딥페이크 여부를 탐지하기 위해 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 신호처리 및 인공지능 기술로 개발됐다. 이러한 핵심 기술들을 사용해, 얼굴 영역의 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석해 딥페이크를 탐지한다.
딥페이크 탐지 기술의 경우, avi 나 mp4 형식의 딥페이크 의심 동영상이 주어지면 개별 프레임으로 자른 뒤 분석하고자 하는 프레임을 이미지로 변환 후 딥페이크 탐지를 수행한다. 동영상 내의 얼굴이 지나치게 작거나(해상도 128×128 이하) 동영상 내 사람 얼굴이 상당 부분 잘린 경우가 아니면 정상적인 탐지가 가능하다. 따라서 동영상의 한 프레임을 잘라 이미지로 만들어 카이캐치 앱에 업로드하면 손쉽게 딥페이크 여부를 확인할 수 있다. 분석 결과는 0에서 100 (%) 값으로 표시되며 숫자가 높을수록 딥페이크일 확률이 높은 것으로 판단한다.
사진 위변조 탐지 기술의 경우도 마찬가지로 카이캐치 앱에 해당 이미지를 업로드하면 위변조 분석 결과를 받아 볼 수 있다. 카이캐치는 BMP, TIF, TIFF, PNG 등 무압축, 무손실 압축을 포함해 50여 개의 표준 양자화 테이블과 1,000여 개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지들도 모두 처리할 수 있다. 사진 위변조가 의심되는 이미지를 업로드하면 해당 이미지를 분석한 결과를 시각화한 두 장의 분석 이미지를 도출하며, 분석 이미지 내에 위변조가 의심되는 특징들이 포함된 주요 영역들이 다른 주변 영역들과 색상이 크게 다르거나, 또는 주요 영역들에만 다양한 색상들이 혼재해 나타나면 해당 영역이 위변조된 것으로 일반인들도 간단하게 판단할 수 있다.
이번에 개발한 모바일용 위변조 탐지 앱 개발은 국내 최초이자 선진국에서도 찾기 어려운 위변조 탐지 앱 서비스 기술이다. 이흥규 교수는 "카이캐치는 인공지능과 미세 이상 신호 흔적 분석 기법이라는 첨단 기술을 사용해 다양한 유형의 변형에 대응한 범용성을 가지도록 개발됐다”며 "우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외의 높은 신뢰도로 탐지한다”고 말했다.
이 교수는 이어 "이번에는 안드로이드 기반의 모바일 환경에서만 동작하는 앱 서비스 기술로 개발됐지만 가까운 기간내 애플 iOS 기반의 앱 출시와 함께, 영어, 중국어, 일어 앱 들도 출시하려고 한다ˮ며 "기존 탐지 기법과는 매우 상이한 기법들을 사용한 위변조 탐지 기술도 실용화해 카이캐치에 추가 탑재 운용함으로써, 탐지가 안 되는 각종 예외 경우들을 대폭 줄이도록 노력하겠다ˮ 고 덧붙였다.
한편 이번 연구는 KAIST 창업기업인 ㈜디지탈이노텍(http://www.kaicatch.com/) 과 산학협력 연구로 수행됐다.
2021.03.31 조회수 88513 -
사진 위변조 탐지하는 실용 소프트웨어 개발
위조되거나 변조된 사진·영상자료를 손쉽게 탐지해내는 고성능 소프트웨어가 우리 연구진에 의해 개발됐다. 이 기술은 논문 발표 수준에만 머물러 있던 사진과 영상자료의 위·변조 탐지기술을 국내 최초로, 세계에서 두 번째로 실용화 단계로 끌어 올렸다는 점에서 의미가 크다.
우리 대학 전산학부 이흥규 교수 연구팀이 인공신경망을 이용해 디지털 형태의 사진 변형 여부를 광범위하게 탐지하는 실용 소프트웨어 `카이캐치(KAICATCH)'를 개발했다고 3일 밝혔다.
최근 딥페이크(deepfake)를 포함해 각종 위·변조 영상의 등장과 온라인 유통으로 인한 위·변조 탐지기술에 관한 관심이 급속히 증가하고 있다. 그러나 위·변조 여부를 직접 확인할 수 있는 객관적인 분석 도구가 없기 때문에 사실확인 작업이나 정황 판단 등에 의존해 진위를 판단함으로써 주관적 판단 여부의 논란 등 문제가 자주 발생하고 있다.
특히 기존의 디지털사진 포렌식 기술은 개개 변형의 유형에 대응해 개발돼서 변형 유형이 다양하거나, 사전 특정되기 전에는 일정 수준 이상의 높은 신뢰도를 확보하기가 어렵다. 즉, 기존 기술들은 제한된 형식과 알려진 특정 변형에 대해서는 만족할 만한 탐지 성능을 보여주지만, 어떤 변형들이 가해진 것인지 전혀 알 수 없는 임의의 디지털사진을 분석해야 하는 실제 상황에서는 판독의 정확성과 신뢰도가 크게 떨어질 수 밖에 없다.
다양한 변형이 가해진 채 온라인에서 유통되는 사진이나 영상에 대한 변형 여부의 탐지는 극소수 전문가들의 주관적인 판단의 영역에 머물러 왔기 때문에 이런 문제해결을 위해 많은 도전적 연구들이 진행되고 있다.
이흥규 교수 연구팀이 개발한 이 기술은 국내 최초이자 세계 두 번째로 거둔 쾌거이다. 연구팀은 일반인들을 대상으로 2015년 6월부터 `디지털 이미지 위·변조 식별 웹서비스'를 통해 수집한 30여만 장의 실 유통 이미지 데이터와 특징기반·신경망 기반의 포렌식 영상 데이터, 딥페이크와 스테고 분석을 위한 대량의 실험 영상자료를 정밀 분석해 활용한 연구 결과물이다.
이 교수팀은 특정 변형을 탐지하는 개개의 알고리즘들을 모아놓은 기존 기술의 한계를 극복하고, 다양한 변형에 대한 탐지를 유기적으로 통합하는 기술에 주목했다.
이를 위해 잘라 붙이기·복사 붙이기·지우기·이미지 내 물체 크기 변화와 이동·리터칭 등 일상적이면서 자주 발생하는 변형들에서 언제나 발생하는 변이들을 분류, 정리해 필수 변이로 정의하고 이들을 종합 탐지하는 연구를 수행했다. 그 결과 변형의 유형을 특정하지 못하는 상태에서도 변형이 발생했는지 여부를 판단함으로써 탐지 신뢰도를 크게 높였다.
연구팀은 이어 BMP·TIF·TIFF·PNG 등 무압축, 무손실 압축을 포함해 50여 개의 표준 양자화 테이블과 1,000여 개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지들도 포괄적으로 처리하는 기술을 포함한 실용 소프트웨어를 개발하는 데 성공했다.
이 교수팀이 개발한 `카이캐치'는 전통적인 영상 포렌식 기술, 스테그 분석 기술 등 픽셀 단위의 미세한 변화를 탐지하는 기술들을 응용해, `이상 영역 추정 엔진'과 `이상 유형 분석 엔진' 두 개의 인공지능 엔진으로 구성됐으며 이를 기반으로 결과를 판단하고 사진에 대한 다양한 변형 탐지 기능과 사진의 변형 영역 추정 기능 등을 함께 제공한다.
이흥규 교수는 "다양한 변형 시 공통으로 발생하는 픽셀 수준에서의 변형 탐지와 인공지능 기술을 융합한 영상 포렌식 기술을 카이캐치에 담았는데 이 기술은 특히 임의의 환경에서 주어진 디지털사진의 변형 여부를 판단하는데 탁월한 성능을 보인다ˮ고 말했다.
이 교수는 이어 "향후 각종 편집 도구들의 고급 기능들에 대한 광범위한 탐지 기능을 추가하는 한편 현재 확보한 실험실 수준의 딥페이크 탐지 엔진과 일반 비디오 변형 탐지 엔진들도 실용화 수준으로 발전시켜 카이캐치에 탑재하겠다ˮ 고 덧붙였다.
한편 이번 연구는 우리 대학 창업기업인 ㈜디지탈이노텍(http://www.kaicatch.com/) 과 산학협력 연구로 수행됐다.
2020.11.04 조회수 24684