-
1억 1천만 뉴스 댓글서 ‘외국발 여론 흔들기’ 찾는 AI 기술 개발
선거철마다 반복되는 온라인 갈등 뒤에 조직적인 여론 개입이 숨어 있다면 어떨까. 우리 대학 연구진이 20년간 축적된 1억 1,000만 건의 뉴스 댓글을 AI로 분석해, 외국 연계 영향력 활동으로 의심되는 흔적과 그 판단 근거까지 찾아내는 기술을 개발했다.
우리 대학은 문화기술대학원 이원재 교수, 전산학부 차미영 교수(독일 막스플랑크 연구소 단장 겸임), 오혜연 교수 공동연구팀이 막스플랑크 연구소 토르스텐 홀츠 교수와 국제 공동연구를 통해 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 자동으로 탐지하고, 그 판단 근거까지 제시하는 ‘설명 가능한 AI 기술’을 개발했다고 12일 밝혔다.
특정 세력이 댓글이나 게시물을 조직적으로 확산해 사람들의 인식이나 여론에 영향을 미치려는 활동을 ‘온라인 영향력 공작’이라고 한다. 기존 AI 탐지 기술은 특정 계정을 의심 계정으로 분류하더라도 “왜 이 계정을 의심하는가”에 대한 구체적인 근거를 제시하기 어렵다는 한계가 있었다.
연구팀은 이러한 한계를 해결하기 위해 국가안보전략연구원이 앞서 식별한 외국 연계 계정 70개를 출발점으로 삼았다. 이 계정들과 연관되거나 같은 기사에 반복적으로 댓글을 작성한 계정들을 추적해 2006년부터 2025년까지 20년간 네이버 뉴스에 작성된 약 1억 1,000만 건의 댓글을 분석했다.
연구팀이 개발한 AI는 댓글을 단계적으로 분석한다. 먼저 작성자가 외국과 연계됐다고 의심할 만한 표현이나 맥락이 있는지를 살피고, 이어 도덕적 비난이나 맹목적 찬양처럼 사회적 양극화를 키울 수 있는 감정이 나타나는지를 분석한다. 마지막으로 이러한 감정이 어느 국가나 대상을 향하는지 파악한다.
특히 이번 기술의 핵심은 AI가 단순히 ‘의심스럽다’는 결과만 내놓지 않는다는 점이다. AI가 판단을 내리는 데 근거가 된 댓글 속 표현을 함께 제시해 사람이 그 이유를 확인할 수 있도록 했다. 여기에 계정의 활동 빈도와 활동 기간, 다른 의심 계정과의 활동 연관성 등 다양한 행동 패턴을 함께 분석했다.
연구팀은 이를 통해 네이버 뉴스 이용자 약 400만 명 가운데 외국 연계 영향력 활동이 의심되는 계정 2만 3,998개를 식별했다. 분석 과정에서는 이들 의심 계정의 활동에서 주목할 만한 특징도 발견됐다. 특정 정치 진영을 일방적으로 지지하기보다는 한국 사회 내부의 갈등과 대립을 증폭시키는 방향의 메시지가 두드러진 것이다.
실제로 대중의 호응을 많이 얻은 상위 10개 표적 가운데 7개가 국내 유명 정치인으로 나타났다. 특정 정당이나 이념에 집중되지 않고 진보와 보수 양 진영의 전·현직 대통령과 대선 후보, 정당 등이 폭넓게 대상이 됐다.
연구팀은 이러한 결과가 외국 연계 영향력 활동을 단순히 ‘어느 정치 세력을 지지하는가’의 관점만으로 바라봐서는 안 된다는 점을 보여준다고 설명했다. 특정 진영을 직접 지원하기보다 기존의 정치적 갈등을 자극해 사회적 불신과 양극화를 확대하는 방식으로 영향력을 행사할 가능성도 살펴야 한다는 것이다.
이번 연구는 온라인 영향력 활동을 계정 단위의 단순 분류에서 한 단계 더 나아가, 어떤 메시지가 어떤 방식으로 사회적 갈등을 증폭시키는지를 AI가 찾아내고 그 판단 근거까지 제시했다는 데 의미가 있다.
향후 이 기술은 선거 또는 국가적 위기처럼 사회적 관심과 갈등이 급격히 높아지는 시기에 활용될 수 있다. 포털과 모니터링 기관이 대규모 댓글 가운데 우선적으로 살펴봐야 할 계정이나 메시지를 AI로 선별하고, 전문가가 AI가 제시한 근거를 검토해 최종적으로 판단하는 방식이다. 다만 연구팀은 AI가 의심 계정을 자동으로 차단하거나 제재하는 방식보다 전문가의 판단을 지원하는 ‘설명 가능한 콘텐츠 관리 도구’로 활용하는 것이 중요하다고 강조했다.
이원재 교수는 “20년간의 데이터를 분석한 결과, 의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다”며 “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 설명했다.
오혜연 교수는 “AI가 댓글의 표면적인 의미를 넘어 갈등을 유발하는 감정과 계정의 조직적인 행동 패턴까지 함께 분석했다”며 “갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 기대한다”고 말했다.
차미영 교수는 “이번 연구는 데이터 과학을 실제 사회 문제 해결로 연결한 ‘액셔너블 데이터 과학(Actionable Data Science)’의 사례”라며 “디지털 공론장의 투명성과 신뢰를 높이는 실질적인 도구가 되길 기대한다”고 밝혔다.
공동 제1저자인 KAIST 김재홍 박사과정과 김현승 석사과정이 주도한 이번 연구는 컴퓨터 보안 분야 최고 권위 국제학술대회인 ‘USENIX Security Symposium 2026(유즈닉스 시큐리티 심포지엄 2026)’에서 8월 13일 발표될 예정이다.
※ 논문명: Cross-National Information Attacks: A Two-Decade Analysis of Troll Behavior in Korea, DOI: 10.48550/arXiv.2606.22785
이번 연구는 현대차 정몽구 재단과 글로벌 정보보호 고급 인력 양성과제(과학기술정보통신부·정보통신기획평가원, RS-2024-00441762), 중견연구자지원사업(과학기술정보통신부·한국연구재단, RS-2022-00165347), 첨단데이터컴퓨팅연구실 (KAIST, N11250080)의 지원을 받아 수행됐다.
2026.08.12
조회수 2197
-
데이터 속도 맞춰 스스로 반응하는 '카멜레온 AI 반도체' 개발
AI 반도체도 이제‘눈치'를 본다. 기존 AI 반도체는 입력 신호에 반응하는 속도와 정보를 기억하는 시간이 한 번 정해지면 바꿀 수 없는‘고정된 반응 특성'을 가졌지만, 이제는 데이터의 변화 속도에 맞춰 스스로 반응하는 시대가 열렸다. 우리 대학 연구진은 이 기술로 시간에 따라 변하는 데이터의 예측 오류를 기존보다 최대 40배 줄였다. 자율주행차와 로봇, 웨어러블 기기의 실시간 AI 성능을 높일 핵심 원천기술로 기대된다.
우리 대학은 전기및전자공학부·반도체공학대학원 최신현 석좌교수 연구팀이 입력되는 데이터의 변화 속도에 따라 반응 특성을 자유롭게 바꿀 수 있는 새로운 AI 반도체 소자‘프로그래머블 동적 멤트랜지스터(Programmable Dynamic Memtransistor, PDM)'와 이를 집적한 어레이를 개발했다고 7일 밝혔다.
멤트랜지스터(Memtransistor)는 정보를 저장하는 메모리(Memory)와 계산을 수행하는 트랜지스터(Transistor)의 기능을 하나로 결합한 차세대 반도체 소자다. 데이터를 계산하면서도 이전 정보를 기억할 수 있어 입력되는 데이터에 맞춰 반응 속도를 조절할 수 있는 것이 특징이다.
현실 세계의 데이터는 모두 같은 속도로 변하지 않는다. 심장 박동이나 음성처럼 매우 빠르게 변하는 정보가 있는가 하면, 날씨나 공장 설비 상태처럼 천천히 변하는 정보도 있다. 하지만 기존 AI 반도체는 입력 신호에 반응하는 속도와 그 상태를 유지하는 시간(시간 응답 특성)이 고정돼 있어, 서로 다른 속도의 데이터를 동시에 효율적으로 처리하는 데 한계가 있었다.
연구팀은 이러한 문제를 해결하기 위해 전기적 정보를 저장하는 층(전하 저장층)과 전자를 저장해 반도체의 반응 속도를 조절하는 층(전자 포획층)을 하나의 트랜지스터 안에 결합한 새로운 구조를 개발했다.
PDM은 데이터가 입력되면 전하 저장층에서 정보를 처리하고, 전자 포획층이 반도체가 원래 상태로 돌아가는 속도를 조절한다. 마치 운전자가 고속도로에서는 속도를 높이고 골목길에서는 속도를 줄이듯, 반도체도 데이터의 변화 속도에 맞춰 가장 적합한 반응 속도를 스스로 선택한다.
실험 결과 연구팀은 반도체가 입력 신호에 반응한 뒤 원래 상태로 돌아오는 시간을 약 5배 범위에서 조절했으며, 빠르게 반복되는 신호를 처리하는 능력(주파수 특성)도 10배 이상 폭넓게 조절할 수 있음을 확인했다.
특히 빠르게 변하는 정보와 느리게 변하는 정보가 함께 포함된 시계열 데이터(Time-series data, 시간의 흐름에 따라 연속적으로 생성되는 데이터) 예측 실험에서는 기존의 고정형 반도체보다 예측 오류를 최대 40배 줄이는 성능을 보였다.
또한 연구팀은 PDM을 여러 개 연결한 어레이(Array, 동일한 반도체 소자를 일정한 형태로 집적한 구조)를 제작해 실험한 결과, 기존 소프트웨어 기반 AI 시스템과 비슷한 정확도를 유지하면서도 훨씬 적은 에너지로 동작하는 것을 확인했다.
이번 기술은 별도의 복잡한 데이터 전처리 없이도 다양한 속도로 변하는 데이터를 효율적으로 처리할 수 있다. 또한 한 번 설정한 반응 특성은 전원을 계속 공급하지 않아도 유지되는 비휘발성(전원이 꺼져도 정보가 유지되는 특성)을 갖춰 에너지 소비를 줄일 수 있다. 여기에 현재 널리 사용되는 상용 반도체 공정(CMOS 공정)과도 호환돼 대량 생산과 상용화 가능성이 높다는 점에서도 의미가 크다.
최신현 석좌교수는 "이번 연구는 데이터의 변화 속도에 맞춰 반도체가 스스로 가장 적합한 방식으로 반응하는 AI 반도체를 구현한 것”이라며 "자율주행차와 로봇, 웨어러블 기기 등 다양한 AI 기기의 성능은 높이고 전력 소모는 줄이는 핵심 기술이 될 것으로 기대한다”고 말했다.
이번 연구는 KAIST 반도체공학대학원 김대원 박사과정이 제1저자로 참여했으며, 조윤호, 서석호, 김유진, 박시온, 장태환, 박채빈이 공동저자로 참여했다. 또한 삼성전자 반도체연구소 오영택 연구원과 이재덕 Fellow가 공동저자로 참여했으며, 최신현 교수가 교신저자를 맡았다. 연구 결과는 세계적인 권위의 국제학술지 ‘네이처 커뮤니케이션스(Nature Communications)’에 7월 게재됐다.
※논문명: Programmable memtransistor array with temporal dynamics modulation for efficient time-series data processing,
DOI : https://doi.org/10.1038/s41467-026-75211-5
본 연구는 과학기술정보통신부 한국연구재단 신소자원천기술개발사업, 정보통신기획평가원 ETRI연구개발지원사업, 산업통상자원부 한국산업기술진흥원(KIAT) 산업혁신인재성장지원사업, 삼성전자 등의 지원을 받아 수행되었다.
2026.08.07
조회수 1096
-
AI 데이터센터 시대 '거대한 배터리' 상용화 앞당긴다
폭발적으로 늘어나는 AI 데이터센터 시대를 뒷받침할‘거대한 배터리'의 상용화가 한층 가까워졌다. 우리 대학 연구진이 대용량 배터리의 핵심 소재 생산 시간을 67% 줄이는 공정 기술을 개발해 상용화의 가장 큰 생산 병목을 해결했다.
우리 대학은 생명화학공학과 김희탁 교수 연구팀이 대용량 에너지저장장치(ESS)의 유력 후보인 바나듐 레독스 흐름전지(VRFB)의 핵심 전해질을 빠르고 안정적으로 생산하는 공정을 개발했다고 5일 밝혔다.
최근 24시간 끊임없이 가동되는 AI 데이터센터가 급증하면서 태양광과 풍력 등 재생에너지로 생산한 전기를 대량으로 저장했다가 필요할 때 안정적으로 공급하는 대용량 ESS의 중요성이 커지고 있다.
특히 바나듐 레독스 흐름전지는 화재 위험이 거의 없고, 전해질을 담는 탱크만 크게 만들면 저장 용량도 쉽게 늘릴 수 있어 AI 데이터센터와 재생에너지용 초대형 배터리로 주목받고 있다. 그러나 배터리의‘연료' 역할을 하는 바나듐 전해질을 최적 상태(V3.5+)로 만드는 과정이 오래 걸리고 비용도 많이 들어 상용화의 가장 큰 걸림돌이었다.
기존 공정은 먼저 화학적 환원(환원제를 이용해 바나듐 이온이 전자를 얻도록 하는 화학 반응)으로 전해질을 만든 뒤, 전기화학적 환원(전기를 흘려 바나듐 이온의 전자 상태를 원하는 수준으로 조절하는 공정)을 거쳐 최종 전해질을 생산했다. 그러나 마무리 단계인 전기화학적 환원은 시간이 오래 걸리고 비용이 많이 드는 공정으로, 대량 생산과 상용화의 가장 큰 걸림돌이었다.
연구팀은 화학 반응으로 전해질을 만드는 과정이 고속도로를 달리다 갑자기 병목 구간에서 차량이 막히는 것처럼, 특정 단계에서 반응 속도가 급격히 느려진다는 사실을 세계 최초로 밝혀냈다. 바나듐 전해질이 배터리 구동에 최적화된 상태(V3.5+)로 변해가는 중간 단계인 평균 산화수(바나듐 이온이 전자를 잃은 정도를 나타내는 값)가 약 +4.1인 지점이 바로 그 병목 구간이었다.
연구팀은 이 병목 구간에서 시간이 오래 걸리던 기존의 전기화학적 환원 공정 대신, 백금-탄소(Pt/C) 촉매를 이용한 촉매 환원 공정을 적용하도록 생산 공정을 설계했다. 마치 자동차가 정체된 도로에서 더 빠른 우회도로를 이용하듯, 가장 시간이 오래 걸리던 마지막 공정만 더 효율적인 방식으로 바꾼 것이다.
그 결과 바나듐 레독스 흐름전지(VRFB)에서 전기 에너지를 저장하는 핵심 소재인 V3.5+전해질의 생산 시간이 기존보다 67% 단축됐다. 또한 공정 중 남아 배터리 성능을 떨어뜨릴 수 있는 잔류 옥살산(불순물)도 함께 제거됐으며, 같은 촉매를 2,500회 이상 반복 사용해도 성능 저하 없이 안정적으로 전해질을 생산할 수 있음을 확인해 실제 산업 현장에서도 활용 가능성을 입증했다.
김희탁 교수는 "이번 연구는 대용량 배터리 상용화의 가장 큰 숙제였던 전해질 생산 과정을 반응공학적으로 정밀 분석해 새롭게 설계한 성과”라며 "촉매가 전해액 환경에서 손상되지 않고 안정적으로 작동하는 조건을 과학적으로 규명해 산업 현장의 생산 병목을 해결한 만큼 대용량 에너지저장 기술의 상용화를 크게 앞당길 것으로 기대한다”고 말했다.
이번 연구는 KAIST 생명화학공학과 석경화 박사과정이 제1저자로 연구를 주도했으며, 연구 결과는 에너지 분야 세계적 권위의 국제학술지인‘어드밴스드 에너지 머티리얼즈(Advanced Energy Materials)’에 5월 7일 온라인 게재됐다. 특히 연구의 학술적 중요성을 인정받아 34호(Issue 34)의 표지논문으로 선정됐으며, 해당 호는 9월 초 온라인 공개될 예정이다.
※ 논문명 : Streamlined V3.5+ Eectrolyte Production by Leveraging Chemical and Catalytic Reductions, DOI: https://doi.org/10.1002/aenm.71029, ※ 저자 정보 : 석경화 (KAIST, 제1 저자), 강민성 (KAIST, 제2 저자) 및 김희탁 (KAIST, 교신저자)
한편 이번 연구는 롯데케미칼의 지원을 받아 수행됐다.
2026.08.05
조회수 985
-
AI가 택배 배송·인력 배치까지 스스로 짠다...‘실행 가능한 계획’ 만드는 기술 개발
택배 배송과 공장 생산계획, 병원 근무표까지. 앞으로는 인공지능(AI)이 현실의 모든 조건을 고려해‘실제로 실행 가능한 계획'을 스스로 만드는 시대가 열린다. 우리 대학 연구진이 외부 전문 최적화 프로그램의 도움 없이 AI가 스스로 실행 가능한 계획을 만드는 기술을 개발했다.
우리 대학은 전산학부 김민수 교수 연구팀이 외부의 전문 최적화 프로그램(솔버, Solver·복잡한 최적화 문제의 정답을 자동으로 계산하는 프로그램) 없이도 AI가 스스로 실행 가능한 계획을 만들도록 학습하는 강화학습(Reinforcement Learning·시행착오를 반복하며 더 나은 선택을 배우는 AI 학습 방식) 기술‘RL-SPH(Reinforcement Learning-based Start Primal Heuristic)'를 개발했다고 3일 밝혔다.
이번 기술은 AI가 현실의 여러 제약조건을 스스로 만족하는 계획을 만들어낼 수 있도록 한 것이 핵심이다. 향후 물류와 제조, 반도체 생산, 인력 운영 등 다양한 산업 분야에서 AI 기반 의사결정을 구현하는 핵심 기술이 될 것으로 기대된다.
물류 배송과 차량 경로 탐색, 공장 생산 일정, 병원 근무표 작성은 모두 여러 조건을 만족하면서 가장 효율적인 계획을 찾아야 하는 대표적인 정수선형계획법(ILP, Integer Linear Programming·여러 조건을 만족하는 최적의 계획을 찾는 계산 기법) 문제다. 예를 들어 택배 배송은 배송 시간을 줄이는 것뿐 아니라 차량 적재량과 기사 근로시간을 지키고 모든 배송지를 빠짐없이 방문해야 한다. 조건 하나만 어겨도 아무리 빠른 경로라도 실제로 사용할 수 없다.
기존 AI는 비용이 적게 드는 계획을 제안하더라도 차량 적재량이나 근로시간 같은 현실의 조건을 위반하는 경우가 많았다. 결국 Gurobi나 SCIP 같은 전문 솔버가 마지막으로 오류를 수정해야 했기 때문에 AI만으로는 완전한 해결이 어려웠다.
연구팀이 개발한 RL-SPH는 처음부터 정답을 예측하는 대신 사람이 계획을 하나씩 고쳐 나가듯 현재 계획을 단계적으로 수정한다. 변수(인원 수, 차량 수, 생산량처럼 조정 가능한 값)를 하나씩 바꾸며 제약조건(반드시 지켜야 하는 현실의 조건)을 해결하고, 그 결과를 학습해 점점 더 나은 계획을 만들어간다.
특히 연구팀은‘가장 좋은 계획'보다‘실제로 사용할 수 있는 계획'을 먼저 찾도록 AI를 설계했다. 예를 들어 공장에서는 먼저 납기일과 설비 용량, 작업 인력 등 모든 조건을 만족하는 생산계획을 만든 뒤, 그 상태를 유지하면서 생산비와 시간을 줄여나가는 방식이다. 이를 위해 먼저 실행가능해(모든 제약조건을 만족해 실제 사용할 수 있는 계획)를 찾고, 이후 비용과 시간을 줄이는 2단계 탐색 전략을 적용했다.
또한 변수와 제약조건의 관계를 학습하는 새로운 AI 모델‘ILP-GT'와, 문제 해결에 가장 효과적인 변수부터 우선 수정하는 실행가능성 인식 탐색 전략을 적용해 계산 효율도 크게 높였다.
연구팀은 대표적인 5종의 벤치마크에서 RL-SPH를 평가한 결과 모든 문제에서 100%의 실행가능해를 찾는 데 성공했다. 일반 정수 변수가 포함된 더욱 복잡한 문제에서도 같은 성능을 유지했다.
기존 기술과 비교하면 최적해와의 차이를 나타내는 프라이멀 갭(Primal Gap)은 평균 28.6배, 탐색 과정 전체의 품질과 속도를 평가하는 프라이멀 인터그럴(Primal Integral)은 2.6배 개선됐다. 또한 처음으로 실행 가능한 계획을 찾는 시간도 평균 2.5배 빨라졌다.
PAS, DDIM, DiffILO 등 최신 AI 기술과 비교한 결과에서도 RL-SPH만이 모든 벤치마크에서 실행 가능한 계획을 100% 찾아냈다. 학습 시간도 평균 30분으로 기존 기술보다 14.7배, 최근 비지도학습(정답을 미리 알려주지 않고 데이터에서 스스로 규칙을 찾는 AI 학습 방식) 기반 기술보다 약 34배 빨랐다.
특히 산업계와 학계에서 널리 사용하는 국제 최적화 벤치마크인 MIPLIB(Mixed Integer Programming Library)에서도 높은 범용성을 입증했다. 기존보다 최대 67배 큰 문제는 물론, 학습 과정에서 한 번도 접하지 못한 새로운 형태의 문제에서도 실행 가능한 계획을 안정적으로 찾아냈다.
김민수 교수는 "현실에서는 가장 좋은 답보다 실제로 실행할 수 있는 계획이 더 중요하다”며 "이번 연구는 전문 최적화 프로그램의 도움 없이 AI가 스스로 실행 가능한 계획을 만들 수 있음을 보여준 성과로, 앞으로 물류와 제조, 반도체 생산, 인력 운영 등 다양한 산업 현장에서 AI 기반 의사결정을 구현하는 핵심 기술이 될 것으로 기대한다”고 말했다.
이번 연구는 KAIST 전산학부 이태훈 박사과정이 제1 저자로 참여했으며, 김민수 교수가 교신저자를 맡았다. 연구 결과는 7월 6일부터 11일까지 개최된 세계 최고 권위의 기계학습 국제 학술대회인 ‘국제 기계학습 학회(ICML, International Conference on Machine Learning)’에서 발표됐다.
※ 논문명: RL-SPH: Learning to Achieve Feasible Solutions for Integer Linear Programs, DOI: https://doi.org/10.48550/arXiv.2411.19517
※ 저자정보: 이태훈(KAIST, 제1 저자), 김민수(KAIST, 교신저자)
한편, 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)의 SW스타랩 및 대학ICT연구센터(ITRC) 사업, 한국연구재단의 지원을 받아 수행됐다.
2026.08.03
조회수 835
-
AI가 '안 들리는데 들린다' 우기는 시대 끝낸다
AI가 ‘안 들리는데 들린다’, ‘없는데 있다’고 우기는 시대가 끝난다. 우리 대학 연구진이 AI가 여러 감각 정보를 스스로 구분하고 존재하지 않는 정보를 만들어내는 ‘환각’을 줄이는 핵심 기술을 개발했다. 자율주행차와 로봇, 의료 AI 등 실제 산업 현장에서 더욱 신뢰할 수 있는 멀티모달 AI 구현의 기반이 될 것으로 기대된다.
우리 대학은 전기및전자공학부 노용만 교수 연구팀이 멀티모달 대형 언어모델(MLLM, 텍스트와 이미지·소리 등 여러 정보를 함께 이해하는 AI)의 감각 혼선을 줄이는 두 가지 핵심 기술을 개발했다고 31일 밝혔다. 이번 기술은 카메라와 다양한 센서의 특성을 정확히 이해하도록 하는 기술과 시각·청각 정보가 뒤섞이면서 발생하는 환각을 줄이는 기술로, 별도의 대규모 재학습 없이도 AI의 신뢰성을 크게 높였다.
연구팀이 개발한 첫 번째 기술은 AI가 열화상(Thermal, 물체가 내는 열을 영상으로 보여주는 센서), 깊이 영상(Depth, 물체까지의 거리를 측정하는 센서), 엑스레이(X-ray) 등 다양한 센서가 담고 있는 물리적 의미를 정확하게 이해하도록 돕는 ‘센서 이해 AI’기술(DNA, Diverse Negative Attributes) 최적화 기법이다.
사람은 열화상 화면에서 밝게 보이는 부분이 ‘뜨거운 곳’이라는 것을 알지만, 기존 AI는 이를 일반 사진처럼 해석해 단순한 빛으로 착각하기도 했다. 연구팀은 AI가 열과 거리 등 센서가 측정하는 물리 정보를 이해하도록 새로운 학습 기술을 개발했다. AI가 자주 틀리는 사례를 반복적으로 학습하게 한 결과, 어둠이나 연기 속에서도 사물을 더욱 정확하게 인식할 수 있게 됐다.
두 번째 기술은 시각과 청각 정보가 서로 영향을 주면서 발생하는 환각을 줄이는 ‘감각 혼선 방지' 기술(MAD, Modality-Adaptive Decoding) 기술이다.
예를 들어 CCTV 영상에 자동차가 지나가는 장면이 담겨 있지만 실제로는 소리가 녹음되지 않았을 때, 기존 멀티모달 AI는 자동차가 보인다는 이유만으로‘엔진 소리가 들린다’고 답하는 경우가 있었다. 연구팀은 AI가 먼저 ‘이번 질문은 영상을 보고 판단해야 하는지, 소리를 듣고 판단해야 하는지’를 스스로 구분한 뒤, 더 중요한 감각 정보에 집중하도록 만들었다. 이를 통해 AI를 처음부터 다시 학습시키지 않고도(Training-free) 이러한 감각 혼선과 환각을 효과적으로 줄였다.
또한 연구팀은 AI를 막대한 컴퓨팅 자원으로 처음부터 다시 학습시키는 대신, DNA 기술은 적은 데이터만으로 다양한 센서를 이해하도록 성능을 높이고, ‘감각 혼선 방지' 기술(MAD)은 기존 AI에 프로그램을 추가하듯 바로 적용할 수 있도록 설계했다. 따라서 시간과 비용을 크게 줄이면서도 기존 멀티모달 AI의 신뢰성을 높일 수 있어 산업 현장에 빠르게 적용할 수 있다.
이번 기술은 밤이나 안개 속에서도 보행자와 차량을 정확히 인식해야 하는 자율주행차, 연기로 앞이 보이지 않는 화재 현장에서 생존자를 찾는 구조 로봇, 열화상 카메라를 이용하는 드론 등에 활용될 수 있다. 또한 공항 보안검색에서 엑스레이 영상을 분석하거나, 병원에서 CT·MRI·엑스레이 등 여러 의료영상을 함께 분석하는 AI의 정확성과 신뢰성을 높이는 데도 기여할 것으로 기대된다.
노용만 교수는 "멀티모달 AI가 실제 환경에서 사용되기 위해서는 다양한 센서의 특성을 정확히 이해하고 여러 감각 정보를 혼동하지 않는 것이 중요하다”며 "이번 연구는 대규모 재학습 없이도 AI의 감각 편향과 환각을 줄여 실제 생활과 산업 현장에서 믿고 사용할 수 있는 멀티모달 AI의 기반을 마련했다”고 말했다.
이번 성과는 KAIST 전기및전자공학부 정상윤 박사과정이 두 기술 연구 모두 제1 저자로 참여해 연속성을 빛냈으며, 유영준 박사가 ‘센서 이해 AI' 기술(DNA) 연구에 공동 제1 저자로 참여했다.
관련 논문 중 ‘감각 혼선 방지' 기술(MAD) 연구는 인공지능 컴퓨터 비전 분야 최고 권위 국제학회인 ‘국제 컴퓨터 비전 및 패턴인식 학술대회(CVPR)’에 지난 6월 발표되었다. 또한 ‘센서 이해 AI' 기술(DNA) 연구는 영상처리 분야 최고 국제 학술지인 ‘IEEE Transactions on Image Processing’에 게재가 되었다.
※ 논문명: Enhanced Vision-Language Models for Diverse Sensor Understanding: Cost-Efficient Optimization and Benchmarking, DOI:10.48550/arXiv.2412.20750
※ 저자 정보: 정상윤 (KAIST, 공동 제1 저자), 유영준 (KAIST, 공동 제1 저자), 김세연 (KAIST, 제3 저자), 지영채 (KAIST, 제4 저자), 노용만(KAIST, 교신저자)
※ 논문명: MAD: Modality-Adaptive Decoding for Mitigating Cross-Modal Hallucinations in Multimodal Large Language Models, DOI:10.48550/arXiv.2601.21181
※ 저자 정보: 정상윤 (KAIST, 제1 저자), 김세연 (KAIST, 제2 저자), 지영채 (KAIST, 제3 저자), 노용만(KAIST, 교신저자)
한편, 이번 연구는 정보통신기획평가원(IITP) 사람중심인공지능 핵심원천기술 개발사업과 국방과학연구소 인공지능 특화연구센터(CARAI) 과제 등의 지원을 받아 수행되었다.
2026.08.03
조회수 791
-
AI 스스로 숨은 약점 찾는다…더 안전한 생성형 AI 만든다
튼튼한 성을 만들려면 먼저 약한 곳을 찾아야 한다. 생성형 인공지능(AI)도 마찬가지다. 우리 대학 연구진이 AI의 숨은 취약점을 기존보다 약 7배 더 다양하게 찾아내는 안전성 검증 기술을 개발했다. 더욱 안전하고 신뢰할 수 있는 AI 개발의 기반이 될 것으로 기대된다.
우리 대학은 전기및전자공학부 김준모 교수 연구팀이 대규모 언어모델(Large Language Model, LLM)의 안전성을 검증하는 레드팀(Red Teaming, AI를 의도적으로 공격해 취약점을 찾는 안전성 검증 과정) 기술의 한계를 극복한 새로운 프레임워크 ‘스테이블-지플로우넷(Stable-GFlowNet)'을 개발했다고 30일 밝혔다.
생성형 AI의 레드팀(Red Teaming)은 프로그램을 배포하기 전에 AI가 유해하거나 위험한 답변을 하도록 유도하는 공격 프롬프트(Attack Prompt, AI의 취약점을 시험하기 위한 질문)를 만들어 숨은 약점을 찾아내는 과정이다. 가능한 한 다양한 공격 방법을 찾아낼수록 더 많은 취약점을 사전에 제거할 수 있어, 공격 성공률과 공격 다양성이 모두 중요하다.
기존에는 강화학습(Reinforcement Learning, 보상을 최대화하도록 학습하는 AI 기법)을 이용해 공격 프롬프트를 생성하는 방식이 주로 사용됐다. 하지만 가장 성공률이 높은 한두 가지 공격 방법만 반복적으로 생성하는 모드 붕괴(Mode Collapse, 다양한 결과 대신 일부 결과에만 치우치는 현상)가 자주 발생해 여러 유형의 취약점을 충분히 찾지 못하는 한계가 있었다.
이를 해결하기 위해 생성 흐름 네트워크(Generative Flow Network, GFlowNet, 보상에 비례해 다양한 결과를 생성하도록 학습하는 AI 생성 기술)가 제안됐지만, 학습 과정에서 계산이 복잡하고 불안정하며 의미 없는 문장에도 높은 보상이 주어져 성능이 쉽게 무너지는 문제가 있었다.
연구팀은 이러한 문제를 해결하기 위해 좋은 공격은 더 잘 배우고, 잘못된 공격은 걸러내는 세 가지 핵심 기술을 개발했다.
첫째, 여러 길 가운데 더 나은 길을 비교해 선택하듯, 대조 궤적 균형(Contrastive Trajectory Balance, CTB) 기법을 도입해 계산이 복잡한 과정을 줄이고 학습을 안정화했다.
둘째, 시끄러운 환경에서도 필요한 목소리만 골라 듣듯, 노이즈 경사 가지치기(Noise Gradient Pruning, NGP)를 적용해 불필요한 잡음은 제거하고 중요한 정보만 학습하도록 했다.
셋째, 횡설수설하는 말보다 자연스러운 문장을 우선 평가하듯 유창성 안정화 장치(MKS)를 적용해 사람이 실제 사용할 법한 공격 프롬프트를 생성하도록 유도했다.
그 결과 연구팀이 개발한 스테이블-지플로우넷(Stable-GFlowNet)은 기존 기술이 찾아낸 17개의 고유 공격 유형보다 약 7배 많은 134개의 공격 유형을 발굴하면서도 92%의 높은 공격 성공률을 유지했다.
또한 스테이블-지플로우넷으로 학습한 방어 모델은 서로 다른 공격 기법을 이용해 평가하는 교차 공격(Cross Attack) 시험에서도 다양한 공격을 효과적으로 방어하며 우수한 일반화 성능을 입증했다.
이번 기술은 AI 안전성 검증뿐 아니라 신약 후보 물질을 생성하는 분자 생성(Molecular Generation) 등 다양한 분포 매칭(Distribution Matching) 문제에서도 기존보다 빠르고 안정적인 성능을 보여 범용적으로 활용될 가능성도 확인했다.
김준모 교수는 “이번 기술은 적은 데이터와 잡음이 많은 현실적인 환경에서도 AI의 다양한 취약점을 안정적으로 찾아낼 수 있다는 점에서 의미가 크다”며 “생성형 AI를 실제 서비스에 적용하기 전에 더 폭넓은 위험 요소를 찾아내고 방어할 수 있어, 더욱 안전하고 신뢰할 수 있는 AI 개발의 핵심 기반기술이 될 것으로 기대한다”고 말했다.
이번 연구는 KAIST 전기및전자공학부 권민찬 박사과정이 제1저자로 참여했으며, 인공지능 분야 세계 최고 권위 학회인 '국제머신러닝학회(ICML) 2026'에서 상위 2.2%에 해당하는 스포트라이트(Spotlight) 논문으로 선정되는 쾌거를 이뤘다.
※ 논문명: Stable-GFlowNet: Toward Diverse and Robust LLM Red-Teaming via Contrastive Trajectory Balance,DOI : https://arxiv.org/abs/2605.00553
한편, 이번 연구는 과학기술정보통신부 정보통신기획평가원 SW스타랩 사업의 지원을 받아 수행됐다.
2026.07.30
조회수 948
-
국내 유일 Microsoft AI 안전성 연구 프로그램 선정
생성형 AI가 산업과 사회 전반으로 빠르게 확산되면서 AI의 안전성과 보안성을 확보하는 기술이 새로운 핵심 경쟁력으로 떠오르고 있다. 우리 대학이 국내에서는 유일하게 Microsoft(마이크로소프트)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다.
우리 대학은 전산학부 손수엘 교수가 국내에서는 유일하게 Microsoft AI Red Team(마이크로소프트 AI 레드팀)이 운영하는 글로벌 AI 안전성 연구 프로그램 ‘EXTRA(External Red Team Alliance, 외부 레드팀 연합)'의 연구지원 대상자로 선정됐다고 28일 밝혔다.
EXTRA는 Microsoft AI Red Team이 올해 새롭게 출범한 글로벌 연구지원 프로그램으로, AI 시스템의 안전성과 보안 취약점을 다양한 관점에서 검증하고 독립적인 AI 안전성 연구 생태계를 확대하기 위해 마련됐다. AI 안전성 평가를 기업 내부에만 맡기지 않고 전 세계 대학과 연구기관으로 확대했다는 점에서 의미가 크다.
Microsoft는 AI 시스템이 고도화될수록 사이버보안(Cybersecurity), 다국어 환경(Multilingual Environment), 지역·문화적 맥락, AI 정렬(Alignment, 인공지능이 인간의 의도와 가치에 맞게 동작하도록 만드는 기술), 악용 가능성 등 다양한 분야의 전문성을 종합적으로 검증해야 하지만, 하나의 조직만으로는 이러한 위험을 충분히 평가하기 어렵다고 판단해 EXTRA를 출범시켰다.
이번 선정에 따라 KAIST는 Microsoft로부터 AI 안전성, 보안, AI 정렬(Alignment) 및 책임 있는 AI(Responsible AI) 개발 연구를 위한 미화 2만5천 달러(한화 약 3,700만 원) 규모의 연구지원금을 받는다. 이번 지원은 연구과제 수행 기간을 별도로 정하지 않는‘기프트 어워드(Gifted Award)' 형태로 제공되며, 해당 연구비는 손수엘 교수 연구팀의 AI 보안 및 안전성 연구에 활용될 예정이다.
EXTRA에는 KAIST를 비롯해 전 세계 6개 대륙 10여개가 넘는 대학이 참여하며, 국내에서는 KAIST가 유일하다. Microsoft는 이번 프로그램을 통해 독립적인 AI 안전성 연구 생태계를 확대하고 학계와 산업계 간 협력을 강화해 나갈 계획이다.
손수엘 교수 연구팀은 생성형 AI와 대규모 언어모델(LLM, Large Language Model) 기반 AI 시스템의 보안과 개인정보 보호 기술을 연구하고 있다. 특히 모델 탈취(Model Stealing), 멤버십 추론(Membership Inference), 개인정보 추출(Information Extraction), 모델 전도(Model Inversion), 탈학습(Unlearning), 프롬프트 주입(Prompt Injection) 등 심층신경망과 언어모델을 대상으로 한 다양한 적대적 공격 기법을 분석해 AI 시스템의 취약점을 평가하고, 이를 방어하는 기술을 개발하고 있다.
또한 이러한 연구를 기반으로 웹 에이전트(Web Agent)와 에이전틱 브라우저(Agentic Browser) 등 실제 서비스 환경에서 운영되는 AI 에이전트가 안전하고 신뢰성 있게 동작할 수 있도록 하는 시스템 수준의 방어 기술도 연구하고 있다.
손수엘 교수는 "AI 시스템이 사회 전반에 빠르게 확산되면서 성능뿐 아니라 안전성과 신뢰성을 확보하는 것이 무엇보다 중요해지고 있다”며 "이번 Microsoft AI Red Team의 EXTRA 참여를 계기로 실제 AI 서비스 환경에서 발생할 수 있는 다양한 보안 위협을 체계적으로 분석하고, 누구나 안심하고 활용할 수 있는 AI 기술 개발에 기여하겠다”고 말했다.
Microsoft AI Red Team을 이끄는 램 샹카르 시바 쿠마르(Ram Shankar Siva Kumar)는 "AI 안전성 연구는 그 어느 때보다 중요해졌으며 대학은 이 분야를 발전시키는 데 핵심적인 역할을 하고 있다”며 "EXTRA를 통해 점점 더 강력해지는 AI 시스템을 어떻게 평가하고 보호하며 책임감 있게 관리할 수 있는지에 대한 이해를 높이는 연구자들을 지원하고자 한다”고 밝혔다.
배충식 KAIST 총장은 "AI 기술 경쟁은 이제 성능을 넘어 안전성과 신뢰성을 확보하는 경쟁으로 확대되고 있다"며 "KAIST가 국내 유일의 연구기관으로 Microsoft의 글로벌 AI 안전성 연구 네트워크에 참여하게 된 것은 우리나라 AI 연구 경쟁력을 보여주는 의미 있는 성과"라고 말했다. 이어 "앞으로도 세계 최고 수준의 AI 보안 및 안전성 연구를 통해 누구나 신뢰하고 활용할 수 있는 책임 있는 AI 기술 발전을 선도해 나가겠다”고 밝혔다.
2026.07.28
조회수 1314
-
아이처럼 세상의 원리 스스로 배우는 AI 월드모델 개발..ICML 2026 최우수논문상
AI에게 변화 전과 변화 후만 보여줬더니, 다음을 예측하는 것을 넘어 왜 그렇게 변했는지 스스로 원리를 찾아 이해하는 AI가 등장했다. 우리 대학 연구진이 관측만으로 세계의 작동 원리를 스스로 이론화하는 차세대 월드모델(World Model, AI가 세상을 이해하고 예측하기 위해 내부적으로 만드는 세계 모델) 기술을 개발했다.
우리 대학은 전산학부 안성진 교수 연구팀이 AI가 관측한 정보만으로 세계의 작동 원리를 스스로 이론화하도록 하는 새로운 학습 패러다임‘이론화 학습(L2T, Learning-to-Theorize)’을 제안하고, 이를 구현한 신경망 기반 이론 생성 모델 ‘NEO(Neural Theorizer, 네오)’를 개발했다고 27일 밝혔다.
이번 연구는 지난 7월 9일 서울에서 열린 세계 최고 권위의 인공지능 학회 제43회 국제기계학습학회(ICML 2026, International Conference on Machine Learning)에서 구두발표(Oral) 논문으로 선정됐다. 이는 전체 투고 논문 23,918편 가운데 상위 0.7%(168편)에 해당하는 성과다. 또한 구성적 학습 워크숍(Compositional Learning Workshop)에서는 최우수논문상(Best Paper Award)을 수상했다.
인공지능의 월드모델(World Model)은 로봇 제어와 자율주행, 생성형 AI, 자율 에이전트(스스로 판단하고 행동하는 AI) 등 다양한 분야의 핵심 기반기술이다. 지금까지의 월드모델은 주로‘다음에 무엇이 일어날지'를 예측하는 데 초점을 맞춰 왔다. 하지만 다음 장면을 잘 예측하더라도 왜 그런 변화가 일어났는지, 즉 세상의 작동 원리까지 이해하지는 못한다는 한계가 있었다.
연구팀은 이러한 한계를 인간의 학습 방식에서 해결책을 찾았다. 사람은 말을 배우기 전 어린 시절부터 세상이 어떻게 움직이는지에 대한 내부 이론을 스스로 만들며 세상을 이해한다. 연구팀은 이러한 발달인지과학의 관점을 인공지능에 적용해, 미래를 예측하는 AI가 아니라 세상의 원리를 스스로 이해하는 AI를 구현했다.
연구팀이 제안한 L2T(Learning-to-Theorize)는 정답이나 규칙을 미리 알려주지 않는다. 오직‘변화 전'과‘변화 후'의 관측 결과만 제시하면 AI가 그 사이에서 어떤 규칙이 작동했는지를 스스로 찾아낸다. 즉, 기존 AI가‘다음을 맞히는 것'에 집중했다면, 이번 AI는‘왜 그런 변화가 일어났는지'를 이해하도록 만든 것이 핵심이다.
이를 구현하기 위해 연구팀은 NEO(Neural Theorizer, 신경망 기반 이론 생성 모델)도 함께 개발했다. NEO는 관측된 변화 속에 숨어 있는 규칙을 스스로 찾아 이를 실행 가능한 형태의 규칙으로 정리한다. 이렇게 만들어진 규칙은 새로운 상황에서도 자유롭게 조합해 활용할 수 있다.
예를 들어 NEO는 회전(Rotate), 이동(Left·Down), 색칠(Paint)과 같은 기본 규칙을 각각 독립적으로 스스로 학습한다. 이후 학습 과정에서 한 번도 보지 못했던 새로운 조합인‘아래로 이동한 뒤 색을 칠하고 회전하는' 작업이 주어져도, 이미 익힌 기본 규칙들을 조합해 새로운 상황을 설명하고 해결할 수 있다.
반면 기존 AI는 여러 규칙이 섞인 패턴 자체를 통째로 외우는 방식이어서 처음 보는 새로운 조합이 등장하면 성능이 크게 떨어졌다. 연구팀은 다양한 실험을 통해 이번 기술이 구성적 일반화(Compositional Generalization, 기존에 배운 기본 규칙을 조합해 처음 보는 문제까지 해결하는 능력)에서 기존 방식보다 뛰어난 성능을 보였음을 입증했다.
안성진 교수는 "이번 연구는 인공지능(AI)의 세계 이해를 단순한 미래 예측에서 세상의 작동 원리를 스스로 설명하는 단계로 확장한 첫걸음”이라며 “예측 중심의 월드모델을 넘어‘월드 시어리 모델(World Theory Model)'이라는 새로운 방향을 제시했다. 앞으로 지능형 로봇과 자율 에이전트는 물론 과학적 발견을 지원하는 AI 등 다양한 분야의 핵심 기술로 발전할 것으로 기대한다”고 말했다.
이번 연구는 전산학부 백두진 석사과정과 이규빈 석사과정이 공동 제1저자로 참여하였다.
※ 논문명: Learning to Theorize the World from Observation, 논문 링크: https://arxiv.org/abs/2605.03413
※ 저자: Doojin Baek*, Gyubin Lee*, Junyeob Baek, Hosung Lee, Sungjin Ahn (*공동 제1저자) 한편, 해외우수과학자유치사업과 해외우수연구기관 협력허브 구축사업(과기부, 한국연구재단)의 지원을 받아 수행됐다.
2026.07.27
조회수 1676
-
'물리 세계 이해하는 AI' 세계 최고…ICML 2026 국제 AI 챌린지 우승
그림과 글을 함께 이해해 물리 법칙을 적용하고 스스로 추론하는 인공지능(AI)이 항공기와 로봇 등 실제 물리 세계를 설계하는 시대가 한 걸음 가까워졌다. 우리 대학 연구팀이 세계 최고 권위의 인공지능(AI)·기계학습(Machine Learning, 기계학습) 학회인 국제머신러닝학회(ICML) 국제 챌린지에서 세계 정상에 오르며 이 같은 기술력을 입증했다.
우리 대학은 AX학과 문일철 교수 연구팀이 국제머신러닝학회(ICML, International Conference on Machine Learning, 국제머신러닝학회) 2026의 공식 워크숍인 ‘AI4Math Workshop(AI for Mathematics Workshop, AI 기반 수학·과학 추론 워크숍)’이 개최한 ‘시각적으로 정의된 물리 문제 풀기(Visual Grounded Physics Problem Solving)’ 국제 챌린지에서 우승했다고 23일 밝혔다.
이번 챌린지는 지난 5월 1일부터 6월 16일까지 진행됐으며, ETH 취리히(ETH Zurich), 푸단대(Fudan University), 상하이 이노베이션 연구소(Shanghai Innovation Institute) 등 세계 유수 연구기관을 포함한 139개 참가팀이 경쟁했다. 연구팀은 최종 평가에서 가장 높은 성적을 거두며 우승을 차지했으며, 7월 11일 서울에서 열린 ICML 공식 시상식에서 1등상을 수상했다.
이번 대회는 그림과 텍스트로 제시된 물리 문제를 이해한 뒤, 물리 법칙을 적용해 정답뿐 아니라 풀이 과정까지 생성하는 AI의 추론 능력을 평가하는 국제 챌린지다.
참가 AI는 멀티모달(Multimodal, 텍스트·이미지 등 서로 다른 형태의 정보를 동시에 이해하는 기술) 정보를 통합하고, 뉴턴 역학 등 물리 법칙을 적용해 논리적으로 문제를 해결해야 한다. 단순 계산 능력이 아니라 복잡한 물리 현상을 이해하고 추론하는 능력을 평가하는 것이 특징이다.
이는 AI가 시험 문제를 푸는 수준을 넘어 실제 물리 환경을 이해하고 설계·운용을 최적화할 수 있는 가능성을 보여주는 성과다. 향후 항공기와 로봇, 자율주행, 우주 시스템 등 다양한 분야에서 실제 물리 환경을 고려한 설계와 의사결정을 수행하는 차세대 AI 기술로 활용될 것으로 기대된다.
이번 연구에는 산업및시스템공학과 곽지석 박사과정 학생을 비롯한 총 5명의 KAIST 응용인공지능연구실(AAILab) 연구진이 참가했다. 연구팀은 여러 AI 파운데이션 모델(Foundation Model, 대규모 데이터를 학습해 다양한 작업에 활용할 수 있는 범용 AI 모델)을 각각 독립적인 에이전틱 AI(Agentic AI, 스스로 계획을 세우고 여러 단계를 수행하며 문제를 해결하는 AI)로 구성한 뒤, 서로 답을 검증하고 토론하는 멀티에이전트 AI(Multi-Agent AI, 여러 AI 에이전트가 협업하며 문제를 해결하는 방식) 구조를 개발했다.
이를 통해 개별 AI의 오류를 줄이고 추론의 신뢰성을 높여 세계 최고 성능을 달성했으며, 복잡한 물리 현상에 대한 AI 추론과 에이전틱 AI 모델의 새로운 가능성을 제시했다.
문일철 교수는 “AI 파운데이션 모델을 에이전트로 변환시키며, 다양한 에이전트가 토론과 검증을 통해 올바른 답을 찾아내는 과정을 보고, 하나의 AI 파운데이션 모델이 미래를 독점할 수 없다는 점을 깨달았다.”고 우승 소회를 밝혔다. 이어 “이번 대회는 물리 문제를 푸는 시험문제와 같았지만, 사실 보잉(Boeing, 미국 항공우주기업) 등에서 시험하고 있는 AI 기반 항공기 설계 및 운용과 같이 물리적 상황의 최적 설계 및 운용에 쓰이는 인공지능을 만드는 기술이 본질이다.”라고 분석했다.
배충식 총장은 “문일철 교수 연구팀의 ICML 국제 챌린지 우승을 진심으로 축하한다”며 “이번 성과는 AI가 단순히 정보를 생성하는 수준을 넘어 실제 물리 세계를 이해하고 산업과 사회의 난제를 해결하는 기술로 발전하고 있음을 보여준 쾌거”라고 말했다. 이어 “KAIST는 미래 산업을 이끌 차세대 AI 원천기술 개발과 글로벌 AI 인재 양성에 더욱 매진하겠다”고 밝혔다.
이번 연구는 정보통신기획평가원(IITP, 정보통신기획평가원)의 사람중심 인공지능 핵심원천기술개발사업인 '이종 데이터 기반 상식 추출·이해·추론을 위한 인공지능 기술개발'(연구책임자 문일철)과 ITRC 국방군집체계연구센터의 지원을 받아 수행됐다.
2026.07.23
조회수 1587
-
‘나만의 AI’ 더 안전하게 만든다...AI 개인화 시대 핵심기술 개발
“우리 회사 문서만 학습한 AI 비서를 만들어줘.”
기업과 개인이 자신의 문서와 데이터를 AI에 학습시켜 ‘나만의 AI’를 만드는 시대가 열리고 있다. 하지만 AI를 맞춤형으로 학습시키면 업무 능력은 높아지는 반면 기존의 안전장치가 약해질 수 있다는 한계가 있었다. 국내 연구진이 맞춤형 성능은 그대로 유지하면서 안전성은 오히려 높이는 AI 핵심 기술을 개발했다.
우리 대학은 전기및전자공학부 김창익 교수 연구팀이 챗GPT와 같은 대형언어모델(LLM, Large Language Model)을 개인이나 기업의 데이터에 맞게 다시 학습시키는 파인튜닝(Fine-tuning, 기존 AI에 새로운 지식이나 업무를 추가로 학습시키는 과정)에서 안전성이 훼손되는 문제를 해결하는 ‘버퍼 앤드 리인포스(Buffer-and-Reinforce)’ 학습 프레임워크를 개발했다고 15일 밝혔다.
기존에는 AI를 맞춤형으로 학습시키면 새로운 업무 능력은 향상되지만 기존의 안전 규칙이 함께 약화되는 문제가 AI 개인화 시대의 가장 큰 과제로 꼽혀왔다. 연구팀은 먼저 AI가 원래 거부해야 할 위험한 요청에도 응답할 수 있도록 만든 ‘탈옥(Jailbreak)’ 상태의 AI를 맞춤형으로 학습시키면 오히려 안전성이 크게 훼손되지 않는다는 기존 연구 결과에 주목했다.
이에 연구팀은 탈옥 상태를 실제 서비스에 사용하는 것이 아니라 완충 모듈인 ‘버퍼로라(BufferLoRA)’를 활용해 맞춤형 학습 과정에서만 일시적으로 적용한 뒤 제거하는 새로운 접근법을 고안했다.
연구팀은 왜 이러한 현상이 발생하는지를 세계 최초로 규명했다. 그 결과 탈옥 상태의 AI는 위험한 정보에는 더 이상 쉽게 영향을 받지 않는 반면, 사용자가 원하는 새로운 업무 능력은 그대로 효과적으로 학습한다는 사실을 확인했다. 즉, 위험한 정보는 추가로 받아들이지 않으면서 필요한 지식은 계속 학습하는 원리를 밝혀낸 것이다.
이를 바탕으로 연구팀은 ‘완충(Buffer)’과 ‘안전성 강화(Reinforce)’의 두 단계 학습 기법을 개발했다.
먼저 완충 모듈인 ‘버퍼로라(BufferLoRA)’를 AI에 임시로 적용해 맞춤형 학습 과정에서 악성 데이터가 AI 본체에 직접 영향을 주지 못하도록 막아주는 보호막 역할을 하도록 했다. 맞춤형 학습이 끝나면 이 모듈은 제거된다.
이후 안전성 강화 모듈인 ‘리인포스로라(ReinforceLoRA)’를 적용해 AI의 안전성을 다시 높였다. 이 과정에서는 큐알 분해(QR Decomposition, 서로 다른 정보를 분리해 필요한 정보만 선택적으로 반영하는 수학적 기법)를 활용해 사용자가 학습시킨 새로운 기능은 그대로 유지하면서 안전성만 선택적으로 강화하는 데 성공했다.
쉽게 말해, 연구팀은 AI 본체에 임시 보호막(BufferLoRA)을 씌워 악성 데이터가 직접 영향을 주지 못하도록 한 뒤 필요한 업무만 학습시켰다. 이후 보호막을 제거하고 안전성 강화 모듈(ReinforceLoRA)을 적용해 AI의 안전장치를 다시 강화함으로써 맞춤형 성능은 그대로 유지하면서 안전성까지 높이는 데 성공한 것이다.
실험 결과, 사용자 데이터가 모두 위험한 질문과 답변으로 구성된 극단적인 환경에서도 AI는 높은 안전성을 유지했다. 재학습 이후 위험한 답변을 생성하는 비율은 약 8%로, 재학습을 하지 않은 기존 모델의 약 18%보다도 낮은 수준을 기록했다. 또한 별도의 안전성 재학습이나 추가적인 계산 비용 증가 없이 맞춤형 성능과 최고 수준의 안전성을 동시에 확보해 실제 AI 개인화 서비스에도 효율적으로 적용할 수 있는 가능성을 제시했다.
김창익 교수는 “이번 연구는 누구나 자신의 데이터로 맞춤형 AI를 자유롭게 만들면서도 더욱 안전하게 사용할 수 있도록 하는 핵심 기반 기술”이라며 “AI 안전성이 더욱 강조되는 AI 개인화와 AI 에이전트 시대에 신뢰할 수 있는 AI 서비스 환경을 구축하는 데 크게 기여할 것으로 기대한다”고 말했다.
이번 연구는 KAIST 전기및전자공학부 함석일 박사과정이 제1저자로 참여했으며, 인공지능 분야 세계 최고 권위 학술대회인 국제머신러닝학회(ICML, International Conference on Machine Learning) 2026에서 7월 전체 투고 논문 중 상위 약 2.2%에만 주어지는 스포트라이트(Spotlight) 논문으로 채택되어 세계적인 주목을 받았다.
※ 논문명 : Jailbreak to Protect: Buffering and Reinforcing via Temporary Jailbreaking for Safe Fine-Tuning in Large Language Models, DOI: 10.48550/arXiv.2605.24550
※ 저자 정보 : 함석일(한국과학기술원, 제1 저자), 장재혁(한국과학기술원, 제2 저자), 이원준(한국과학기술원, 제3 저자), 김창익(한국과학기술원, 교신저자)
※ 관련 동영상 파일: https://drive.google.com/file/d/1gfok06dE8699qtiUR7gVsRoVmBGADaWQ/view?usp=sharing
한편, 이번 연구는 과학기술정보통신부 정보통신기획평가원(IITP)이 지원하는 ‘공존가능한 신뢰AI를 위한 AI Safety 기술개발사업’의 지원을 받아 수행됐다.
2026.07.15
조회수 1443
-
집에서 뇌혈관질환 위험 신호 미리 찾는 AI 기술 개발
뇌혈관질환은 치료 시기를 놓치면 심각한 후유증으로 이어질 수 있지만, 증상이 나타나기 전에는 알아차리기 어렵다. 국내 연구진이 실제 고령자의 일상생활 데이터를 분석해 집에서 나타나는 작은 변화만으로 뇌혈관질환 위험을 조기에 감지하는 AI 기술을 개발했다.
우리 대학은 건설및환경공학과 임리사 교수 연구팀이 성균관대학교(총장 유지범) 전자전기공학부 정조운 교수, 고려대학교(총장 김동원) 안암병원 신경과 조경희 교수 연구팀과 공동으로 실제 고령자의 주거환경에서 장기간 수집된 라이프로그 데이터를 활용해 뇌혈관질환 진단 전 위험단계를 식별하고, 진단이 임박한 위험 상태까지 평가하는 AI 프레임워크를 개발했다고 12일 밝혔다.
이번 연구는 ㈜리본케어가 실제 주거환경에서 수집한 고령자 1,224명의 라이프로그 데이터를 기반으로 수행됐다. 연구팀은 14일 단위로 구성한 총 13,362개의 생활 데이터 표본을 분석해 질환이 발생한 뒤 병원에서 치료하는 기존 접근에서 벗어나, 일상생활 속 미세한 변화만으로 위험 신호를 조기에 포착할 가능성을 제시했다.
연구팀은 고령자의 일상 활동과 수면, 일주기 리듬, 실내환경 정보에 연령과 만성질환 정보를 함께 분석해 뇌혈관질환 위험단계를 식별하는 AI 기술을 개발했다. 이는 병원 검사만으로는 확인하기 어려운 생활 패턴의 변화가 뇌혈관질환의 초기 위험 신호를 포착하는 중요한 단서가 될 수 있음을 보여준다.
연구팀은 시간의 흐름에 따른 생활 패턴 변화를 분석해 뇌혈관질환 진단이 가까워진 상태까지 평가하는 데 성공했다. 진단 전 4주 이내의 생활 데이터를 '진단 임박 구간', 진단 12주 이전의 데이터를 '비임박 구간'으로 나눠 분석한 결과, AI는 두 구간을 96.53%의 높은 정확도로 구분했다. 이는 병원을 찾기 전에도 일상생활 속 작은 변화만으로 뇌혈관질환 위험이 높아졌는지를 미리 파악할 수 있음을 보여주는 결과다.
이번 연구의 또 다른 특징은 AI가 단순히 위험 여부만 판단하는 것이 아니라, 판단의 근거가 된 생활 패턴과 환경 요인을 함께 제시하는 설명가능 AI(Explainable AI)를 적용했다는 점이다.
분석 결과 뇌혈관질환 진단 전 위험단계에 있는 고령자는 밤 10시부터 새벽 2시 사이에도 움직임이 지속적으로 나타나는 등 수면을 준비해야 할 시간대의 생활 리듬이 불규칙한 경향을 보였다. 즉, 잠드는 시간이 늦고 낮과 밤의 활동 차이가 뚜렷하지 않은 생활 패턴이 뇌혈관질환 진단 전 위험 신호과 밀접하게 관련된 것으로 나타났다.
또한 뇌혈관질환 진단이 가까워질수록 저녁 시간대인 오후 6시부터 밤 10시 사이 활동량이 눈에 띄게 줄고, 움직이지 않는 시간이 길어지는 경향이 확인됐다. 실내 습도가 낮아 건조한 환경 역시 진단이 임박한 상태를 판단하는 중요한 요인으로 나타났다.
연구팀은 이번 기술이 자신의 건강 상태를 정확히 설명하기 어려운 고령자의 상태를 객관적으로 모니터링하고, 의료진과 돌봄 인력에게 신뢰할 수 있는 조기 경고 지표를 제공하는 디지털 헬스케어 기술로 활용될 것으로 기대하고 있다.
다만 이번 연구는 뇌혈관질환의 발생 시점을 예측하거나 병원 진단을 대체하는 것이 아니라, 예방과 조기 진료를 지원하기 위한 보조 기술이며, 실제 임상 적용을 위해서는 더 큰 규모의 환자군을 대상으로 한 전향적 검증이 필요하다고 설명했다.
임리사 교수는 "이번 연구의 핵심은 AI가 병원 진단을 대체하는 것이 아니라, 집에서 나타나는 작은 생활 변화 속에서 위험 신호를 먼저 발견하고 적절한 시점에 병원 진료로 연결할 가능성을 제시한 데 있다"며 "질환이 발생한 뒤 치료하는 의료체계에서 예방과 조기 개입을 지원하는 의료체계로 전환하는 데 기여할 것으로 기대한다"고 말했다.
KAIST 백정엽 박사가 제1저자로 참여한 이번 연구는 디지털 헬스케어 분야 세계적 권위의 국제학술지 ‘npj Digital Medicine’(엔피제이 디지털 메디슨, 네이처 포트폴리오 발행, IF 15.1, JCR 상위 0.3%)에 6월 2일 게재됐다.
※논문명: AI home monitoring for behavioral markers of cerebrovascular disease
DOI: https://doi.org/10.1038/s41746-026-02836-7
한편 이번 연구는 과학기술정보통신부와 한국연구재단의 우수신진연구(씨앗연구)(과제번호: RS-2025-16068234)의 지원을 받아 수행됐다.
2026.07.13
조회수 957
-
투명한 유리도 보고 미래도 예측하는 ‘피지컬 AI’ 핵심기술 개발
인공지능(AI)이 화면 속 정보를 분석하는 기술을 넘어, 현실 세계의 물리적 특성을 이해하고 스스로 판단·행동하는 단계로 진화하고 있다. 우리 대학 연구진은 빛과 물질의 상호작용, 공간 인식, 미래 상황 예측, 행동 계획을 아우르는 피지컬 AI(Physical AI·물리 기반 인공지능) 핵심 기술을 개발했다. 이번 성과는 자율주행차와 휴머노이드 로봇, 산업용 로봇, 디지털 트윈 등 실제 환경에서 작동하는 차세대 자율 시스템 구현을 앞당길 것으로 기대된다.
우리 대학은 전산학부 윤성의 교수 연구팀이 ▲유리나 물처럼 투명한 물체를 정확히 인식하는 기술 ▲빛과 물질의 상호작용을 분석해 주변 환경을 이해하는 기술 ▲사진 한 장만으로 로봇이 목적지를 찾아가는 기술 ▲미래 상황을 예측해 행동을 계획하는 기술을 개발했다고 6일 밝혔다.
이번 연구는 시각 인식부터 물리적 이해, 미래 예측, 행동 계획까지 하나의 기술 흐름으로 연결했다는 점에서 의미가 크다. 이를 통해 AI가 '보고(인식) → 이해하고(물리 이해) → 예측하고(미래 예측) → 행동하는(계획)' 전 과정을 수행하는 기반을 제시했으며, 다양한 자율 시스템의 성능과 활용 범위를 한층 넓힐 것으로 기대된다.
이번 연구 성과는 세계 최고 권위의 AI 학회인 ICLR 2026(International Conference on Learning Representations)과 CVPR 2026(Conference on Computer Vision and Pattern Recognition)에서 구두 발표 2편과 하이라이트 논문 2편 등 총 4편의 논문으로 발표됐다. 특히 ICLR과 CVPR의 구두 발표는 각각 약 1.13%, 0.8%만 선정되는 최상위 발표 형식으로, 연구의 독창성과 우수성을 국제적으로 인정받았다.
▲ 유리까지 이해하는 AI… 투명한 물체도 정확히 인식
연구팀은 글린트(GLINT, 투명 환경 시각 인식 기술)를 개발해 AI가 유리와 같은 투명한 물체도 정확하게 인식할 수 있도록 했다.
사람은 유리창을 볼 때 유리에 비친 모습과 유리 너머의 풍경을 자연스럽게 구분한다. 하지만 기존 AI는 두 정보를 하나의 영상으로 인식해 투명한 물체를 제대로 이해하지 못하는 경우가 많았다.
연구팀은 유리에 반사된 모습과 유리 뒤의 물체를 각각 분리해 분석하는 새로운 기술을 개발함으로써 AI가 투명한 환경에서도 장면을 정확하게 이해할 수 있도록 했다.
※ 논문 정보 : GLINT: Modeling Scene-Scale Transparency via Gaussian Radiance Transport, 논문 원본: https://arxiv.org/abs/2603.26181 (CVPR 2026 Oral, 6월 5일 구두 발표, Award Candidate(4천여 편 발표 논문 가운데 74편 선정)
▲ 빛의 움직임까지 이해하는 AI
연구팀은 라디오GS(RadioGS, 빛과 재질을 이해하는 장면 복원 기술)를 개발해 빛이 물체에 닿아 반사되고 퍼지는 과정까지 AI가 이해하도록 했다.
같은 물체라도 햇빛 아래와 실내 조명 아래에서는 다르게 보인다. 기존 AI는 이러한 조명 변화에 영향을 받기 쉬웠다. 연구팀은 빛과 물체의 상호작용을 AI가 학습하도록 만들어 조명이 달라져도 물체의 재질과 주변 환경을 더욱 정확하게 이해할 수 있도록 했다.
※ 논문 정보 : Radiometrically Consistent Gaussian Surfels for Inverse Rendering, 논문 원본: https://arxiv.org/abs/2603.01491 (ICLR 2026 Oral, 4월 23일 구두 발표)
▲ 사진 한 장만 보고 목적지를 찾아가는 로봇
연구팀은 비주얼-RRT(Visual-RRT, 이미지 기반 로봇 경로 계획 기술)를 개발해 시각 정보를 실제 행동으로 연결했다. 기존 로봇은 목적지의 좌표 정보가 필요했지만, 이번 기술은 현재 로봇이 보는 장면과 목표 사진을 비교하며 스스로 이동 경로를 찾아간다.
실제 로봇 실험에서도 사진 한 장만으로 목적지에 성공적으로 도달해 서비스 로봇과 자율주행 로봇 등 다양한 분야에 활용될 가능성을 확인했다.
※ 논문 정보: Visual-RRT: Finding Paths toward Visual-Goals via Differentiable Rendering, 논문원본: https://arxiv.org/abs/2604.16388 (CVPR 2026 Highlight) ３월 27일 하이라이트 논문 선정
※ 동영상: https://www.youtube.com/watch?v=nAPk27vHwEE
▲ 미래를 예측하고 스스로 행동을 계획하는 AI
연구팀은 클래드(CLaD, 미래 예측 기반 행동 계획 기술)를 개발해 AI가 행동하기 전에 미래 상황을 예측하고 가장 적절한 행동을 계획하도록 했다.
사람은 행동하기 전에 "이렇게 움직이면 다음에는 어떤 일이 생길까?"를 먼저 생각한다. 클래드는 AI도 이처럼 행동의 결과를 미리 예측한 뒤 가장 효과적인 행동을 선택하도록 만든 기술이다. 이를 통해 복잡한 환경에서도 높은 성공률로 작업을 수행할 수 있어 차세대 자율 로봇의 핵심 기술로 활용될 것으로 기대된다.
※ 논문 정보 : CLaD: Planning with Grounded Foresight via Cross-Modal Latent Dynamics, 논문원본: https://arxiv.org/abs/2603.29409(CVPR 2026 Highlight)
윤성의 교수는 "이번 연구는 AI가 단순히 눈으로 보는 것을 넘어 현실 세계를 이해하고 앞으로 일어날 상황까지 예측해 스스로 행동을 결정하는 방향으로 발전하고 있음을 보여준다"며 "이번 성과가 자율주행차와 휴머노이드 로봇 등 실제 환경에서 작동하는 다양한 피지컬 AI 기술의 발전에 기여하기를 기대한다"고 말했다.
윤성의 교수가 교신저자로 참여한 이번 연구들은 과학기술정보통신부와 정보통신기획평가원(IITP), 한국연구재단(NRF)의 지원을 받아 수행 중인 피지컬 AI 및 지능형 로봇 연구과제의 일환으로 수행됐다.
2026.07.06
조회수 1632