'물리 세계 이해하는 AI' 세계 최고…ICML 2026 국제 AI 챌린지 우승
그림과 글을 함께 이해해 물리 법칙을 적용하고 스스로 추론하는 인공지능(AI)이 항공기와 로봇 등 실제 물리 세계를 설계하는 시대가 한 걸음 가까워졌다. 우리 대학 연구팀이 세계 최고 권위의 인공지능(AI)·기계학습(Machine Learning, 기계학습) 학회인 국제머신러닝학회(ICML) 국제 챌린지에서 세계 정상에 오르며 이 같은 기술력을 입증했다.
우리 대학은 AX학과 문일철 교수 연구팀이 국제머신러닝학회(ICML, International Conference on Machine Learning, 국제머신러닝학회) 2026의 공식 워크숍인 ‘AI4Math Workshop(AI for Mathematics Workshop, AI 기반 수학·과학 추론 워크숍)’이 개최한 ‘시각적으로 정의된 물리 문제 풀기(Visual Grounded Physics Problem Solving)’ 국제 챌린지에서 우승했다고 23일 밝혔다.
이번 챌린지는 지난 5월 1일부터 6월 16일까지 진행됐으며, ETH 취리히(ETH Zurich), 푸단대(Fudan University), 상하이 이노베이션 연구소(Shanghai Innovation Institute) 등 세계 유수 연구기관을 포함한 139개 참가팀이 경쟁했다. 연구팀은 최종 평가에서 가장 높은 성적을 거두며 우승을 차지했으며, 7월 11일 서울에서 열린 ICML 공식 시상식에서 1등상을 수상했다.
이번 대회는 그림과 텍스트로 제시된 물리 문제를 이해한 뒤, 물리 법칙을 적용해 정답뿐 아니라 풀이 과정까지 생성하는 AI의 추론 능력을 평가하는 국제 챌린지다.
참가 AI는 멀티모달(Multimodal, 텍스트·이미지 등 서로 다른 형태의 정보를 동시에 이해하는 기술) 정보를 통합하고, 뉴턴 역학 등 물리 법칙을 적용해 논리적으로 문제를 해결해야 한다. 단순 계산 능력이 아니라 복잡한 물리 현상을 이해하고 추론하는 능력을 평가하는 것이 특징이다.
이는 AI가 시험 문제를 푸는 수준을 넘어 실제 물리 환경을 이해하고 설계·운용을 최적화할 수 있는 가능성을 보여주는 성과다. 향후 항공기와 로봇, 자율주행, 우주 시스템 등 다양한 분야에서 실제 물리 환경을 고려한 설계와 의사결정을 수행하는 차세대 AI 기술로 활용될 것으로 기대된다.
이번 연구에는 산업및시스템공학과 곽지석 박사과정 학생을 비롯한 총 5명의 KAIST 응용인공지능연구실(AAILab) 연구진이 참가했다. 연구팀은 여러 AI 파운데이션 모델(Foundation Model, 대규모 데이터를 학습해 다양한 작업에 활용할 수 있는 범용 AI 모델)을 각각 독립적인 에이전틱 AI(Agentic AI, 스스로 계획을 세우고 여러 단계를 수행하며 문제를 해결하는 AI)로 구성한 뒤, 서로 답을 검증하고 토론하는 멀티에이전트 AI(Multi-Agent AI, 여러 AI 에이전트가 협업하며 문제를 해결하는 방식) 구조를 개발했다.
이를 통해 개별 AI의 오류를 줄이고 추론의 신뢰성을 높여 세계 최고 성능을 달성했으며, 복잡한 물리 현상에 대한 AI 추론과 에이전틱 AI 모델의 새로운 가능성을 제시했다.
문일철 교수는 “AI 파운데이션 모델을 에이전트로 변환시키며, 다양한 에이전트가 토론과 검증을 통해 올바른 답을 찾아내는 과정을 보고, 하나의 AI 파운데이션 모델이 미래를 독점할 수 없다는 점을 깨달았다.”고 우승 소회를 밝혔다. 이어 “이번 대회는 물리 문제를 푸는 시험문제와 같았지만, 사실 보잉(Boeing, 미국 항공우주기업) 등에서 시험하고 있는 AI 기반 항공기 설계 및 운용과 같이 물리적 상황의 최적 설계 및 운용에 쓰이는 인공지능을 만드는 기술이 본질이다.”라고 분석했다.
배충식 총장은 “문일철 교수 연구팀의 ICML 국제 챌린지 우승을 진심으로 축하한다”며 “이번 성과는 AI가 단순히 정보를 생성하는 수준을 넘어 실제 물리 세계를 이해하고 산업과 사회의 난제를 해결하는 기술로 발전하고 있음을 보여준 쾌거”라고 말했다. 이어 “KAIST는 미래 산업을 이끌 차세대 AI 원천기술 개발과 글로벌 AI 인재 양성에 더욱 매진하겠다”고 밝혔다.
이번 연구는 정보통신기획평가원(IITP, 정보통신기획평가원)의 사람중심 인공지능 핵심원천기술개발사업인 '이종 데이터 기반 상식 추출·이해·추론을 위한 인공지능 기술개발'(연구책임자 문일철)과 ITRC 국방군집체계연구센터의 지원을 받아 수행됐다.
몸짓도 언어다… 동물 행동의 의미 읽는 AI 개발
생쥐의 몸짓을 단어처럼 읽고 의미를 이해하는 인공지능이 등장했다. 우리 대학 연구진은 행동 데이터를 언어처럼 학습해 자폐 모델 생쥐의 사회적 행동 결함을 스스로 찾아내는 AI 모델 ‘비헤이버트(BehaVERT)’를 개발하며 해석 가능한 뇌과학의 새로운 패러다임을 제시했다.
우리 대학 뇌인지과학과 김대수 교수 연구팀이 동물의 움직임을 언어처럼 읽고 해석하는 인공지능(AI) 모델을 개발했다고 1일 밝혔다.
연구팀은 생쥐의 골격 움직임을 자연어의 단어에 해당하는 ‘토큰(token)’으로 변환해 학습시키는 방식으로 행동의 의미를 이해하는 AI 모델 ‘비헤이버트'를 구현했다. 이 모델은 별도의 사전 지식 없이도 자폐 모델 생쥐의 핵심 사회행동 결함을 스스로 발견할 수 있음을 확인했다.
이번 연구는 동물 행동을 언어처럼 분석하는 새로운 인공지능 접근법을 제시한 것으로 평가된다. 특히 AI가 단순한 행동 분류를 넘어 행동의 의미를 이해하고 생물학적으로 중요한 단서를 찾아낼 수 있음을 보여줌으로써, 향후 신약 개발과 정신질환 연구, 행동유전학 분야를 위한 차세대 '행동 파운데이션 모델(Behavior Foundation Model)'의 가능성을 열었다.
연구팀은 생쥐의 코, 귀, 척추, 사지, 꼬리 등 신체 부위의 골격 좌표를 토큰으로 변환한 뒤 자연어 처리에 널리 사용되는 BERT 기반 트랜스포머 모델에 입력해 학습시켰다. 그 결과 비헤이버트는 단순히 행동을 분류하는 데 그치지 않고, 시간의 흐름 속에서 행동의 의미를 스스로 학습하는 것으로 나타났다.
개발된 모델은 사회적 상호작용, 다개체 행동, 3차원 움직임 분석, 자폐 행동 분석 등 다양한 분야의 국제 표준 벤치마크 5종에서 기존 최고 수준의 성능을 뛰어넘었다. 비헤이버트는 자신이 어떤 행동에 주목해 판단을 내렸는지 연구자에게 알려주는 해석 가능성(interpretability)도 갖추고 있다.
실험 결과, 모델은 자폐 모델 생쥐(Shank3B 유전자 결손)와 정상 생쥐를 구분하는 과정에서 ‘입과 입을 맞대는 접촉(oral-oral contact)’에 집중하는 것으로 나타났다. 이는 자폐 모델 생쥐가 접근 행동은 정상적으로 수행하지만 실제 사회적 상호작용에는 결함을 보인다는 기존 연구 결과와 정확히 일치한다. 즉, AI가 사전에 생물학적 지식을 학습하지 않았음에도 행동 관찰만으로 자폐 행동의 핵심 특징을 스스로 발견한 것이다.
연구팀은 AI가 행동을 단순히 분류하는 것을 넘어 행동의 의미까지 이해하고 있다는 사실도 확인했다. AI 내부에서는 움직임과 주의, 사회성 같은 행동 특성이 체계적으로 정리돼 있었으며, 이는 동물 행동에도 언어와 유사한 의미 구조가 존재할 수 있음을 시사한다.
이번 연구에는 또 하나의 의미 있는 도전이 담겨 있다. 제1저자인 신승재 박사를 비롯한 연구진은 모두 생명과학을 전공한 연구자들로, 인공지능을 직접 익혀 행동 분석에 특화된 모델과 학습 전략을 설계했다. 김대수 교수 연구실은 그동안 동물 행동 데이터를 활용한 AI 연구를 수행해 왔으며, 쥐의 행동을 가상공간에 구현하는 ‘아바타(AVATAR)’ 기술을 개발해 ㈜액트노바를 창업한 바 있다.
제1저자인 신승재 박사는 “동물의 움직임에도 언어와 같은 구조가 존재할 수 있다는 질문에서 연구가 시작됐다”고 말했다. 연구팀은 사람이 정답을 알려주지 않아도 AI가 행동 데이터만으로 스스로 학습하는 방식을 도입했으며, 쥐의 행동으로 학습한 모델이 생쥐의 행동 분석에도 성공적으로 활용되는 것을 확인했다. 이는 향후 여러 동물 종에 적용 가능한 '행동 파운데이션 모델' 개발 가능성을 보여준다.
김대수 교수는 “비헤이버트는 단순히 행동을 분류하는 것을 넘어 행동의 의미까지 이해할 수 있는 새로운 인공지능 모델”이라며 “향후 신약 개발과 정신질환 연구, 행동유전학 등 다양한 생명과학 분야에서 새로운 발견을 이끄는 핵심 연구 도구가 될 것으로 기대한다”고 말했다.
이번 연구 결과는 뇌인지과학과 신승재 박사가 제1저자로 참여했으며, 컴퓨터비전 분야 최고 권위 학술지 중 하나인 International Journal of Computer Vision(IJCV)에 2026년 3월 24일 게재됐다.
※ 논문명: BehaVERT: A Transformer-Based Motion Language Model for Decoding Behavioral Semantics in Mice, DOI: 10.1007/s11263-026-02834-y
※ 관련 동영상:
● BehaVERT — 사회적 행동 분석 시각화 (Investigation & Mount), https://youtu.be/JshCr-ZBQR0
● BehaVERT — 사회적 행동 분석 시각화 (Investigation & Attack), https://youtu.be/p9RPhZM__Js
● BehaVERT — 자폐 모델 생쥐의 핵심 사회행동을 AI가 스스로 발견하다, https://youtu.be/D6zUyDu3t9I
한편, 이번 연구는 과학기술정보통신부가 지원하고 한국연구재단이 주관하는 중견연구자지원사업 및 뇌과학선도융합기술개발사업의 지원을 받아 수행됐다.
AI도 ‘모른다’고 말한다... 과신 줄이고 신뢰성 높여
“AI도 스스로‘모른다’고 말할 수 있어야 한다.”
자율주행과 의료 진단 등에서 인공지능(AI)의 가장 큰 위험으로 지적돼 온‘과도한 확신(overconfidence·틀린 예측에 대하여 높은 확신을 보이는 현상)’문제를 해결할 새로운 접근법이 제시됐다. 우리 대학 연구진은 AI가 스스로 모르는 상황을 인식하도록 하는 학습 방법을 개발해, 과신을 줄이고 신뢰성을 높일 수 있는 기반을 마련했다.
우리 대학은 뇌인지과학과 백세범 석좌교수 연구팀이 딥러닝(deep learning·인공신경망을 활용해 데이터를 학습하는 인공지능 기술)에서 널리 사용돼 온 무작위 가중치 초기화(random initialization·신경망 학습 시작 시 가중치를 확률 분포에 따라 무작위로 설정하는 방식)가 인공지능의 과신을 유발하는 근본적인 원인일 수 있음을 규명했다고 27일 밝혔다.
연구팀은 이를 해결하기 위해 실제 데이터를 학습하기 전, 무작위 노이즈(random noise·의미 없는 임의의 입력 데이터)로 신경망을 짧게 학습시키는 ‘예열(warm-up)’ 전략을 제안했다.
연구팀은 AI의 과신 문제가 학습 이후만이 아니라, 학습의 출발점인 초기화 단계에서부터 이미 나타난다는 점에 주목했다.
실제로 무작위로 초기화된 신경망에 임의의 데이터를 입력한 결과, 아직 아무것도 배우지 않은 상태임에도 불구하고 높은 확신도를 보이는 현상이 확인됐다. 이러한 특성은 생성형 AI에서 사실과 다른 내용을 만들어내는 환각(hallucination·존재하지 않는 정보를 그럴듯하게 만들어내는 현상) 문제로 이어질 수 있다.
연구팀은 해결의 실마리를 생물학적 두뇌에서 찾았다. 인간의 두뇌는 태어나기 전부터 외부 자극 없이도 ‘자발적 신경 활동(spontaneous neural activity·외부 입력 없이 스스로 발생하는 뇌 신호)’을 통해 신경회로를 형성한다.
연구팀은 이 개념을 인공신경망에 적용해, 실제 학습에 앞서 무작위 노이즈 입력으로 짧은 사전 학습을 수행하는‘예열 단계’를 도입했다. 이는 인공지능이 본격적으로 학습을 시작하기 전에, 스스로의 불확실성을 먼저 조정하는 과정에 해당한다. 예열 과정을 거친 AI 모델은 초기 확신도가 우연 수준에 가까운 낮은 값으로 정렬되며, 기존 초기화에서 나타나던 과신 편향이 크게 완화됐다.
즉, 실제 데이터를 배우기 전에 ‘나는 아직 아무것도 모른다’는 상태를 먼저 학습하게 되는 것이다. 그 결과, 모델의 정확도(예측이 맞는 비율)와 확신도(모델이 스스로 맞다고 믿는 정도)가 자연스럽게 일치하는 방향으로 개선됐다.
특히 처음 보는 데이터에 대한 반응에서도 차이가 나타났다. 기존 모델은 학습하지 않은 데이터에도 높은 확신을 보이며 잘못된 답을 제시하는 경향이 있었지만, 예열 학습을 적용한 모델은 확신도를 낮춰‘모른다’고 판단하는 능력이 뚜렷하게 향상됐다.
이를 통해 학습 데이터와 다른 분포를 가진 데이터를 구별하는 분포 밖 데이터 탐지(out-of-distribution detection·훈련에 사용되지 않은 새로운 유형의 데이터를 구분하는 기술)에서도 높은 성능을 보였다.
이번 연구는 AI가 단순히 정답을 맞히는 수준을 넘어, ‘무엇을 아는가’와 ‘무엇을 모르는가’를 구분하는 능력, 즉 메타 인지(meta-cognition·자신의 인지 상태를 스스로 인식하는 능력)를 갖출 수 있는 가능성을 제시했다.
백세범 석좌교수는 “이번 연구는 두뇌 발달 과정을 모사함으로써 AI가 인간과 좀 더 유사하게 자신의 지식 상태를 인식할 수 있음을 보여준 사례”라며, “정확도를 높이는 것을 넘어 인공지능이 스스로의 불확실성을 판단하는 원리를 제시했다는 데 의의가 있다”고 설명했다.
이번 기술은 자율주행, 의료 AI, 생성형 AI 등 높은 신뢰성이 요구되는 분야는 물론, 거의 모든 딥러닝 모델의 초기화 방식에 적용될 수 있어 AI 전반의 신뢰성을 높이는 핵심 기술로 활용될 것으로 기대된다.
KAIST 천정환 뇌인지과학과 석사(現 육군 일병)가 제1저자로 참여한 이번 연구는 인공지능 분야 국제 학술지 ‘네이처 머신 인텔리전스(Nature Machine Intelligence)’에 2026년 4월 9일자로 온라인 게재됐으며, 주목할 만한 논문으로 선정되어 ‘뉴스 앤 뷰스(News & Views)’에도 소개되었다.
※ 논문명: Brain-inspired warm-up training with random noise for uncertainty calibration, DOI: 10.1038/s42256-026-01215-x
※ 뉴스 앤 뷰스 소개: Learning to be uncertain before learning from data, DOI: 10.1038/s42256-026-01205-z
한편 이번 연구는 한국연구재단의 이공분야기초연구사업과 KAIST 싱귤래러티 연구사업의 지원을 받아 수행됐다.