< (왼쪽부터) KAIST 이상완 교수, 성도윤 박사과정, (상단) IBM AI연구소 마티아 리고티Mattia Rigotti 박사 >
사람은 갑작스러운 변화가 닥쳐도 금세 계획을 새로 세우고 목표를 조정하는 안정성과 유연성을 동시에 갖추고 있다. 그러나 이세돌 기사와 대국을 펼친 알파고를 비롯해 로봇 분야에 널리 사용되는 모델 프리 AI는 이러한 두 능력을 함께 구현하지 못한다. 우리 대 연구팀은 그 이유가 전두엽의 독특한 정보 처리 방식에 있으며, 이 원리가 ‘뇌처럼 유연하고 안정적인 AI’를 만들 핵심 열쇠가 될 수 있음을 규명했다.
우리 대학은 뇌인지과학과 이상완 교수 연구팀이 IBM AI 연구소와 함께 인간의 뇌가 목표 변화와 불확실한 상황을 처리하는 방식을 규명하고, 차세대 AI 강화학습이 나아가야 할 방향을 제시했다고 14일 밝혔다.
연구팀은 기존 강화학습 모델들이 목표가 바뀌는 상황에서는 안정성이 떨어지고, 환경이 불확실하면 유연성이 부족해지는 한계가 있지만 인간은 두 요소를 동시에 달성한다는 점을 집중했다. 연구팀은 이 차이가 전두엽이 정보를 표현하는 방식 자체에서 비롯된다고 보았다.
뇌 기능 MRI(fMRI) 실험, 강화학습 모델, AI 분석 기법을 활용한 결과, 인간 전두엽은 ‘목표 정보’와 ‘불확실성 정보’를 서로 간섭하지 않도록 분리해 저장하는 특별한 구조를 가지고 있음이 밝혀졌다. 이런 구조가 뚜렷할수록 사람은 목표가 바뀌면 빠르게 전략을 바꾸고, 환경이 불확실해도 안정적인 판단을 유지했다. 연구팀은 이를 통신 기술의 멀티플렉싱(multiplexing)처럼 서로 다른 정보를 한 번에 처리하는 특징을 갖는다는 점도 확인했다.
이렇게 인간의 전두엽은 목표가 바뀔 때마다 그 변화를 민감하게 추적해 의사결정의 유동성을 확보하는 ‘채널’이 있고, 동시에 또 다른 채널을 통해 환경의 불확실성을 분리해 안정적인 판단을 유지한다.
흥미로운 점은 전두엽이 첫 번째 채널을 통해 단순히 학습을 실행하는 수준을 넘어서, 두 번째 채널을 활용하여 상황에 따라 어떤 학습 전략을 쓸지 스스로 고르는 역할까지 한다는 것이다.
연구팀은 전두엽이 단순히 학습을 실행하는 수준을 넘어, 상황에 따라 어떤 학습 전략을 사용할지 스스로 선택하는 ‘메타학습 능력’을 갖고 있다는 점을 보여줬다.
즉, 전두엽은 무엇을 배울지뿐 아니라 어떻게 배울지도 학습하는 구조를 가지고 있으며, 이것이 인간이 끊임없이 바뀌는 상황에서도 흔들리지 않는 이유다.
이 연구는 개인의 강화학습·메타학습 능력 분석, 맞춤형 교육 설계, 인지 능력 진단, 인간-컴퓨터 상호작용 등 다양한 분야에 활용될 수 있으며, 뇌 기반 표현 구조를 활용하면 ‘뇌처럼 생각하는 AI’기술로서 AI가 인간의 의도와 가치를 더 잘 이해해 위험한 판단을 줄이고 사람과 더 안전하게 협력하는 기술로 이어질 수 있다.
< 그림 1. 인간과 AI의 유동성-안정성 균형 >
< 그림 2. 전두엽의 목표와 환경의 불확실성 정보 표상의 위상구조 >
연구 책임자인 이상완 교수는 “이번 연구는 변화하는 목표를 유연하게 따라가면서도 안정적으로 계획을 세우는 뇌의 작동 원리를 AI 관점에서 규명한 성과이며, 이러한 원리가 앞으로 AI가 사람처럼 변화에 적응하고 더 안전하고 똑똑하게 학습하는 차세대 AI의 핵심 기반이 될 것”이라고 말했다.
이 연구는 성윤도 박사과정 학생이 1 저자, IBM AI 연구소 마티아 리고티(Mattia Rigotti) 박사가 2저자로 참여했으며, 이상완 교수가 교신저자를 맡았다. 연구 결과는 국제 학술지 `네이처 커뮤니케이션스 (Nature Communications)‘ 11월 26일 자 게재됐다.
(논문명: Factorized embedding of goal and uncertainty in the lateral prefrontal cortex guides stably flexible learning) DOI: 10.1038/s41467-025-66677-w)
특히 이번 연구는 과학기술정보통신부 한계도전 R&D 프로젝트 사업 지원을 받아 수행됐다.
-
연구 파네시아·메타 ‘하나의 칩처럼 움직이는 AI 데이터센터 (AI DC)’ 구조 제시
우리 대학에서 축적된 반도체·컴퓨터 시스템 연구가 교원 창업을 거쳐 글로벌 빅테크 메타(Meta)와의 협력으로 확장되며 차세대 AI 데이터센터(AI DC)의 새로운 설계 방향을 제시했다. CPU·AI 가속기·메모리를 하나로 묶어 데이터센터 전체가 마치 ‘하나의 거대한 칩’처럼 움직이도록 하는 구조다. 우리 대학은 전기및전자공학부 정명수 교수와 교원창업기업인 팹리스(fabless, 반도체 설계 전문기업) 파네시아 연구진이 메타 연구진과 함께 차세대 AI 데이터센터 구조를 제시한 리뷰 논문을 네이처(Nature)가 발행하는 국제 학술지 ‘네이처 리뷰 일렉트리컬 엔지니어링(Nature Reviews Electrical Engineering, NREE)’에 게재했다고 9일 밝혔다. 이번 성과는 KAIST에서 시작된 연구가 교원 창업을 통해 실제 반도체 기술로 발전하고, 글로벌 기업과의 공동 연구로 이어져
2026-09-09 -
연구 비타민 A 유래 물질로 지친 면역세포 지킨다…난치성 뇌종양 치료 새 길
암과 오래 싸운 면역세포는 결국 지쳐 공격력을 잃는다. 특히 악성 뇌종양에서는 이런 ‘면역세포 탈진’ 때문에 면역항암제도 제대로 힘을 쓰지 못한다. 우리 대학 연구진이 세포의 성장과 면역 기능을 조절하는 비타민 A 유래 물질 ‘올트랜스 레티노산(ATRA)’을 활용해 면역세포가 완전히 지치는 것을 막고, 기존 면역항암제의 효과까지 높일 수 있는 가능성을 찾았다. 우리 대학은 생명과학과 이흥규 교수 연구팀이 서울성모병원·건양대학교 의과대학 공동연구진과 함께, 비타민 A가 우리 몸에서 실제 기능을 할 수 있는 형태로 바뀐 활성형 대사체의 하나인 ‘올트랜스 레티노산(all-trans retinoic acid, ATRA)’이 뇌종양 안에서 암세포를 직접 찾아 파괴하는 핵심 면역세포인 CD8 T세포가 공격 능력을 거의 잃는 ‘말기 탈진’ 상태로 진행하는 것을 억제하고, 대표적인 면역항암제인
2026-09-08 -
연구 AI 업무비서 실수해도 ‘처음부터 다시’ 없다…틀린 곳만 고친다
“지난해 가장 많이 팔린 상품을 찾아줘.” AI가 회사 자료를 찾는 과정에서 존재하지 않는 항목을 잘못 사용하면 검색이 실패할 수 있다. 지금까지는 작은 오류 하나에도 검색 명령 전체를 다시 만들어야 했지만, 우리 대학 연구진이 틀린 부분만 찾아 바로잡는 기술을 개발했다. AI의 데이터 검색을 더 빠르고 정확하게 만들어 기업의 ‘AI 업무비서’ 활용을 앞당길 것으로 기대된다. 우리 대학은 전산학부 김민수 교수 연구팀이 사람의 일상적인 질문을 데이터베이스에서 원하는 정보를 찾는 컴퓨터 명령어인 SQL(Structured Query Language)로 바꾸는 과정에서 발생하는 오류를 찾아 수정하는 기술 ‘세이프큐엘(SafeQL)’을 개발했다고 4일 밝혔다. 최근에는 “지난해 매출이 가장 많이 늘어난 상품은?”, “재고가 부족한 상품은?”처럼 일상적인 말로 질문하면 AI가
2026-09-04 -
행사 KAIST-Caltech, 연구 넘어 ‘인재도 함께 키운다’…글로벌 공동지도 모델 구축
우리 대학이 세계적인 연구기관인 미국 캘리포니아공과대학교(California Institute of Technology, 이하 ‘Caltech’)와 공동연구를 넘어 차세대 연구자까지 함께 키우는 새로운 글로벌 협력 모델을 구축한다. 우리 대학은 9월 1일부터 2일까지 Caltech과 ‘제1회 KAIST-Caltech 분자과학 및 화학혁신 공동 워크숍(1st KAIST-Caltech Joint Workshop on Molecular Science and Chemical Innovation)’을 개최한다고 2일 밝혔다. 이번 워크숍은 양 기관이 첨단 분자과학과 미래 화학기술 분야의 연구성과를 공유하는 데 그치지 않고, 공동연구와 인재양성, 연구시설 활용까지 연결하는 지속 가능한 협력체계를 구축하기 위해 마련됐다. 특히 KAIST와 Caltech 교수가 박사후연구원(Postdoctoral Researcher)을 함께 선발하고 지도하는
2026-09-02 -
연구 “신약 설계해줘”... 소버린 바이오 AI 'K-Fold' 공개
“이 단백질에 잘 결합하는 신약 후보를 설계해줘.” 연구자가 AI에게 이렇게 요청하면 AI가 단백질의 3차원 구조를 예측하고, 어떤 물질이 잘 결합할지 분석해 유망한 신약 후보를 설계한다. 우리 대학 연구진이 세계에서 가장 빠르게 단백질 구조 예측을 수행하는 바이오 AI 모델 ‘K-Fold(케이폴드)’를 국내 독자 기술로 개발했다. 우리 대학은 과학기술정보통신부 ‘AI 특화 파운데이션 모델 프로젝트’의 주관기관으로 ‘팀 KAIST’를 구성하고, 차세대 바이오 AI 모델 ‘K-Fold’를 공개했다고 28일 밝혔다. ‘팀 KAIST’는 화학과 김우연 교수가 연구를 총괄하고, 김우연 교수 그룹과 김재철AI대학원 황성주·안성수 교수 그룹 연구원들이 AI 모델 개발을, 생명과학과 오병하·김호민·이규리 교수가 단백질
2026-08-28