산소 ‘전용 통로’로 3차원 메모리 난제 풀었다…AI 반도체 성능 높이고 전력 낮춘다
AI가 똑똑해질수록 더 많은 데이터를 빠르게 처리할 수 있는 ‘고성능 메모리’가 필요하다. 하지만 기존처럼 반도체를 계속 작게 만드는 데는 한계가 있다. 우리 대학 연구진이 반도체를 위로 쌓는 3차원 구조의 약점까지 해결하면서, AI 반도체의 성능은 높이고 전력 소모는 낮출 새로운 길을 열었다.
우리 대학은 전기및전자공학부 권지민 교수 연구팀이 UNIST(총장 박종래), 연세대학교(총장 윤동섭) 등 국내 연구진과 공동으로 차세대 메모리 소자인 산화물 수직 채널 트랜지스터(Vertical Channel Transistor, VCT)의 결함을 줄이고 성능과 안정성을 크게 높일 수 있는 새로운 다층 층간 절연막 구조를 개발했다고 20일 밝혔다.
컴퓨터의 주기억장치로 사용되는 DRAM은 컴퓨터가 작업 중인 데이터를 임시로 저장해 빠르게 꺼내 쓸 수 있도록 하는 메모리다. 지난 수십 년간 DRAM은 반도체 소자의 크기를 줄여 같은 면적에 더 많은 데이터를 저장하고, 전력 소모를 낮추는 방향으로 발전해 왔다.
그러나 반도체를 평면에서 계속 작게 만드는 방식은 점차 물리적 한계에 가까워지고 있다. 이에 최근에는 소자를 옆으로만 줄이는 대신 위로 쌓아 올려 집적도를 높이는 3차원 구조가 주목받고 있다. 좁은 땅에 단층 주택을 계속 촘촘하게 짓는 대신 고층 아파트를 세워 더 많은 가구를 수용하는 것과 비슷한 원리다.
이 가운데 수직 채널 트랜지스터(VCT)는 전류가 흐르는 길인 ‘채널’을 기존의 수평 방향이 아닌 수직 방향으로 만든 소자다. 이를 활용하면 제한된 면적에 더 많은 소자를 배치할 수 있어 고집적 메모리 구현에 유리하다.
특히 채널 소재로 산화물 반도체(Oxide Semiconductor)를 사용하면 전류가 새어나가는 현상을 크게 줄일 수 있어, 전력 소모가 적은 차세대 메모리를 만드는 데 유리하다.
하지만 해결해야 할 문제가 있었다. 바로 ‘산소 공공(Oxygen Vacancy)’이다. 이는 산화물 반도체에서 원래 산소 원자가 있어야 할 자리가 비어 있는 상태를 말한다. 즉, 벽돌담에서 벽돌 몇 장이 빠지면 벽 전체가 불안정해지는 것처럼, 이러한 빈자리가 많아지면 반도체의 전기적 특성이 달라져 소자가 안정적으로 작동하기 어려워진다.
그렇다고 산소를 무작정 많이 공급할 수도 없다. 부족한 산소를 채우려다가 산소가 금속 전극까지 이동하면 전극이 산화돼 오히려 소자의 성능을 떨어뜨릴 수 있기 때문이다. 즉, 산소가 필요한 곳에는 보내고, 필요하지 않은 곳에는 가지 못하도록 정밀하게 조절하는 기술이 필요했다.
연구팀은 이를 해결하기 위해 질화규소/이산화규소/질화규소(SiN/SiO₂/SiN)로 구성된 새로운 다층 층간 절연막을 개발했다. 층간 절연막은 반도체 내부의 여러 소자와 배선 사이를 전기적으로 분리하는 막으로, 쉽게 말해 아파트의 층과 층 사이를 나누는 바닥과 천장 같은 역할을 한다.
연구팀은 이 절연막을 단순히 전기를 차단하는 용도로 사용하는 데서 한발 더 나아가, 산소의 이동까지 조절하는‘산소 터널(Oxygen Tunnel)’로 활용했다.
마치 복잡한 건물 안에서 사람이 아무 곳으로나 돌아다니지 않고 정해진 통로를 따라 필요한 장소로 이동하도록 동선을 설계한 것과 같다. 산소가 필요한 산화물 반도체 쪽으로는 이동할 수 있도록 하면서, 산화되면 안 되는 전극 쪽으로는 이동을 억제한 것이다. 그 결과 산화물 반도체 내부의 빈 산소 자리를 안정적으로 채우면서도 전극의 불필요한 산화를 동시에 억제할 수 있었다.
이를 통해 연구팀은 산화물 수직 채널 트랜지스터 분야에서 세계 최고 수준의 전류 흐름과 데이터 유지 시간(Retention Time)을 달성했다. 데이터 유지 시간이란 메모리가 저장된 정보를 얼마나 오랫동안 안정적으로 유지할 수 있는지를 나타내는 지표다.
내구성도 확인했다. 연구팀이 소자에 1,000만 회(10⁷) 이상의 가혹한 동작 스트레스를 가한 뒤에도 문턱전압(트랜지스터가 켜지기 시작하는 기준 전압)의 변화는 50밀리볼트(mV) 이하에 그쳤다. 이는 수많은 반복 동작에도 소자의 특성이 크게 흔들리지 않았다는 의미로, 높은 메모리 동작 안정성을 보여준다.
연구팀은 여기서 한발 더 나아가 기존 실리콘(Si) 기반 CMOS 반도체와 새로운 산화물 반도체를 하나로 결합하는 기술도 구현해 시스템 성능을 평가했다. CMOS는 현재 대부분의 컴퓨터와 스마트폰 반도체를 구성하는 기본 회로 기술이다.>
이번 기술은 향후 차세대 반도체 기술인 컴퓨트 인 메모리(Compute-in-Memory, CIM)의 성능을 높이는 데 활용될 것으로 기대된다.
현재 컴퓨터는 데이터를 저장하는 ‘메모리’와 계산을 담당하는 ‘프로세서’가 분리돼 있어 연산할 때마다 데이터를 서로 주고받아야 한다. 주방에 있는 재료를 요리할 때마다 멀리 떨어진 조리실로 옮겼다가 다시 가져오는 것과 같다. AI처럼 처리해야 할 데이터가 많아질수록 이 이동 과정에서 시간과 전력이 많이 소모된다.
컴퓨트 인 메모리는 이러한 문제를 해결하기 위해 데이터가 저장된 메모리 내부 또는 가까운 곳에서 연산까지 수행하는 기술이다. 재료가 있는 곳에서 바로 요리하는 셈이어서 데이터 이동을 줄이고 연산 속도와 전력 효율을 높일 수 있다.
이번 연구처럼 저전력 산화물 반도체와 기존 실리콘 회로를 3차원으로 결합하면, 좁은 면적에 더 많은 메모리와 연산 기능을 넣을 수 있어 AI가 대규모 데이터를 더 빠르고 적은 전력으로 처리할 수 있을 것으로 기대된다.
권지민 교수는 “고층 건물을 높이 지으려면 층수를 늘리는 것만큼 건물을 안정적으로 만드는 것이 중요하듯, 3차원 반도체도 많이 쌓으면서 안정적으로 작동하게 만드는 것이 핵심”이라며 “이번 기술은 AI 연산 속도를 높이면서 전력 소모는 줄이는 차세대 메모리 반도체 개발을 앞당길 것으로 기대한다”고 말했다.
이번 연구에는 KAIST 구현호 연구원이 제1저자로 참여했으며, 이용우 박사, 정학순 박사, 권지민 교수가 교신저자로 참여했다. UNIST, 연세대학교, 한국화학연구원, 서울과학기술대학교, 서울대학교 연구진도 공동 연구에 참여했다.
연구 결과는 재료과학 분야 국제학술지 ‘어드밴스드 펑셔널 머티리얼즈(Advanced Functional Materials)’에 5월 20일 게재됐으며, 연구의 학술적 중요성과 독창성을 인정받아 표지 논문(Front Cover)으로 선정됐다.
※ 논문명 : Oxygen-Tunnel Indium Tin Oxide Vertical Channel Transistors with Enhanced Current Density and Reliability for Monolithic 3D Compute-in-Memory Systems DOI : https://doi.org/10.1002/adfm.202531989
※ 저자 정보 : 구현호 (KAIST, 제1 저자) 및 이용우 (KAIST, 교신저자), 정학순 (KAIST, 교신저자), 권지민 (KAIST, 교신저자), 정회창 (UNIST, 공동저자), Yanfeng Zhao (UNIST, 공동저자), 양희수 (UNIST, 공동저자), 박민호 (UNIST, 공동저자), 이현진 (UNIST, 공동저자), 백승훈 (UNIST, 공동저자), 송민주 (UNIST, 공동저자), 김정환 (UNIST, 공동저자), 조영민 (KAIST, 공동저자), 박현진 (한국화학연구원, 공동저자), 김문현 (서울과학기술대학교, 공동저자), 김재준 (서울대학교, 공동저자), 이규호 (연세대학교, 공동저자), 김병조 (UNIST, 공동저자)
이번 연구는 과학기술정보통신부 한국연구재단 국가반도체연구실지원핵심기술개발사업 및 우수신진연구사업, 정보통신기획평가원 방송통신산업기술개발사업, 산업통상자원부 한국산업기술기획평가원 초격차기술개발사업 등의 지원을 받아 수행됐다.
데이터 속도 맞춰 스스로 반응하는 '카멜레온 AI 반도체' 개발
AI 반도체도 이제‘눈치'를 본다. 기존 AI 반도체는 입력 신호에 반응하는 속도와 정보를 기억하는 시간이 한 번 정해지면 바꿀 수 없는‘고정된 반응 특성'을 가졌지만, 이제는 데이터의 변화 속도에 맞춰 스스로 반응하는 시대가 열렸다. 우리 대학 연구진은 이 기술로 시간에 따라 변하는 데이터의 예측 오류를 기존보다 최대 40배 줄였다. 자율주행차와 로봇, 웨어러블 기기의 실시간 AI 성능을 높일 핵심 원천기술로 기대된다.
우리 대학은 전기및전자공학부·반도체공학대학원 최신현 석좌교수 연구팀이 입력되는 데이터의 변화 속도에 따라 반응 특성을 자유롭게 바꿀 수 있는 새로운 AI 반도체 소자‘프로그래머블 동적 멤트랜지스터(Programmable Dynamic Memtransistor, PDM)'와 이를 집적한 어레이를 개발했다고 7일 밝혔다.
멤트랜지스터(Memtransistor)는 정보를 저장하는 메모리(Memory)와 계산을 수행하는 트랜지스터(Transistor)의 기능을 하나로 결합한 차세대 반도체 소자다. 데이터를 계산하면서도 이전 정보를 기억할 수 있어 입력되는 데이터에 맞춰 반응 속도를 조절할 수 있는 것이 특징이다.
현실 세계의 데이터는 모두 같은 속도로 변하지 않는다. 심장 박동이나 음성처럼 매우 빠르게 변하는 정보가 있는가 하면, 날씨나 공장 설비 상태처럼 천천히 변하는 정보도 있다. 하지만 기존 AI 반도체는 입력 신호에 반응하는 속도와 그 상태를 유지하는 시간(시간 응답 특성)이 고정돼 있어, 서로 다른 속도의 데이터를 동시에 효율적으로 처리하는 데 한계가 있었다.
연구팀은 이러한 문제를 해결하기 위해 전기적 정보를 저장하는 층(전하 저장층)과 전자를 저장해 반도체의 반응 속도를 조절하는 층(전자 포획층)을 하나의 트랜지스터 안에 결합한 새로운 구조를 개발했다.
PDM은 데이터가 입력되면 전하 저장층에서 정보를 처리하고, 전자 포획층이 반도체가 원래 상태로 돌아가는 속도를 조절한다. 마치 운전자가 고속도로에서는 속도를 높이고 골목길에서는 속도를 줄이듯, 반도체도 데이터의 변화 속도에 맞춰 가장 적합한 반응 속도를 스스로 선택한다.
실험 결과 연구팀은 반도체가 입력 신호에 반응한 뒤 원래 상태로 돌아오는 시간을 약 5배 범위에서 조절했으며, 빠르게 반복되는 신호를 처리하는 능력(주파수 특성)도 10배 이상 폭넓게 조절할 수 있음을 확인했다.
특히 빠르게 변하는 정보와 느리게 변하는 정보가 함께 포함된 시계열 데이터(Time-series data, 시간의 흐름에 따라 연속적으로 생성되는 데이터) 예측 실험에서는 기존의 고정형 반도체보다 예측 오류를 최대 40배 줄이는 성능을 보였다.
또한 연구팀은 PDM을 여러 개 연결한 어레이(Array, 동일한 반도체 소자를 일정한 형태로 집적한 구조)를 제작해 실험한 결과, 기존 소프트웨어 기반 AI 시스템과 비슷한 정확도를 유지하면서도 훨씬 적은 에너지로 동작하는 것을 확인했다.
이번 기술은 별도의 복잡한 데이터 전처리 없이도 다양한 속도로 변하는 데이터를 효율적으로 처리할 수 있다. 또한 한 번 설정한 반응 특성은 전원을 계속 공급하지 않아도 유지되는 비휘발성(전원이 꺼져도 정보가 유지되는 특성)을 갖춰 에너지 소비를 줄일 수 있다. 여기에 현재 널리 사용되는 상용 반도체 공정(CMOS 공정)과도 호환돼 대량 생산과 상용화 가능성이 높다는 점에서도 의미가 크다.
최신현 석좌교수는 "이번 연구는 데이터의 변화 속도에 맞춰 반도체가 스스로 가장 적합한 방식으로 반응하는 AI 반도체를 구현한 것”이라며 "자율주행차와 로봇, 웨어러블 기기 등 다양한 AI 기기의 성능은 높이고 전력 소모는 줄이는 핵심 기술이 될 것으로 기대한다”고 말했다.
이번 연구는 KAIST 반도체공학대학원 김대원 박사과정이 제1저자로 참여했으며, 조윤호, 서석호, 김유진, 박시온, 장태환, 박채빈이 공동저자로 참여했다. 또한 삼성전자 반도체연구소 오영택 연구원과 이재덕 Fellow가 공동저자로 참여했으며, 최신현 교수가 교신저자를 맡았다. 연구 결과는 세계적인 권위의 국제학술지 ‘네이처 커뮤니케이션스(Nature Communications)’에 7월 게재됐다.
※논문명: Programmable memtransistor array with temporal dynamics modulation for efficient time-series data processing,
DOI : https://doi.org/10.1038/s41467-026-75211-5
본 연구는 과학기술정보통신부 한국연구재단 신소자원천기술개발사업, 정보통신기획평가원 ETRI연구개발지원사업, 산업통상자원부 한국산업기술진흥원(KIAT) 산업혁신인재성장지원사업, 삼성전자 등의 지원을 받아 수행되었다.
AI 데이터센터 냉각 전력 10분의 1로 줄인다
‘전력 먹는 하마'로 불리는 AI 데이터센터의 냉각 전력을 10분의 1 수준으로 줄일 수 있는 기술이 나왔다. 우리 대학 연구진은 반도체 칩 내부에 머리카락보다 가는 물길을 새겨 넣는 초고효율 액체 냉각 기술을 개발해 AI 반도체의 최대 난제로 꼽히는 발열 문제 해결 가능성을 제시했다.
우리 대학은 기계공학과 김성진 교수팀과 AX학과 이익진 교수팀이 공동연구를 통해 기존 매니폴드 마이크로채널(MMC, Manifold MicroChannel) 냉각 기술의 한계를 극복하고, 반도체 칩 내부에 매니폴드(manifold·냉각수를 여러 경로로 나누어 공급·회수하는 구조)와 마이크로채널(microchannel·머리카락보다 가는 미세 물길)을 결합한 초고효율 액체 냉각 기술을 개발했다고 16일 밝혔다.
AI 반도체의 성능이 높아질수록 칩에서 발생하는 열량도 빠르게 증가하고 있다. 그러나 기존 공랭 방식만으로는 차세대 AI 반도체에서 발생하는 열을 효과적으로 제거하기 어려워지고 있다. 이에 따라 반도체 칩 내부에 냉각수를 직접 흘려 열을 제거하는 액체 냉각 기술이 주목받고 있다.
특히 매니폴드 마이크로채널(MMC)은 머리카락보다 가는 미세 물길인 마이크로채널(microchannel)에 냉각수를 흘려 열을 제거하는 기술이다. 여기에 매니폴드를 적용하면 냉각수를 여러 지점에 동시에 공급할 수 있어 냉각 효율을 높일 수 있다.
이를 택배 배송에 비유하면 전국 물량을 서울 한 곳에서 보내는 대신 여러 지역 물류센터에서 나누어 배송하는 것과 같다. 물건이 이동하는 거리가 짧아지듯 냉각수의 이동 거리도 줄어들어 에너지 소모를 줄일 수 있다.
하지만 기존 MMC 연구에서는 냉각수가 일부 채널에 집중되고 다른 채널에는 충분히 공급되지 않는 문제가 있었다. 연구팀은 냉각수가 모든 채널에 고르게 흐르도록 구조를 최적화했다. 이를 위해 간단한 계산 모델과 정밀한 시뮬레이션을 함께 활용해 수많은 설계안을 분석했고, 냉각 성능은 높이면서도 에너지 손실은 줄일 수 있는 최적 구조를 찾아냈다.
연구팀은 최적화된 구조를 실제 실리콘 웨이퍼에 제작해 성능을 검증했다. 그 결과 냉각 효율을 나타내는 성능계수(COP, Coefficient of Performance·투입한 에너지 대비 제거한 열의 양을 나타내는 지표)는 106,000을 기록했다. 이는 냉각에 사용하는 에너지 1만큼으로 10만6천 배에 해당하는 열을 제거할 수 있다는 의미다.
이 수치는 2020년 국제학술지 ‘네이처(Nature)’에 보고된 기존 세계 최고 수준보다 10배 이상 높은 수준이다. 쉽게 말해 같은 양의 열을 식히는 데 필요한 에너지가 기존 기술의 10분의 1 수준으로 줄어든 것이다.
특히 이번 성과는 액체가 끓으며 열을 제거하는 복잡한 냉각 방식이나 나노 표면 처리, 다이아몬드 같은 고가 소재 없이 상온의 물만으로 구현됐다. 또한 현재 반도체 생산라인에서 추가 설비 투자 없이 적용할 수 있어 상용화 가능성도 높다.
이번 연구는 5mm×5mm 크기의 실험용 칩에서 검증됐으나, 연구팀은 동일한 설계 원리를 현재 AI 데이터센터에 쓰이는 GPU·TPU 등 대형 AI 반도체(최대 7.5cm×7.5cm)에도 적용할 수 있다고 밝혔다. 실제로 이를 데이터센터의 콜드 플레이트(냉각수를 흘려 열을 제거하는 금속 냉각판)에 적용한 결과, 기존 대비 30% 이상 향상된 냉각 성능을 확인했다. 연구팀은 향후 엔비디아(NVIDIA)의 차세대 AI 플랫폼인 '베라 루빈(Vera Rubin)'급 초고성능 칩에도 이 기술이 활용될 수 있을 것으로 기대하고 있다.
연구팀은 이번 기술이 AI 반도체를 비롯해 고성능 컴퓨팅(HPC), 3차원 반도체 패키징, 전력반도체, 국방 전자장비 등 발열이 큰 다양한 전자장치의 열관리 문제 해결에 활용될 것으로 전망했다. 특히 AI 데이터센터의 경우 냉각에 많은 전력이 사용되는 만큼, 이번 기술이 데이터센터의 전력 소비와 운영 비용을 줄이는 핵심 기술이 될 것으로 기대된다.
김성진 교수는 "AI 시대에는 반도체 성능보다 열을 얼마나 효과적으로 제어하느냐가 경쟁력"이라며 "이번 기술이 AI 데이터센터의 전력 소비를 줄이는 핵심 기술로 활용되기를 기대한다"고 말했다.
이번 연구에는 KAIST 기계공학과 이영진, 황철현, 이한솔 연구원이 공동 제1저자로 참여했으며, 연구 결과는 국제 학술지 ‘Energy Conversion and Management’에 6월 15일 게재됐다.
※ 논문명: Highly energy-efficient manifold microchannel for cooling electronics with a coefficient of performance over 100,000, DOI: https://doi.org/10.1016/j.enconman.2026.121422
한편 본 연구는 과학기술정보통신부 재원 한국연구재단(NRF) 중견연구자지원사업(2021R1A2C3011944)과 방위사업청 재원 국방기술진흥연구소(KRIT) 초고열유속 냉각시스템 특화연구실 사업(KRIT-CT-22-022)의 지원을 받아 수행됐다.
나만을 위한 ‘영혼의 단짝’ AI 반도체 ‘소울메이트’ 세계 최초 개발
우리가 일상적으로 사용하는 챗GPT(ChatGPT)와 같은 거대 언어 모델(LLM)은 수많은 질문에 능숙하게 답하지만, 정작 사용자의 사소한 습관이나 이전 대화 맥락등은 알지 못한다. 인공지능이 생활 깊숙이 들어왔음에도 여전히 ‘남’처럼 느껴지는 이유다. 우리 대학 연구진이 이러한 한계를 넘어 사용자의 말투와 취향, 감정까지 실시간으로 배우고 닮아가는, 이른바 ‘영혼의 단짝’ 같은 인공지능 반도체를 세계 최초로 개발했다.
우리 대학은 인공지능반도체대학원 유회준 교수 연구팀이 사용자의 특성에 맞춰 스스로 진화하는 개인 맞춤형 거대 언어 모델(LLM) 가속기‘소울메이트(SoulMate)’를 개발했다고 17일 밝혔다.
이번 기술은 기존의 ‘모두를 위한 AI’를 넘어 사용자의 대화 스타일과 선호도를 학습해 반응하는 ‘나만을 위한 초개인화 AI’ 시대를 앞당길 핵심 반도체 기술로 평가된다.
연구팀이 개발한 ‘소울메이트’의 핵심은 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 온디바이스(On-Device) AI 기술이다. 연구팀은 기억된 대화 내용을 바탕으로 맞춤형 답변을 생성하는 검색증강생성(RAG) 기술과 사용자의 피드백을 즉각 반영해 학습하는 로우 랭크 미세조정(LoRA) 기술을 반도체 내부에 직접 구현했다.
이를 통해 ‘소울메이트’는 0.2초(216.4ms) 라는 경이로운 속도로 사용자에게 응답하며 동시에 학습까지 수행하는 실시간 개인화 AI 시스템을 구현했다.
또한 정보의 중요도에 따라 처리 방식을 최적화하는 혼합 랭크(Mixed-Rank) 아키텍처를 적용해 전력 소모를 획기적으로 줄였다. 해당 반도체는 스마트폰 프로세서 소비전력의 1/500 수준인 단 9.8밀리와트(mW)의 초저전력으로도 복잡한 학습과 추론을 동시에 수행할 수 있어 스마트폰 등 모바일 기기에서도 배터리 걱정없이 구동될 수 있다.
특히 모든 개인 데이터가 외부 서버로 전송되지 않고 기기 내부에서만 처리되는 ‘보안 완결형 AI’ 구조를 구현해 개인정보 유출 우려를 근본적으로 차단했다. 연구팀은 이 기술이 향후 스마트폰, 웨어러블 기기, 개인형 AI 디바이스 등 차세대 플랫폼과 결합해 진정한 개인화 인공지능 서비스 시대를 열 것으로 기대하고 있다.
유회준 교수는 “이번 연구는 사람들이 서로 우정을 쌓아가는 과정을 모방해 AI가 사용자의 진정한 동반자로 발전할 수 있는 기술적 기반을 마련한 것”이라며 “미래의 인공지능은 단순한 도구를 넘어, 개인의 프라이버시를 완벽히 보호하면서도 언제 어디서나 나를 가장 잘 이해하는 ‘베프(Best Friend)’와 같은 존재가 될 것”이라고 말했다.
홍성연 박사과정 연구원이 제1 저자로 참여한 이번 연구는 지난 2월 16일부터 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 ‘하이라이트 논문(Highlight Paper)’으로 선정되며 전 세계 학계의 주목을 받았다.
※ 논문명: SoulMate: A 9.8mW Mobile Intelligence System-on-Chip with Mixed-Rank Architecture for On-Device LLM Personalization, 논문 링크: https://ieeexplore.ieee.org/document/11409048
연구팀은 학회 현장에서 실제 반도체 칩을 활용해 사용자의 반응에 따라 답변 스타일이 실시간으로 변화하는 시연에 성공하며 한국 AI 반도체 기술의 우수성을 입증했다. ‘소울메이트’AI반도체는 교원 창업기업인‘(주)온뉴로AI’를 통해 2027년경 제품화할 예정이다.
한편 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)의 정보통신방송혁신인재양성사업 지원을 받아 수행됐다.
엔비디아보다 2.1배 빠른 유튜브 추천...‘버벅임’없앴다
유튜브 영상 추천이나 금융 사기 탐지처럼 사람 사이의 복잡한 관계를 빠르게 분석하는 핵심 AI 기술로 ‘그래프 신경망(GNN, Graph Neural Network)’이 있다. 여기서 말하는 그래프는 우리가 떠올리는 그래프 그림이 아니라, 사람과 사람 사이의 연결 관계를 뜻한다. 우리 대학 연구진은 엔비디아보다 추천 속도는 2.1배 빠르고, 지연은 줄이며, 전력 소모까지 낮춘 AI 반도체 기술 ‘오토GNN(AutoGNN)’을 개발해 주목받고 있다.
우리 대학은 전기및전자공학부 정명수 교수 연구팀이 그래프 신경망 기반 인공지능의 추론 속도를 획기적으로 높일 수 있는 AI 반도체 기술 ‘오토GNN’을 세계 최초로 개발했다고 5일 밝혔다.
연구팀은 서비스 지연의 주된 원인이 인공지능 추론 이전 단계인 그래프 전처리(Graph Preprocessing) 과정에 있음을 밝혀냈다. 이 과정은 전체 계산 시간의 70~90%를 차지하지만, 기존 GPU는 복잡한 관계 구조를 정리하는 연산에 한계가 있어 병목 현상이 발생해 왔다.
이를 해결하기 위해 연구팀은 입력 데이터 구조에 따라 반도체 내부 회로를 실시간으로 바꾸는 적응형 AI 가속기 기술을 설계했다. 분석해야 할 데이터의 연결 방식에 맞춰 반도체가 스스로 가장 효율적인 구조로 바뀌는 방식이다.
연구팀은 필요한 데이터만 골라내는 UPE 모듈과 이를 빠르게 정리·집계하는 SCR 모듈을 반도체 안에 구현했다. 데이터의 양이나 형태가 바뀌면 이에 맞춰 최적의 모듈 구성이 자동으로 적용돼, 어떤 상황에서도 안정적인 성능을 유지할 수 있도록 했다.
성능 평가 결과, 오토GNN은 엔비디아의 고성능 GPU(RTX 3090) 대비 2.1배 빠른 처리 속도를 기록했으며, 일반 CPU 대비 9배 빠른 성능과 함께 에너지 소모를 3.3배 줄이는 효율성을 보였다.
이번 기술은 추천 시스템이나 금융 사기 탐지처럼 복잡한 관계 분석과 빠른 응답이 필요한 인공지능 서비스에 즉시 적용할 수 있다. 데이터 구조에 따라 스스로 최적화되는 AI 반도체 기술을 확보함으로써, 향후 대규모 데이터를 다루는 지능형 서비스의 속도와 에너지 효율을 동시에 높일 수 있는 기반이 마련됐다는 평가다.
정명수 교수는 “이번 연구는 불규칙한 데이터 구조를 효과적으로 처리할 수 있는 유연한 하드웨어 시스템을 구현했다는 점에서 의미가 크다”며 “추천 시스템은 물론 금융·보안 등 실시간 분석이 필요한 다양한 AI 분야에 활용될 것”이라고 말했다.
이번 연구는 2026년 1월 31일부터 호주 시드니에서 열리는 컴퓨터 아키텍처 분야 최우수 국제학술대회인 제32회 ‘IEEE International Symposium on High-Performance Computer Architecture (HPCA 2026)’에서 2월 4일 발표됐다.
※ 논문명: AutoGNN: End-to-End Hardware-Driven Graph Preprocessing for Enhanced GNN Performance, https://2026.hpca-conf.org/details/hpca-2026-main-conference/69/AutoGNN-End-to-End-Hardware-Driven-Graph-Preprocessing-for-Enhanced-GNN-Performance
이 연구는 삼성미래기술육성사업의 지원을 받았다.
KAIST, 인공지능 반도체 생태계를 선도하다
인공지능 반도체(이하 AI 반도체)가 국가적인 전략기술로 두드러지면서 KAIST의 관련 성과도 주목받고 있다. 과학기술정보통신부는 지난해 2030년 세계 AI 반도체 시장 20% 점유를 목표로 인공지능 반도체 지원사업에 본격적으로 착수한 바 있다. 올해에는 산학연 논의를 거쳐 5년간 1조 200억 원을 투입하는 `인공지능 반도체 산업 성장 지원대책'으로 지원을 확대했다. 이에 따라 AI 반도체 전문가 양성을 위해 주요 대학들의 행보도 분주해졌다.
KAIST는 반도체와 인공지능 양대 핵심 분야에서 최상급의 교육, 연구 역량을 쌓아 왔다. 반도체 분야에서는 지난 17년 동안 메사추세츠 공과대학(이하 MIT), 스탠퍼드(Stanford)와 같은 세계적인 학교를 제치고 국제반도체회로학회(이하 ISSCC, International Solid State Circuit Conference)에서 대학 중 1위를 지켜 왔다는 점이 돋보인다. ISSCC는 1954년 설립된 반도체 집적회로 설계 분야 세계 최고 권위 학회다. 참가자 중 60% 이상이 삼성, 퀄컴, TSMC, 인텔을 비롯한 산업계 소속일만큼 산업적인 실용성을 중시해서 `반도체 설계 올림픽'이라는 별명도 있다.
KAIST는 ISSCC에서 채택 논문 수 기준 매년 전 세계 대학교 중 1~2위를 유지했다. 최근 17년간 평균 채택 논문 수를 살펴보면 압도적인 선두다. 해당 기간 채택된 KAIST의 논문은 평균 8.4편으로, 경쟁자인 MIT(4.6편)와 캘리포니아대학교 로스앤젤레스(UCLA)(3.6편)에 비해 두 배 가까운 성과다. 국내에서는 반도체 설계 분야 부동의 1위인 삼성에 이어 종합 2위 자리를 유지하고 있다. 그럴 뿐만 아니라 ISSCC와 쌍벽을 이루는 집적회로 분야 학술대회인 초고밀도집적회로학회에서도 KAIST는 2022년 전 세계 대학 중 1위를 기록했다.
KAIST의 연구진들이 반도체 산업 핵심 분야 전반에서 신기술을 발표해 연구의 질적인 수준도 높다. 전기및전자공학부 정명수 교수 연구팀은 고성능 저전력을 추구하는 현재 업계의 수요에 대응해 전력 공급 없이도 동작을 유지하는 컴퓨터를 개발했다. 소재 분야에서는 신소재공학과의 박병국 교수 연구팀이 기존의 메모리에 비해 동작 속도가 10배 이상 빠른 `스핀궤도토크 자성메모리' 소자를 개발해서 기존 `폰노이만 구조'의 한계를 극복하는 방안을 제시하기도 했다.
이처럼 현재 반도체 산업의 주요 과제에 솔루션을 제공하는 한편으로 미래의 새로운 반도체 분야를 선점하는 데 필요한 신기술 개발도 활발하다. 암호 및 비선형 연산 분야에서 차세대 컴퓨팅으로 주목받는 양자컴퓨팅 분야에서는 전기및전자공학부 김상현 교수 연구팀이 3차원 집적 기술을 세계 최초로 선보였다. 신경계의 원리를 활용해 인공지능 분야에서 발군의 성능을 보일 것으로 기대되는 뉴로모픽 컴퓨팅에서는 전기및전자공학부 최신현 교수 연구팀이 신경세포를 모사하는 차세대 멤리스터를 개발 중이다.
인공지능 분야에서도 비약적으로 성장했다. 인공지능 분야의 양대 세계 최고 권위 학회인 국제머신러닝학회(ICML)과 인공신경망학회(NeurIPS) 논문 수 기준으로 KAIST는 2020년 세계 6위, 아시아에서는 1위를 기록했다. KAIST의 순위는 2012년부터 꾸준히 우상향 그래프를 그려 8년만에 37위에서 6위로, 무려 31계단이나 도약했다. 2021년에는 인공지능 분야 톱 학회 11개에 발표된 한국 논문 중 약 40%에 달하는 129편이 KAIST에서 나왔다. KAIST의 이러한 활약에 힘입어 2021년 한국은 글로벌 인공지능 톱 학회 등재 논문 수 기준으로 미국, 중국, 영국, 캐나다, 독일에 이어 6위에 올랐다.
내용 면에서도 KAIST의 인공지능 연구는 최전선에 있다. 전기및전자공학부 유회준 교수 연구팀은 모바일기기에서 인공지능 실시간 학습을 구현해 에지 네트워크의 단점을 보완했다. 인공지능을 구현하려면 데이터 축적관 막대한 양의 연산이 필요한데, 이를 위해 고성능 서버가 방대한 연산을 담당하고 사용자 단말은 데이터 수집과 간단한 연산만 하는 `에지 네트워크'가 사용된다. 유 교수의 연구는 사용자 단말에 학습 능력을 부여함으로써 인공지능의 처리 속도와 성능을 크게 높일 수 있다.
지난 6월에는 전산학부 김민수 교수 연구팀이 초대규모 인공지능 모델 처리에 꼭 필요한 솔루션을 제시했다. 연구팀이 개발한 초대규모 기계학습 시스템은 현재 업계에서 주로 사용되는 구글의 텐서플로우(Tensorflow)나 IBM의 시스템DS 대비 최대 8.8배나 빠른 속도를 달성할 수 있을 것으로 기대된다.
KAIST는 반도체와 인공지능이 결합된 AI 반도체 분야에서도 주목할만한 성과를 내고 있다. 2020년 전기및전자공학부 유민수 교수 연구팀은 세계 최초로 추천시스템에 최적화된 AI 반도체를 개발하는 데 성공했다. 인공지능 추천시스템은 방대한 콘텐츠와 사용자 정보를 다룬다는 특성상 범용 인공지능 시스템으로 운영하면 병목현상으로 성능에 한계가 있다. 유민수 교수팀은 `프로세싱-인-메모리(이하 PIM, Processing-In-Memory)' 기술을 기반으로 기존 시스템 대비 최대 21배 빠른 속도를 낼 수 있는 반도체를 개발했다. PIM은 처리할 데이터를 임시로 저장하기만 하던 `램'에서 연산까지 수행해 효율을 높이는 기술이다. PIM 기술이 본격적으로 상용화되면 메모리 분야에서 강세인 한국 기업의 AI 반도체 시장 경쟁력이 비약적으로 높아질 것으로 기대된다.
KAIST는 그간의 성과에 안주하지 않고 인공지능 및 반도체, 그리고 AI 반도체 분야 초격차를 유지하고자 다각적인 노력을 기울이고 있다. 1990년 국내 최초로 인공지능연구센터를 설립한 데 이어 2019년에는 김재철AI대학원을 개설해 전문인력을 양성 중이다. 2020년에는 인공지능과 반도체 연구를 융합해 ITRC 인공지능반도체시스템 연구센터가 출범했으며, 2021년에는 인공지능을 다양한 분야에 접목하는 `AI+X' 연구를 활성화하고자 김재철AI대학원과 별도로 AI 연구원을 설립했다.
KAIST는 이러한 노력으로 축적된 내적 역량을 바탕으로 네이버 등 기업과 공동연구센터를 설립하는 한편, 화성시와 같은 지자체와 협력해 동시다발적인 전문인력 양성에 나섰다. 지난 2021년에는 삼성전자와 함께 반도체시스템공학과 설립 협약을 체결하고 새로운 반도체 전문인력 교육과정을 준비하고 있다. 새로 설립되는 반도체시스템공학과는 2023년부터 매년 100명 내외의 신입생을 선발하고, 이들이 전문역량을 꽃피울 수 있도록 학생 전원에게 특별장학금을 지급할 예정이다. 또한 산업계와의 긴밀한 협력을 통해 삼성전자 견학과 인턴십, 공동 워크숍을 지원해 현장에 밀착한 교육을 제공할 예정이다.
KAIST는 국내 반도체 분야 박사 인력의 25%, 박사 출신 중견 및 벤처기업 CEO의 20%를 배출하며 한국 반도체 산업 생태계가 성장하는 데 중대한 공헌을 했다. 본격적으로 열린 AI 반도체 경쟁 체제를 앞두고 KAIST가 다시 산업 생태계의 구심점 역할을 할지 귀추가 주목된다.
유회준 교수, 딥러닝용 AI 반도체 개발
우리대학 전기및전자공학부 유회준 교수 연구팀이 스타트업 '유엑스 팩토리'와 함께 가변 인공신경망 기술을 적용해 딥러닝을 효율적으로 처리하는 AI 반도체를 개발했다. 딥러닝이란 컴퓨터가 마치 사람처럼 스스로 학습할 수 있도록 인공신경망을 기반으로 구축한 '기계 학습' 기술이다.
유 교수 연구팀이 개발한 새로운 칩은 반도체 안에서 인공신경망의 무게 정밀도를 조절함으로써 에너지 효율과 정확도를 조절한다. 1비트부터 16비트까지 소프트웨어로 간편하게 조절하면서 상황에 맞춰 최적화된 동작을 얻어낸다. 하나의 칩이지만 '콘볼루션 신경망'(CNN)과 '재귀 신경망'(RNN)을 동시에 처리할 수 있다. CNN은 이미지를 분류나 탐지하는 데 쓰이며, RNN은 주로 시간의 흐름에 따라 변화하는 영상과 음성 등 데이터 학습에 적합하다. 또 통합 신경망 프로세서(UNPU)를 통해 인식 대상에 따라 에너지효율과 정확도를 다르게 설정하는 것도 가능하다.
모바일에서 AI 기술을 구현하려면 고속 연산을 '저전력'으로 처리해야 한다. 그렇지 않으면 한꺼번에 많은 정보를 처리하면서 발생하는 발열로 인해 배터리 폭발 등의 사고가 일어날 수 있기 때문이다. 연구팀에 따르면 이번 칩은 세계 최고 수준 모바일용 AI 칩 대비 CNN과 RNN 연산 성능이 각각 1.15배, 13.8배이 달한다. 에너지효율도 40% 높은 것으로 나타났다.
스마트폰 카메라를 통해 사람의 얼굴 표정을 인식해 행복, 슬픔, 놀람, 공포, 무표정 등 7가지의 감정을 자동으로 인식하는 감정인식 시스템도 개발됐다. 이 시스템은 감정 상태를 스마트폰 상에 실시간으로 표시한다. 유 교수 연구팀의 이번 연구는 지난 13일 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 발표됐다.
유회준 교수는 "기술 상용화에는 1년 정도 더 걸릴 전망"이라며 " 모바일에서 AI를 구현하기 위해 저전력으로 가속하는 반도체를 개발했으며, 향후 물체인식, 감정인식, 동작인식, 자동 번역 등 다양하게 응용될 것으로 기대된다"고 설명했다.