AI 메모리 병목 뚫었다... KAIST 참여 ‘터보퀀트’, 최대 6배 압축
AI 성능을 좌우해온 ‘메모리 병목’이 뚫렸다. 우리 대학이 참여한 국제 공동연구팀이 최대 6배까지 메모리를 줄이면서도 성능은 유지하는 차세대 알고리즘을 공개하며, AI 산업은 물론 반도체 수요 구조까지 바꿀 기술적 전환점을 제시했다. 고용량 중심에서 고효율 중심으로 전환되면서, AI는 더 저렴해지고 빠르게 확산되는 동시에 반도체 수요 역시 질적으로 고도화될 전망이다.
우리 대전기및전자공학부 한인수 교수가 참여한 구글 리서치(Google Research), 딥마인드(DeepMind), 뉴욕대(New York University) 공동 연구팀이 인공지능(AI) 모델의 고질적인 한계로 꼽혀온 메모리 과부하 문제를 해결할 차세대 양자화 알고리즘 ‘터보퀀트(TurboQuant)’를 공개했다고 27일 밝혔다.
AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤, 벡터 간 유사도를 계산해 작동한다. 이 과정에서 고정밀(high-precision) 데이터를 사용하기 때문에 막대한 메모리 자원이 필요한 점이 주요 한계로 지적돼 왔다.
터보퀀트는 이러한 고정밀 데이터를 더 적은 비트로 압축해 표현하는 ‘양자화(quantization)’ 기술을 활용한다. 쉽게 말해, 소수점 데이터를 정수로 근사하는 방식으로, 핵심 정보는 유지하면서도 저장 용량과 연산 부담을 크게 줄이는 기술이다.
이번 연구에서 터보퀀트는 AI 모델 내부 정보를 효율적으로 압축해 정확도 저하를 거의 없이 최대 6배까지 메모리를 절감하는 데 성공했다. 특히 AI 추론 과정에서 가장 큰 장애물로 꼽히는 메모리 병목 문제를 효과적으로 해소한 점이 핵심 성과다.
터보퀀트의 핵심은 두 단계로 나누어진 양자화 구조다. 먼저 1단계에서는 입력 데이터를 무작위로 회전(Random Rotation)시킨 뒤 각 요소를 개별적으로 양자화한다. 이 과정은 데이터 내 극단값(outlier)을 줄여 압축 효율을 높이는 역할을 한다. 해당 방식은 한인수 교수가 참여한 기존 연구 ‘폴라퀀트(PolarQuant)’에서도 활용된 바 있다.
이어 2단계에서는 1단계에서 발생한 오차(residual)를 다시 한 번 양자화한다. 이때 적용되는 QJL(Quantized Johnson-Lindenstrauss) 기법은 데이터를 {-1, 1} 값만으로 표현하는 초경량(1비트) 방식으로, 정보 손실을 최소화하면서도 연산 효율을 극대화할 수 있다.
이러한 기술적 발전은 반도체 메모리 시장에도 중장기적인 활력을 불어넣을 것으로 기대된다. 단기적으로는 동일한 AI 모델을 구동하는 데 필요한 메모리 용량이 줄어들어 수요 성장이 둔화되는 것처럼 보일 수 있으나, 전문가들은 오히려 이를 'AI 대중화의 기폭제'로 보고 있다. 낮아진 메모리 문턱은 스마트폰이나 가전 등 온디바이스 AI 기기부터 대규모 데이터센터에 이르기까지 AI 적용 범위를 비약적으로 넓힐 수 있고, 결국 AI 서비스가 일상으로 확산되어 훨씬 더 큰 규모의 서비스에서 새로운 메모리 수요가 창출되는 ‘수요의 질적 고도화’와 ‘양적 팽창’이 동시에 일어날 것으로 기대한다.
특히 터보퀀트의 핵심 기술인 QJL과 폴라퀀트 연구에 KAIST 한인수 교수가 공동 연구자로 참여함으로써, 국내 연구진이 글로벌 빅테크의 핵심 AI 알고리즘 개발에 직접 기여했다는 점에서 의미가 크다.
한인수 교수는 “AI 모델의 성능이 커질수록 메모리 사용량이 급격히 증가하는 것이 가장 큰 한계로 지적되어 왔다”며, “이번 연구는 이러한 병목을 효과적으로 줄이면서도 정확도를 유지할 수 있는 새로운 방향을 제시했다”고 설명했다.
이어 “앞으로 대규모 AI 모델을 보다 효율적으로 운영할 수 있는 핵심 기반 기술로 활용될 것으로 기대한다”고 덧붙였다.
한편, 폴라퀀트 연구는 5월에 개최하는 AI와 통계(머신러닝 이론 포함)를 다루는 국제 최상위 학회인 AISTATS (Artificial Intelligence and Statistics) 2026에서 발표될 예정이며, 한국연구재단의 “기초연구실” 사업 지원 (No. RS-2024-00406715)을 받아 수행되었다.
서성배 교수, 당뇨에 큰 영향 미치는 뇌 혈당조절 신경세포 발견
〈 오양균 박사, 서성배 교수 〉
우리 대학 생명과학과 서성배 교수와 뉴욕대학교(NYU) 오양균 박사 공동연구팀이 초파리 모델 시스템을 이용해 뇌 속에 체내 혈당에 직접적인 기능을 하는 포도당 감지 신경세포를 발견하고 그 구체적인 원리를 밝혔다.
이번 연구는 초파리 뇌 속의 포도당 감지 신경세포가 인슐린 생산 조직 활성화, 글루카곤 생산 조직 활동 억제 등을 통해 체내 혈당 조절에 어떻게 관여하는지를 처음으로 밝혀낸 중요한 단서로, 당뇨병의 진단 및 치료에 새로운 가능성을 열 것으로 기대된다.
생명과학과 출신의 오양균 박사가 1 저자로 참여하고 서성배 교수가 교신저자로 참여한 이번 연구 결과는 국제학술지 ‘네이처(Nature)’ 10월 23일 자 온라인판에 게재됐다. (논문명 :A glucose-sensing neuron pair regulates insulin and glucagon in Drosophila)
한국인의 당뇨병 유병률은 14%로 2018년 기준 환자 500만 명을 돌파했다. 당뇨병 증가속도 세계 1위, 잠재적 환자는 4명 중 1명꼴이지만 발병원인은 정확하게 규명되지 않았다. 유전적 요인과 환경적 요인이 존재하지만 대부분 췌장 인슐린 분비세포 기능이 저하되면서 병이 시작되는 것으로 알려져 있다.
최근에는 뇌가 당뇨병의 정도에 영향을 미칠 수 있다는 사실이 밝혀지기도 했다. 대부분 당뇨병 환자에게 스트레스가 당뇨병 증세에 영향을 미치고 혈당 조절을 어렵게 하는데 뇌 어딘가에 존재하는, 알려지지 않은 혈당 조절 능력 때문이라는 것이 학계 주장이다.
서성배 교수 연구팀은 오래전부터 초파리를 이용해 혀나 내장기관뿐 아니라 동물의 뇌 속에도 포도당을 감지하는 세포와 수용체가 존재한다는 사실을 연구해왔다. 인간 두뇌의 시상하부나 후뇌 등에 포도당을 감지하는 신경세포가 존재할 것이라는 점은 예측돼왔지만, 이런 세포들이 어떻게 포도당을 감지해 몸의 각 부위에 명령을 내리는지에 대한 연구는 지금까지 없었다.
연구팀은 초파리 전체 뇌 신경조직을 대상으로 한 광범위한 스크리닝을 통해 초파리가 포도당의 영양적 가치를 판단하는데 필수적인 한 쌍의 신경세포를 발견했다. 이 한 쌍의 신경세포가 체내 포도당 농도 증가에 반응해 활성화되는 특징을 가지고 있음을 파악했다.
연구팀은 약학적, 유전학적 방식을 사용해 이들 세포가 인간의 췌장 세포와 유사한 분자적 시스템을 통해 포도당을 인지한다는 사실을 확인했다. 이를 기반으로 연구팀은 포도당 감지 신경세포가 어떠한 신경세포 및 조직에 신호를 전달하는지에 대해 연구했다.
연구팀은 해당 신경세포가 초파리의 인슐린 생산을 담당하는 신경조직(insulin-producing cells, IPCs)과 글루카곤의 기능을 하는 단백질을 생산하는 조직(AKH-producing cells)에 각각 축삭돌기(Axon, 신경 세포체에서 뻗어 나온 돌기)를 이루고 있음을 확인했다.
이 결과는 한 쌍의 포도당 감지 신경세포가 체내 혈당 조절에 중요한 호르몬을 생산하는 조직들에 직접 체내 영양 정보를 전달할 수 있다는 가능성을 발견한 것이다.
이를 확인하기 위해서 연구팀은 포도당 감지 신경세포와 두 호르몬 분비 조직들 사이의 물리적, 기능적 상호작용들을 확인했다. 그 결과 한 쌍의 포도당 감지 신경세포가 활성화된 경우 인슐린 생산 조직 역시 활성화되며 반면에 글루카곤 생산 조직의 활동은 억제됨을 확인했다.
또한, 연구팀은 포도당 감지 신경세포를 억제할 경우 인슐린 생산 조직의 억제로 인해 혈중 인슐린 농도가 감소하며, 글루카곤 생산 조직에 대한 억제가 사라짐에 따라 혈중 글루카곤 농도가 증가 됨을 확인했다. 이들 호르몬의 변화로 인해 혈중 포도당 농도가 유의미하게 증가함을 최종적으로 확인했다.
뇌 속에 단 한 쌍의 포도당 감지 신경세포만의 활동을 조절함으로써 당뇨병의 증상을 가지는 초파리를 인위적으로 만들 수 있는 것이다.
한발 더 나아가 연구팀은 초파리에서 신경전달 기능을 하는 짧은 단백질의 한 종류인 sNPF(small Neuropeptide F)가 해당 포도당 감지 신경세포에서 발현됨을 파악하고 포도당에 노출됐을 때 이 신경전달물질이 분비됨을 확인했다. 또한, 연구팀은 인슐린 생산 조직과 글루카곤 생산 조직에서 sNPF 의 수용체가 포도당 감지 신경세포의 신호를 받는데 필수적인 역할을 함을 증명했다.
서성배 교수는 “이번 연구 결과는 초파리에서 의미 있는 발견을 했다는 사실을 넘어 당뇨병 원인 규명과 치료의 패러다임을 근본적으로 바꿀 수 있는 계기를 마련한 것이다”라며 “뇌에서 만들어지는 신호가 체내 혈당 조절에 근본적인 역할을 함이 구체적으로 규명되면 한 단계 진보된 당뇨병의 진단 및 치료뿐 아니라 비만, 대사질환 치료도 가능해질 것이다”라고 말했다.
□ 그림 설명
그림1,2. 서성배 교수 연구성과 개념도. 혈당에 반응하는 CN neuron의 Axon이 두 갈래로 갈라지며 갈라진 axonal branch는 인슐린을 만드는 세포를 활성화시키고 다른 갈라진 axonal branch는 글루카곤을 만드는 세포를 억제시킴