-
AI 메모리 병목 뚫었다... KAIST 참여 ‘터보퀀트’, 최대 6배 압축
AI 성능을 좌우해온 ‘메모리 병목’이 뚫렸다. 우리 대학이 참여한 국제 공동연구팀이 최대 6배까지 메모리를 줄이면서도 성능은 유지하는 차세대 알고리즘을 공개하며, AI 산업은 물론 반도체 수요 구조까지 바꿀 기술적 전환점을 제시했다. 고용량 중심에서 고효율 중심으로 전환되면서, AI는 더 저렴해지고 빠르게 확산되는 동시에 반도체 수요 역시 질적으로 고도화될 전망이다.
우리 대전기및전자공학부 한인수 교수가 참여한 구글 리서치(Google Research), 딥마인드(DeepMind), 뉴욕대(New York University) 공동 연구팀이 인공지능(AI) 모델의 고질적인 한계로 꼽혀온 메모리 과부하 문제를 해결할 차세대 양자화 알고리즘 ‘터보퀀트(TurboQuant)’를 공개했다고 27일 밝혔다.
AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤, 벡터 간 유사도를 계산해 작동한다. 이 과정에서 고정밀(high-precision) 데이터를 사용하기 때문에 막대한 메모리 자원이 필요한 점이 주요 한계로 지적돼 왔다.
터보퀀트는 이러한 고정밀 데이터를 더 적은 비트로 압축해 표현하는 ‘양자화(quantization)’ 기술을 활용한다. 쉽게 말해, 소수점 데이터를 정수로 근사하는 방식으로, 핵심 정보는 유지하면서도 저장 용량과 연산 부담을 크게 줄이는 기술이다.
이번 연구에서 터보퀀트는 AI 모델 내부 정보를 효율적으로 압축해 정확도 저하를 거의 없이 최대 6배까지 메모리를 절감하는 데 성공했다. 특히 AI 추론 과정에서 가장 큰 장애물로 꼽히는 메모리 병목 문제를 효과적으로 해소한 점이 핵심 성과다.
터보퀀트의 핵심은 두 단계로 나누어진 양자화 구조다. 먼저 1단계에서는 입력 데이터를 무작위로 회전(Random Rotation)시킨 뒤 각 요소를 개별적으로 양자화한다. 이 과정은 데이터 내 극단값(outlier)을 줄여 압축 효율을 높이는 역할을 한다. 해당 방식은 한인수 교수가 참여한 기존 연구 ‘폴라퀀트(PolarQuant)’에서도 활용된 바 있다.
이어 2단계에서는 1단계에서 발생한 오차(residual)를 다시 한 번 양자화한다. 이때 적용되는 QJL(Quantized Johnson-Lindenstrauss) 기법은 데이터를 {-1, 1} 값만으로 표현하는 초경량(1비트) 방식으로, 정보 손실을 최소화하면서도 연산 효율을 극대화할 수 있다.
이러한 기술적 발전은 반도체 메모리 시장에도 중장기적인 활력을 불어넣을 것으로 기대된다. 단기적으로는 동일한 AI 모델을 구동하는 데 필요한 메모리 용량이 줄어들어 수요 성장이 둔화되는 것처럼 보일 수 있으나, 전문가들은 오히려 이를 'AI 대중화의 기폭제'로 보고 있다. 낮아진 메모리 문턱은 스마트폰이나 가전 등 온디바이스 AI 기기부터 대규모 데이터센터에 이르기까지 AI 적용 범위를 비약적으로 넓힐 수 있고, 결국 AI 서비스가 일상으로 확산되어 훨씬 더 큰 규모의 서비스에서 새로운 메모리 수요가 창출되는 ‘수요의 질적 고도화’와 ‘양적 팽창’이 동시에 일어날 것으로 기대한다.
특히 터보퀀트의 핵심 기술인 QJL과 폴라퀀트 연구에 KAIST 한인수 교수가 공동 연구자로 참여함으로써, 국내 연구진이 글로벌 빅테크의 핵심 AI 알고리즘 개발에 직접 기여했다는 점에서 의미가 크다.
한인수 교수는 “AI 모델의 성능이 커질수록 메모리 사용량이 급격히 증가하는 것이 가장 큰 한계로 지적되어 왔다”며, “이번 연구는 이러한 병목을 효과적으로 줄이면서도 정확도를 유지할 수 있는 새로운 방향을 제시했다”고 설명했다.
이어 “앞으로 대규모 AI 모델을 보다 효율적으로 운영할 수 있는 핵심 기반 기술로 활용될 것으로 기대한다”고 덧붙였다.
한편, 폴라퀀트 연구는 5월에 개최하는 AI와 통계(머신러닝 이론 포함)를 다루는 국제 최상위 학회인 AISTATS (Artificial Intelligence and Statistics) 2026에서 발표될 예정이며, 한국연구재단의 “기초연구실” 사업 지원 (No. RS-2024-00406715)을 받아 수행되었다.
2026.03.28
조회수 3147
-
KAIST-프린스턴대, 기후위기 대응 ‘넷제로 코리아’ 공식 출범
우리 대학 녹색성장지속가능대학원 전해원 교수 연구팀이 미국 프린스턴대학교 앤드링거 환경·에너지 연구센터와 탄소중립 공동연구 추진을 위한 양해각서(MOU)를 체결하고, ‘넷제로 코리아(Net-Zero Korea, 이하 NZK)’ 프로젝트를 공식 출범했다고 27일 밝혔다. 이번 프로젝트는 부산 벡스코에서 열린 기후산업국제박람회(WCE) 현장에서 발표됐으며, 구글의 시드펀딩으로 시작된다.
NZK 프로젝트는 단기적으로 한국의 에너지 및 산업 부문의 탄소중립 전환을 가속화하고, 중장기적으로는 정책 수립과 실행을 위한 한국의 에너지시스템 모델링 역량을 강화하는 것을 목표로 한다. 에너지 시스템 모델링은 청정에너지로과 탄소중립으로의 전환을 연구하는데 핵심적인 역할을 한다.
특히, 이번 연구는 프린스턴대가 2021년 발표해 주목을 받은 ‘넷제로 아메리카(Net-Zero America)’ 프로젝트의 선도적 모델링 방법론을 KAIST의 통합평가 모형 연구와 접목하여 한국 실정에 맞게 적용할 계획이다.
넷제로 코리아 프로젝트는 구글, KAIST, 프린스턴대학교의 재원으로 추진된다. 이번 연구는 지역별 토지 이용 변화부터 일자리 창출에 이르기까지 다양한 요소를 정밀 분석하고, 그에 따른 에너지·산업시스템의 변화를 구체적으로 시각화하는 것이 특징이다. 또한 국제 협력 네트워크를 기반으로 연구를 진행하는 한편, 한국의 특수성을 반영한 모델링을 수행한다. 특히 KAIST는 국제무역 영향을 통합한 최적화 기반 오픈소스 에너지·산업시스템 모델을 개발해 글로벌 학계와 정책 연구에 기여할 예정이다.
따라서 이번 모델링 연구의 핵심은 ‘넷제로 아메리카(Net-Zero America)’에서 주목받았던 정밀한 분석과 현실적 접근 방법을 한국에 적용하는 데 있다. 이를 통해 높은 공간적·시간적·부문별·기술적 해상도로 에너지와 산업시스템의 변화를 구체적으로 시각화하고, 지역별 토지 이용 변화, 자본 투자 규모, 일자리 창출, 대기오염에 따른 건강 영향 등 다양한 요소를 종합적으로 분석함으로써 이해관계자들에게 실질적이고 신뢰성 있는 정보를 제공할 수 있다.
아울러 우리 대학 연구팀은 호주, 브라질, 중국, 인도, 폴란드 등 세계 주요 연구기관과 국가 단위 탈탄소화 모형 연구를 수행해 온 프린스턴대 연구진과 협력하여, 글로벌 연구 네트워크를 활용한 공동연구를 진행할 예정이다.
우리 대학은 한국에 특성화된 글로벌 통합평가모형(IAM) 개발 경험을 바탕으로, 최적화 기반 오픈소스 에너지·산업시스템 모델에 국제무역 영향을 통합하는 새로운 시도를 주도할 예정이다. 무역이 경제 전반에서 중요한 역할을 하는 한국의 특수성을 반영해 기존의 국가 단위 에너지 모델링 한계를 보완하고자 한다.
프린스턴대 측 연구책임자인 웨이 펑(Wei Peng) 교수는 "KAIST의 세계적 수준 통합평가 모델링 전문가들과 협력을 통해 매크로에너지 모형과 통합평가 모형의 장점을 접목한 새로운 연구를 통해 한국처럼 무역이 경제에서 중요한 역할을 하는 많은 국가에 적용할 수 있는 역량을 구축할 수 있을 것”이라고 말했다.
안토니아 가웰(Antonia Gawel) 구글 파트너십 담당 디렉터는 “KAIST와 프린스턴대가 한국에서 진행하는 이번 의미 있는 연구를 지원하게 되어 매우 기쁘게 생각한다”며 “이는 2030년까지 당사 공급망 전반에서 넷제로 배출을 달성하려는 구글의 목표에 큰 도움이 될 것”이라고 밝혔다.
전해원 녹색성장지속가능대학원 교수는 “넷제로 연구를 선도해 온 프린스턴 대학교와의 공동연구를 통해 한국 탄소중립과 지속가능한 에너지의 달성에 과학적인 근거 기반을 제공할 수 있기를 기대한다”고 말했다.
이광형 총장은 “KAIST는 프린스턴대학교와 미국과 한국의 대표 연구기관으로 손잡고 기후위기 대응을 위한 과학 기반 정책 지원 체계를 공동 구축한게 되어 매우 뜻깊게 생각한다. 이번 협력은 한국 사회의 탄소중립 달성뿐만 아니라 글로벌 기후위기 대응에도 중요한 기여가 될 것이다”라고 전했다.
2025.08.28
조회수 11201
-
구글딥마인드와 공동연구를 통해 인공지능으로 시각을 상상하다
‘노란 포도'나 `보라색 바나나'와 같이 본 적 없는 시각 개념을 이해하고 상상하는 인공지능 능력 구현이 가능해졌다.
우리 대학 전산학부 안성진 교수 연구팀이 구글 딥마인드 및 미국 럿거스 대학교와의 국제 공동 연구를 통해 시각적 지식을 체계적으로 조합해 새로운 개념을 이해하는 인공지능 새로운 모델과 프로그램을 수행하는 벤치마크를 개발했다고 30일 밝혔다.
인간은 `보라색 포도'와 `노란 바나나' 같은 개념을 학습하고, 이를 분리한 뒤 재조합해 `노란 포도'나 `보라색 바나나'와 같이 본 적 없는 개념을 상상하는 능력이 있다. 이런 능력은 체계적 일반화 혹은 조합적 일반화라고 불리며, 범용 인공지능을 구현하는 데 있어 핵심적인 요소로 여겨진다.
체계적 일반화 문제는 1988년 미국의 저명한 인지과학자 제리 포더(Jerry Fodor)와 제논 필리쉰(Zenon Pylyshyn)이 인공신경망이 이 문제를 해결할 수 없다고 주장한 이후, 35년 동안 인공지능 딥러닝 분야에서 큰 도전 과제로 남아 있다. 이 문제는 언어뿐만 아니라 시각 정보에서도 발생하지만, 지금까지는 주로 언어의 체계적 일반화에만 초점이 맞춰져 있었고, 시각 정보에 관한 연구는 상대적으로 부족했다.
안성진 교수가 이끄는 국제 공동 연구팀은 이러한 공백을 메우고자 시각 정보에 대한 체계적 일반화를 연구할 수 있는 벤치마크를 개발했다. 시각 정보는 언어와는 달리 명확한 `단어'나 `토큰'의 구조가 없어, 이 구조를 학습하고 체계적 일반화를 달성하는 것이 큰 도전이다.
연구를 주도한 안성진 교수는 “시각 정보의 체계적 일반화가 범용 인공지능을 달성하기 위해 필수적인 능력이며 이 연구를 통해 인공지능의 추론능력과 상상능력 관련 분야의 발전을 가속할 것으로 기대한다”고 말했다.
또한, 딥마인드의 책임 연구원으로 연구에 참여한 연구원이자 현재 스위스 로잔연방공과대학교(EPFL)의 찰라 걸셔(Caglar Gulcehre) 교수는 “체계적 일반화가 가능해지면 현재보다 훨씬 적은 데이터로 더 높은 성능을 낼 수 있게 될 것이다”라고 전했다.
이번 연구는 12월 10일부터 16일까지 미국 뉴올리언스에서 열리는 제37회 신경정보처리학회(NeurIPS)에서 발표될 예정이다.
관련논문: “Imagine the Unseen World: A Benchmark for Systematic Generalization in Visual World Models”, Yeongbin Kim, Gautam Singh, Junyeong Park, Caglar Gulcehre, Sungjin Ahn, NeurIPS 23
2023.11.30
조회수 13499
-
어떻게 트위터가 급성장 할 수 있었나?
- 트위터 네트워크의 성장은 오프라인 사회관계망에서 점차적으로 시작 - 전통적인 미디어의 영향력으로 네트워크가 폭발적으로 성장함을 관찰
트위터가 세계적으로 유명세를 타는 데는 전통적인 사회관계망의 역할뿐만 아니라 미디어의 주목이 커다란 기여를 했다는 사실이 국내연구진에 의해 규명됐다.
우리 학교 문화기술대학원 차미영 교수가 최근 MIT 마르타 곤잘레즈(Marta Gonzalez) 연구팀과 함께 오프라인에서 인간관계에 절대적인 영향을 미치는 지역, 사회, 경제적 요인과 더불어 미디어의 주목이 초기 트위터의 성장에 커다란 영향을 미쳤음을 분석해냈다.
대다수 신기술처럼 트위터는 가장 먼저 젊고, 과학기술을 잘 이용하는 샌프란시스코와 보스톤의 사용자들에게 먼저 도입됐다. 그다음 단계에서는 인접도시로 점진적으로 확산되기 시작해 오프라인 사회관계망이 정보전파에 주된 역할을 했음이 연구결과 조사됐다.
예를 들어 처음 도입한 두 도시와 지역적으로 근거리에 있는 캘리포니아의 버클리와 매사추세츠 주의 소머빌의 사용자들이 트위터를 도입했고, 이후에는 산타페, LA 등을 통해 최종적으로 팜비치, 뉴왁 등 전국으로 확산됨을 보여줬다.
이번 연구에서 사회관계망과 더불어 주목한 것은 텔레비전이나 신문과 같은 전통미디어의 역할이다.
차 교수 연구팀은 매주 구글 뉴스를 검색해 기사에 트위터가 몇 번이나 언급되었는지 데이터를 모으고 또 같은 시점의 트위터 사용자 수를 조사했다. 그리고 나서 뉴스기사에서의 트위터 언급 횟수와 사용자 수의 상관관계를 분석한 결과 이 둘은 같은 추이를 보인 것으로 나타나 미디어가 트위터의 성장에 커다란 영향을 준 것으로 결론을 내렸다.
차 교수팀은 이와 함께 트위터의 성장에 대한 미디어의 영향을 알아보기 위해 또 다른 흥미로운 사례에 주목했다.
2009년 4월 할리우드 영화배우 애쉬튼 커쳐는 CNN에 출연해 누가 먼저 백만명의 팔로어를 갖게 될 것인지에 대한 내기를 제안했고, 약 이틀 만에 백만명의 팔로어를 보유하게 됐다. 또한 오프라 윈프리가 첫 번째 트윗을 하는 것이 미디어에서 다뤄지는데 이는 또 다시 트위터 사용자수의 급격한 증가를 불러일으킨 계기가 됐다.
KAIST 차미영 교수가 MIT연구팀과 공동으로 실시한 이번 연구는 2006년부터 2009년까지의 트위터 데이터를 바탕으로 미국 내 408개 도시에서의 트위터 성장세를 분석해, 이를 토대로 전염병의 확산모델과 유사한 사회관계망 기반의 확산모델을 수립해 밝혀냈다.
한편, 이번 연구결과는 미국의 온라인 과학전문지 ‘공중과학도서관 원(Public Library of Science ONE)’ 저널에 곧 게재될 예정이며 MIT news, 미국 과학전문 소셜미디어 Mashable.com, 그리고 MSNBC.com등에도 소개됐다.
[그림.1] 해당 시간대에 각 지역별로 최종 가입자의 13.5%에 해당하는 ‘크리티컬 매스’에 해당하는 사용자들이 가입을 한 지역이 검은 원으로 표기된다. 작은 회색원은 이미 크리티컬 매스에 이른 지역을 표기한다. 트위터의 첫 도입은 샌프란시스코에서 시작되었으며 다음으로 주변 도시들에서 도입되는 것을 통해, 오프라인 사회관계망이 확산에 중요함을 시사한다. 반면 보스톤과 같은 지역에서도 초기 도입이 되었으며 이는 사회관계망 뿐만 아니라 인터넷과 같은 매체의 영향을 시사한다.
[그림.2] a. 그래프에서 검은 실선은 주별 최대가입자수를 1.0으로 보았을 때 매주별 트위터 가입자수의 변화를 나타낸다. 빨간실선은 같은 해당주에 대해 구글 뉴스에서 트위터가 언급된 비율을 나타낸다. 트위터 서비스가 시작된지 140주 이후에 각종 미디어를 통해 트위터가 많이 언급됨을 볼 수 있고, 따라서 트위터의 주별 가입자수 역시 급격히 상승하는 트렌드를 볼 수 있다.
b. 그래프는 매주 트위터에 가입한 총사용자수를 나타내는 검은 선과 이를 예측하는 다양한 모델의 결과를 보여주는 점선을 보여준다. 전통적인 확산모델의 경우 (파란점선) 초기 트위터의 성장세는 잘 예측하지만, 추후 미디어의 영향력 이후의 급성장을 보여주지 못한다. 구글 검색 결과를 반영하여 확산모델을 변형하면 (검은점선 및 노란점선) 실제 데이터와 유사한 트렌드를 예측할 수 있다.
[동영상링크]http://www.youtube.com/watch?feature=player_embedded&v=Ncon_z67VQs
지도상의 각 원은 트위터 사용자들이 있는 미국 내 도시를 의미한다. 시간에 따라 더욱 많은 사용자가 트위터에 가입할수록 원의 크기가 커진다. 각 지역별로 최종 가입자의 13.5%에 해당하는 ‘크리티컬 매스’에 해당하는 사용자들이 가입을 하면 원은 빨간색으로 표기된다. 화면 중앙에 하얀선으로 표기되는 그래프는 시간에 따른 트위터의 주별 가입자수를 의미한다.
2012.01.04
조회수 19406