< (왼쪽부터) KAIST 오성룡 박사과정, 김윤성 박사과정, 김원웅 박사과정, 이유빈 박사과정, 정지용 석사과정 (동그라미 사진 왼쪽부터) 전산학부 박종세 교수, 조지아텍 다비야 마하잔 교수, 스웨덴 웁살라 대학 박창현 교수 >
최근 인공지능(AI) 모델이 길고 복잡한 문장을 이해하고 처리하는 능력이 커지면서, 연산 속도와 메모리 효율을 동시에 높일 수 있는 새로운 반도체 기술의 필요성이 커지고 있다. 이런 가운데 우리 대학 ·국제연구진이 거대언어모델(LLM)의 추론 속도는 4배 높이면서 전력 소비는 2.2배 줄인 트랜스포머(Transformer)와 맘바(Mamba) 하이브리드 구조 기반의 AI 반도체 핵심 두뇌 기술을 세계 최초로 메모리 내부에서 직접 연산이 가능한 형태로 구현하는 데 성공했다.
우리 대학은 박종세 교수 연구팀이 미국 조지아 공과대학교(Georgia Institute of Technology) 및 스웨덴 웁살라 대학교(Uppsala University)와 공동연구를 통해, 차세대 인공지능 모델의 두뇌 역할을 하는 ‘AI 메모리 반도체(PIM, Processing-in-Memory)’ 기반 기술 ‘PIMBA’를 개발했다고 17일 밝혔다.
현재 ChatGPT, GPT-4, Claude, Gemini, Llama 등 LLM은 모든 단어를 동시에 보는 ‘트랜스포머(Transformer)’ 두뇌 구조를 기반으로 작동한다. 이에 따라, AI 모델이 커지고 처리 문장이 길어질수록 연산량과 메모리 요구량이 급증해, 속도 저하와 에너지 소모가 주요 문제로 지적돼 왔다.
이런 트랜스포머 문제점을 보완하기 위해 최근 제시된 순차형 기억형 두뇌인 ‘맘바(Mamba)’ 구조는 시간의 흐름에 따라 정보를 처리하는 방식을 도입해 효율을 높였지만, 여전히 메모리 병목 현상(memory bottleneck)과 전력 소모 한계가 남아 있었다.
박종세 교수 연구팀은 트랜스포머와 맘바의 장점을 결합한 ‘트랜스포머–맘바 하이브리드 모델’의 성능을 극대화하기 위해, 연산을 메모리 내부에서 직접 수행하는 새로운 반도체 구조 ‘PIMBA’를 설계했다.
기존 GPU 기반 시스템은 데이터를 메모리 밖으로 옮겨 연산을 수행하지만, PIMBA는 데이터를 옮기지 않고 저장장치 내부에서 바로 계산을 수행한다. 이로써 데이터 이동 시간을 최소화하고 전력 소모를 크게 줄일 수 있다.
< 포스트-트랜스포머 모델 분석 및 문제해결형 가속 시스템 제안 >
그 결과, 실제 실험에서 PIMBA는 기존 GPU 시스템 대비 처리 성능이 최대 4.1배 향상되었고, 에너지 소비는 평균 2.2배 감소하는 성과를 보였다.
연구 성과는 오는 10월 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 ‘제58회 국제 마이크로아키텍처 심포지엄(MICRO 2025)’에서 발표될 예정이며, 앞서 ‘제31회 삼성휴먼테크 논문대상’ 금상을 수상해 우수성을 인정받았다.
※논문명: Pimba: A Processing-in-Memory Acceleration for Post-Transformer Large Language Model Serving, DOI: 10.1145/3725843.3756121
이번 연구는 정보통신기획평가원(IITP), 인공지능반도체대학원 지원사업, 그리고 과학기술정보통신부와 정보통신기획평가원의 ICT R&D 프로그램의 일환으로 한국전자통신연구원(ETRI)의 지원을 받아 수행되었으며, EDA 툴은 반도체설계교육센터(IDEC)의 지원을 받았다.
-
행사 IDEC·삼성전자, 국내 반도체 인재에 14나노 FinFET 첨단 반도체 공정 최초 지원
우리 대학은 국내 대학 연구실에서도 삼성전자의 14나노 FinFET(Fin Field Effect Transistor, 핀 전계효과 트랜지스터) 첨단 공정을 활용해 실제 반도체 칩을 설계·제작하고 성능까지 검증할 수 있는 길이 열렸다고 16일 밝혔다. 그동안 높은 제작 비용과 인프라 한계로 대학이 접근하기 어려웠던 첨단 공정을 교육과 연구 현장에 개방함으로써, 국내 시스템반도체 교육이 이론 중심에서 실제 산업 현장 중심으로 한 단계 도약할 것으로 기대된다. 이를 위해 KAIST 반도체설계교육센터(IC Design Education Center, 이하 IDEC)는 지난 15일 IDEC 동탄교육장에서 삼성전자와 '시스템반도체 14나노 공정 지원'을 위한 협약을 체결했다. 이번 협약은 정부 지원사업인 '반도체핵심IP 설계전문인력양성사업'을 기반으로 추진됐으며, 국내 대학원생과 연구자들에게 첨단 공정 기반의 설계와 칩 제작 경험을 제공해 대학의 시스템반도체 설계 교육을
2026-07-16 -
기부 동문 이범규 팀스파르타 대표, AI 연구지원 위해 1억 원 기부
우리 대학은 동문인 AI 교육기업 팀스파르타 이범규 대표가 생성형 AI 에이전트 기반 연구지원 프로그램 운영을 위해 전산학부에 1억 원을 기부했다고 16일 밝혔다. 우리 대학은 이번 기부를 바탕으로 약 2년간 전 학과 석·박사 연구자를 대상으로 생성형 AI 에이전트 활용 지원 프로그램을 운영할 계획이다. 연구자들은 ‘클로드 코드(Claude Code)',‘코덱스(Codex)' 등 최신 AI 개발 에이전트를 활용할 수 있으며, 관련 교육과 정기 세미나에도 참여하게 된다. 기부식은 지난 15일 대전 KAIST 본원에서 열렸으며, 이범규 대표와 이재길 KAIST 전산학부장, 류석영 KAIST 전산학부 교수가 참석했다. 이번 후원은 지난해 9월에 이은 이 대표의 두 번째 사재 출연이다. 프로그램은 6개월 단위로 운영되며 기수당 20명의 연구자를 선발할 예정이다. 제1기는 연내 선발을 목표로 하고 있으며, 장기적으로는 지원 범위와 참여 기부자를 확대
2026-07-16 -
연구 ‘나만의 AI’ 더 안전하게 만든다...AI 개인화 시대 핵심기술 개발
“우리 회사 문서만 학습한 AI 비서를 만들어줘.” 기업과 개인이 자신의 문서와 데이터를 AI에 학습시켜 ‘나만의 AI’를 만드는 시대가 열리고 있다. 하지만 AI를 맞춤형으로 학습시키면 업무 능력은 높아지는 반면 기존의 안전장치가 약해질 수 있다는 한계가 있었다. 국내 연구진이 맞춤형 성능은 그대로 유지하면서 안전성은 오히려 높이는 AI 핵심 기술을 개발했다. 우리 대학은 전기및전자공학부 김창익 교수 연구팀이 챗GPT와 같은 대형언어모델(LLM, Large Language Model)을 개인이나 기업의 데이터에 맞게 다시 학습시키는 파인튜닝(Fine-tuning, 기존 AI에 새로운 지식이나 업무를 추가로 학습시키는 과정)에서 안전성이 훼손되는 문제를 해결하는 ‘버퍼 앤드 리인포스(Buffer-and-Reinforce)’ 학습 프레임워크를 개발했다고 15일 밝혔다. 기존에는 AI를 맞춤형으로 학습시키면 새
2026-07-15 -
연구 반도체 속 '전기 병목현상' 해결 실마리 찾았다
반도체 안에서 전기가 흐르는 길목이 막히면 성능이 떨어지고 전력 낭비가 커진다. 국내 연구진이 이러한 ‘전기 병목현상’을 해결할 수 있는 새로운 구조를 개발하고, 전기가 끊김 없이 흐르는 모습을 세계 최초로 확인했다. 이번 성과는 AI 반도체와 초저전력 반도체 등 미래 반도체의 성능과 전력 효율을 높일 핵심 원천기술로 기대된다. 우리 대학은 신소재공학과 홍승범 교수 연구팀이 신소재공학과 강기범 교수, 성균관대학교(총장 유지범) 조성범 교수 연구팀과 공동으로 차세대 반도체 소자로 주목받는 2차원 소재(원자 한두 층 두께의 초박막 소재)에서 전기가 막힘없이 흐르는 새로운 구조를 구현하고, 이를 나노미터(㎚, 10억분의 1m) 수준에서 직접 관찰할 수 있는 분석 플랫폼을 개발했다고 13일 밝혔다. 반도체는 금속 전극과 반도체가 만나는 경계에서 접촉 저항(Contact Resistance, 서로 다른 두 물질이 맞닿는 경계에서 전기가 흐를 때 발생하는 저항) 때
2026-07-13 -
연구 집에서 뇌혈관질환 위험 신호 미리 찾는 AI 기술 개발
뇌혈관질환은 치료 시기를 놓치면 심각한 후유증으로 이어질 수 있지만, 증상이 나타나기 전에는 알아차리기 어렵다. 국내 연구진이 실제 고령자의 일상생활 데이터를 분석해 집에서 나타나는 작은 변화만으로 뇌혈관질환 위험을 조기에 감지하는 AI 기술을 개발했다. 우리 대학은 건설및환경공학과 임리사 교수 연구팀이 성균관대학교(총장 유지범) 전자전기공학부 정조운 교수, 고려대학교(총장 김동원) 안암병원 신경과 조경희 교수 연구팀과 공동으로 실제 고령자의 주거환경에서 장기간 수집된 라이프로그 데이터를 활용해 뇌혈관질환 진단 전 위험단계를 식별하고, 진단이 임박한 위험 상태까지 평가하는 AI 프레임워크를 개발했다고 12일 밝혔다. 이번 연구는 ㈜리본케어가 실제 주거환경에서 수집한 고령자 1,224명의 라이프로그 데이터를 기반으로 수행됐다. 연구팀은 14일 단위로 구성한 총 13,362개의 생활 데이터 표본을 분석해 질환이 발생한 뒤 병원에서 치료하는 기존 접근에서 벗어나, 일상생활 속
2026-07-13