%41%49%20%ec%97%90%ec%9d%b4%ec%a0%84%ed%8a%b8
-
AI 에이전트의 ‘숨은 전력 비용’ 세계 최초 규명
AI가 스스로 생각하고 행동하는 ‘AI 에이전트' 시대가 열리면서 데이터센터의 전력 소비가 새로운 과제로 떠오르고 있다. 우리 대학 연구진이 세계 최초로 AI 에이전트의 계산 비용과 에너지 소비를 분석한 결과, 기존 생성형 AI보다 질문 한 건당 최대 136.5배 많은 에너지를 사용하는 것으로 나타났다. 이번 연구는 AI 시대의 경쟁력이 모델 성능을 넘어 데이터센터와 전력 인프라의 효율성으로 확대되고 있음을 보여준다.
우리 대학은 전기및전자공학부 유민수 석좌교수 연구팀은 AI 에이전트가 실제 서비스 환경에서 얼마나 많은 계산 자원과 전력을 사용하는지를 세계 최초로 체계적으로 분석했다고 5일 밝혔다.
최근 챗GPT(ChatGPT)와 같은 대형 언어 모델(LLM, Large Language Model·사람의 언어를 이해하고 글을 생성하는 인공지능 모델) 기반 어플리케이션은 단순히 질문에 답하는 수준을 넘어 스스로 계획을 세우고, 인터넷 검색이나 계산기, 코드 실행 등 다양한 외부 도구를 활용해 복잡한 문제를 해결하는 AI 에이전트(AI Agent·여러 도구를 스스로 활용해 목표를 수행하는 차세대 인공지능) 로 빠르게 발전하고 있다.
이러한 AI 에이전트는 소프트웨어 개발, 연구, 업무 자동화 등 다양한 분야에서 활용이 확대되고 있지만, 이를 실제 운영하기 위해 얼마나 많은 전력과 비용이 필요한지는 거의 알려져 있지 않았다.
연구팀은 AI 에이전트를 단순한 프로그램이 아니라 데이터센터의 서버와 GPU(Graphics Processing Unit·대규모 AI 계산을 수행하는 고성능 반도체) 가 지속적으로 처리해야 하는 새로운 형태의 작업인 워크로드(Workload·컴퓨터가 수행해야 하는 전체 계산 작업) 로 정의하고, 실제 실행 과정에서 발생하는 계산량과 에너지 소비를 분석했다.
분석 결과, AI 에이전트는 기존의 단계별 추론(Chain-of-Thought, CoT·AI가 사람처럼 생각 과정을 하나씩 전개하며 답을 찾는 방식)과 달리 반복적으로 여러 차례 대형 언어 모델 호출(LLM Invocation·AI가 언어 모델에 새로운 판단이나 답변 생성을 요청하는 계산 과정)을 수행하는 것으로 나타났다.
이처럼 언어 모델을 반복적으로 호출하면서 응답 시간도 크게 증가했다. AI 에이전트의 답변 시간은 최대 153.7배 늘어났으며, 외부 도구가 작업을 수행하는 동안 GPU는 전체 실행 시간의 최대 54.5% 를 아무 계산도 하지 못한 채 대기하는 것으로 분석됐다. 즉, AI가 더 복잡한 일을 수행할수록 고가의 GPU를 충분히 활용하지 못하는 새로운 비효율이 발생하는 것이다.
연구팀은 AI 에이전트가 사용하는 전력도 데이터센터 규모에서 분석했다. 현재 상용 AI 서비스 수준인 700억 개의 매개변수(파라미터, Parameter·AI가 학습한 지식과 능력을 저장하는 값) 를 가진 대형 언어 모델을 사용하는 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41와트시(Wh·전기를 얼마나 사용했는지를 나타내는 에너지 단위) 의 전력을 소비했다. 이는 기존 생성형 AI의 단순 질의응답 방식보다 136.5배 높은 수준이다.
또한 하루 137억 건의 AI 에이전트 요청이 발생하는 미래 환경을 가정해 분석한 결과, 데이터센터 전력 수요는 약 198.9기가와트(GW·국가 단위 전력망에서 사용하는 매우 큰 규모의 전력 용량) 에 이를 것으로 추정됐다. 이는 현재 세계 각국이 추진 중인 수 기가와트(GW) 규모의 AI 데이터센터를 크게 뛰어넘는 수준이며, 미국 전체 평균 전력 소비량의 약 절반에 해당하는 규모다.
이번 연구는 AI 시대의 경쟁력이 '더 똑똑한 AI'에서 '더 효율적인 AI'로 옮겨가고 있음을 보여준다. 앞으로는 AI 모델만 발전시키는 것이 아니라 AI 반도체, 데이터센터, 전력 인프라를 함께 최적화하는 '공동 설계(Co-design)'가 필수 전략이 될 것으로 기대된다. 이는 AI 서비스의 운영 비용을 낮추고, 지속가능한 AI 인프라를 구축하는 핵심 기술이 될 전망이다.
유민수 석좌교수는 “이번 연구는 단순히 AI가 더 똑똑해지는 것을 넘어, 그 지능을 구현하고 유지하기 위해 얼마나 많은 전력과 비용이 필요한지를 정량적으로 제시한 첫 사례”라며, “향후 AI 에이전트가 보편화되는 시대에는 AI 데이터센터 인프라 뿐만 아니라 AI 에이전트 모델과 전력 인프라까지 통합적으로 공동 설계(co-design)하여 최적화하는 접근이 더욱 중요해질 것”이라고 밝혔다. 이어 “이를 통해 최종 사용자가 AI 서비스를 활용하는 데 소요되는 비용을 획기적으로 절감하고, 동시에 지속가능한 AI 인프라를 구축하기 위한 연구와 투자가 필수적”이라고 강조했다.
이번 연구는 KAIST 전기및전자공학부 김지인 박사과정 학생이 제1저자로 수행했으며, 컴퓨터 시스템 설계 분야 최고 권위 국제학회인 32회 IEEE HPCA(International Symposium on High-Performance Computer Architecture)에서 지난 2월 발표됐다. 연구팀은 논문에서 활용한 AI 에이전트 구현 기술과 벤치마크(Benchmark·AI 성능을 객관적으로 비교·평가하기 위한 표준 시험 환경)를 오픈소스로 공개해 전 세계 연구자들이 후속 연구에 활용할 수 있도록 했다.
※ 논문명 : The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective
※ 오픈소스 : https://github.com/VIA-Research/AgentBench
※ 논문 링크: https://doi.org/10.1109/HPCA68181.2026.11408569
본 연구는 정보통신기획평가원(IITP)의 SW스타랩(Starlab), AI 반도체를 활용한 K-클라우드기술개발사업, AI 반도체 기반 데이터센터 고도화 선도기술개발사업 및 삼성전자 미래기술육성센터의 지원을 받아 수행됐다.
2026.07.06 조회수 2371 -
AI 환각 줄이고 정확도 78% 높였다... 차세대 데이터베이스 기술 개발
기업의 방대한 데이터를 읽고 이해하는 AI 에이전트의 가장 큰 약점은 ‘환각(Hallucination·사실과 다른 정보를 그럴듯하게 생성하는 현상)'이다. 우리 대학 연구진이 문서와 데이터, 개체 간 관계를 한 번에 이해할 수 있는 차세대 데이터베이스 기술을 개발해 AI 답변 정확도를 최대 78% 높이고 처리 속도는 최대 20배 향상시키며 기업용 AI 상용화의 핵심 난제 해결에 나섰다.
우리 대학은 전산학부 김민수 교수 연구팀이 교원창업기업인 (주)그래파이와 협력하여 벡터 DB, 그래프 DB, 관계형 DB 기능을 하나의 데이터베이스 관리 시스템(DBMS)에 통합한 차세대 데이터베이스 기술 '아카식DB(AkasicDB)'와 이를 기반으로 한 새로운 검색증강생성(RAG, Retrieval-Augmented Generation) 기법 '옴니RAG(Omni RAG)'를 개발했다고 19일 밝혔다.
아카식DB는 벡터 DB(문서나 이미지의 의미를 숫자 벡터로 변환해 유사한 정보를 찾는 DB), 그래프 DB(사람·기업·제품 등 개체 간 관계를 저장·분석하는 DB), 관계형 DB(표 형태의 데이터를 체계적으로 관리하는 전통적인 DB)의 기능을 하나의 데이터베이스 관리 시스템(DBMS, Database Management System·데이터를 저장·관리·검색하는 소프트웨어)에서 통합 실행할 수 있도록 설계됐으며, 이를 기반으로 개발된 옴니RAG는 문서의 의미 정보와 개체 간 관계, 구조화된 데이터를 동시에 활용해 생성형 AI의 답변 정확도를 높인다.
최근 AI 에이전트는 기업이 보유한 방대한 문서와 전문 지식을 검색한 뒤 이를 바탕으로 답변을 생성하는 RAG 기술을 기반으로 빠르게 확산되고 있다. 그러나 실제 기업 데이터는 문서, 표, 개체 간 관계 등 다양한 형태로 분산돼 있어 AI가 이를 종합적으로 이해하고 활용하기 어렵다. 이 때문에 AI가 충분한 근거 없이 사실과 다른 답변을 생성하는 환각 문제가 발생하며, 이는 기업용 AI 확산을 가로막는 핵심 과제로 꼽혀 왔다.
기존 RAG는 사용자의 질문과 문서를 벡터로 변환한 뒤 의미적으로 유사한 문서를 검색해 대규모언어모델(LLM, Large Language Model·방대한 데이터를 학습해 인간과 유사한 언어를 생성하는 AI 모델)에 제공하는 방식이 일반적이다. 이러한 방식은 비정형 문서 검색에는 효과적이지만, 문서 속 개체 간 관계나 특정 기간·유형·범위와 같은 구조화된 조건을 함께 고려해야 하는 복합 질의에는 한계가 있었다.
예를 들어 "작년에 체결된 계약서 중 A사와 관련된 조항을 찾고, 해당 조항이 어떤 제품 공급 이슈와 연결되는지 설명해 달라"는 질의는 문서 의미를 찾는 벡터 검색, 개체 간 관계를 탐색하는 그래프 검색, 날짜와 유형을 필터링하는 관계형 질의가 동시에 필요하다. 기존 시스템에서는 이를 위해 여러 종류의 데이터베이스를 별도로 구축하고 응용프로그램 계층에서 결과를 결합해야 했기 때문에 관리 복잡성과 응답 지연이 발생했다.
연구팀은 이러한 문제를 해결하기 위해 벡터 유사도 검색, 그래프 탐색, 관계형 필터링을 하나의 질의와 실행 계획 안에서 통합 수행하는 옴니RAG를 제안했다. 옴니RAG는 문서의 의미 정보, 지식 그래프의 관계 정보, 표 형태 데이터의 구조적 조건을 동시에 활용해 보다 정확한 근거를 찾아내고 AI의 환각 현상을 크게 줄인다.
이를 지원하기 위해 개발된 아카식DB는 그래프 DB, 벡터 DB, 관계형 DB를 하나의 엔진으로 통합한 새로운 구조를 채택했다. 사용자는 벡터 검색, 그래프 탐색, 관계형 필터링이 결합된 복합 RAG 질의를 하나의 SQL/GQL* 질의문으로 표현할 수 있으며, 아카식DB는 이를 단일 실행 계획으로 최적화해 처리한다.
*SQL/GQL(구조화 질의어/그래프 질의어) : 데이터베이스에 저장된 정보를 검색하거나 수정하기 위한 명령 언어다. SQL은 표 형태의 데이터를 다루는 전통적인 언어이며, GQL은 사람·기업·제품 등 개체 간 연결 관계를 분석하기 위해 사용되는 그래프 데이터 전용 언어다.
이러한 통합 구조를 통해 아카식DB는 불필요한 중간 결과 생성과 데이터 이동을 최소화해 LLM의 토큰 사용량을 크게 줄이고 응답 지연시간도 단축한다. 실험 결과 기존 시스템에서 최대 21.3초가 소요되던 복합 검색 질의를 1초 이내로 처리해 최대 20배 이상의 성능 향상을 달성했다. 또한 옴니RAG는 기존 RAG 대비 답변 정확도를 최대 78% 향상시키는 것으로 나타났다. 이는 기업용 AI 에이전트의 핵심 과제인 환각 문제를 크게 완화할 수 있음을 보여준다.
김민수 교수는 "AI 에이전트가 기업의 방대한 데이터를 정확하게 이해하고 활용하기 위해서는 벡터, 그래프, 관계형 데이터를 하나의 시스템에서 통합 처리할 수 있는 데이터 인프라가 필수적"이라며 "아카식DB는 AI 에이전트 시대를 위한 차세대 데이터베이스 기술로, 국방·제조·금융·법률·과학기술 등 고도의 신뢰성이 요구되는 분야에서 핵심 데이터 인프라로 활용될 것으로 기대한다"고 말했다.
이번 연구에는 KAIST 전산학부 이건호 박사과정생이 제1저자로 참여하였으며, 연구 성과는 지난 6월 2일, 데이터베이스 분야 최고 권위 국제학술대회인 ACM SIGMOD 2026에서 데모 논문으로 발표되어, 학회 현장에서 글로벌 기업 및 연구자들로부터 뜨거운 관심을 받았다.
※ 논문명 : AkasicDB: Demonstrating Omni RAG with a Unified Vector-Graph-Relational DBMS, DOI: https://doi.org/10.1145/3788853.3801609
※ 저자 정보 : 이건호 (KAIST, 제1 저자), 박정호, 한동형 ((주)그래파이, 공동 저자) 김민수 교수 (KAIST, 교신저자)
※ 시연 동영상: https://www.youtube.com/watch?v=KD6MznZ61P4
2026.06.19 조회수 3312