< (왼쪽부터) KAIST 권다희 박사과정, 이세현 박사과정 (상단) 최재식 교수 >
딥러닝 기반 이미지 인식 기술이 빠르게 고도화되고 있지만, AI가 내부에서 어떤 기준으로 이미지를 보고 판단하는지는 여전히 명확히 설명하기 어려운 영역으로 남아 있다. 특히 대규모 모델이 어떤 개념(예: 고양이 귀, 자동차 바퀴 등)을 어떻게 조합해 결론을 내리는지 분석하는 기술은 오랫동안 해결해야 할 과제로 제기돼 왔다.
우리 대학은 김재철AI대학원 최재식 교수 연구팀이 AI가 어떤 근거로 판단하는지를 인간이 이해할 수 있도록 보여주는‘설명가능성(XAI, Explainable AI)’분야에서, 모델 내부의 개념 형성 과정을 회로(circuit) 단위로 시각화하는 새로운 XAI 기술을 개발했다고 26일 밝혔다.
이번 연구는 ‘AI가 어떻게 생각하는지’를 구조적으로 들여다볼 수 있도록 한 중요한 진전으로 평가된다.
딥러닝 모델 내부에는 인간의 뇌처럼 ‘뉴런(Neuron)’이라는 기본 계산 단위가 존재한다. 뉴런은 이미지 속 작은 특징—예를 들어 귀 모양, 특정 색, 윤곽선 등—을 감지하는 기능을 갖고 있으며, 값(신호)을 계산해 다음 단계로 전달한다.
반면 ‘회로(circuit)’는 이러한 뉴런 여러 개가 서로 연결되어 하나의 의미(개념)를 함께 인식하는 구조를 말한다. 예를 들어 ‘고양이 귀’라는 개념을 인식하기 위해서는 귀의 윤곽을 감지하는 뉴런, 삼각형 형태를 감지하는 뉴런, 털 색 패턴을 감지하는 뉴런 등 여러 뉴런이 순차적으로 작동해야 하며, 이들이 하나의 기능 단위(회로)를 이룬다.
지금까지의 설명 기술은 “특정 뉴런이 특정 개념을 본다”는 단일 뉴런 중심의 접근이 많았다. 그러나 실제 딥러닝 모델은 여러 뉴런이 협력하는 회로 구조로 개념을 형성하며, KAIST 연구팀은 이 점에 착안해 AI의 개념 표현 단위를 '뉴런 → 회로'로 확장해 해석하는 기술을 제시했다.
연구팀이 개발한 ‘세분화된 개념회로(Granular Concept Circuits, GCC)’ 기술은 이미지 분류 모델이 내부에서 개념을 형성하는 과정을 회로 단위로 분석하고 시각화하는 새로운 방식이다.
GCC는 뉴런 민감도(Neuron Sensitivity), 의미 흐름 점수(Semantic Flow)를 계산해 회로를 자동적으로 추적한다. 뉴런 민감도는 특정 뉴런이 어떤 특징에 얼마나 민감하게 반응하는지, 의미 흐름 점수는 그 특징이 다음 개념으로 얼마나 강하게 전달되는지를 보여주는 지표로, 이를 통해 색·질감 같은 기본 특징이 어떻게 상위 개념으로 조립되는지 단계적으로 시각화할 수 있다.
연구팀은 특정 회로를 잠시 비활성화(ablation)하는 실험을 수행했다. 그 결과, 회로가 담당하던 개념이 사라지면서 AI의 예측이 실제로 달라지는 현상이 나타났다.
즉, 해당 회로가 실제로 그 개념을 인식하는 기능을 수행하고 있음을 직접적으로 입증한 것이다.
이번 연구는 복잡한 딥러닝 모델 내부에서 개념이 형성되는 실제 구조를 세밀한 회로 단위로 드러낸 최초의 연구로 평가된다. 이를 통해 AI 판단 근거의 투명성 강화, 오분류 원인 분석, 편향(Bias) 검출, 모델 디버깅 및 구조 개선, 안전성·책임성 향상 등 설명가능성(XAI) 전반에서 실질적인 응용 가능성을 제시한 것이다.
연구팀은 “AI가 내부에서 만드는 개념 구조를 사람이 이해할 수 있는 방식으로 보여주는 기술”이라며 “이번 연구는 AI가 ‘어떻게 생각하는지’를 과학적으로 연구할 수 있는 출발점”이라고 밝혔다.
최재식 교수는 “복잡한 모델을 단순화해 설명하던 기존 방식과 달리, 모델 내부를 세부 회로 단위로 정밀하게 해석한 최초의 접근”이라며 “AI가 학습한 개념을 자동으로 추적·시각화할 수 있음을 입증했다”고 말했다.
< 연구팀에서 제안한 개념회로에 대한 개요 >
KAIST 김재철AI대학원 권다희 박사과정과 이세현 박사과정이 공동 제1 저자로 참여한 이번 연구는 국제 학술대회 `국제 컴퓨터 비전 학술대회 (International Conference on Computer Vision, ICCV)’에서 10월 21일 발표되었다.
※ 논문명 : Granular Concept Circuits: Toward a Fine-Grained Circuit Discovery for Concept Representations
※ 논문링크: https://openaccess.thecvf.com/content/ICCV2025/papers/Kwon_Granular_Concept_Circuits_Toward_a_Fine-Grained_Circuit_Discovery_for_Concept_ICCV_2025_paper.pdf
한편 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 사람중심핵심원천기술개발사업의 일환으로 '플러그앤플레이 방식으로 설명가능성을 제공하는 인공지능 기술 개발 및 인공지능 시스템에 대한 설명 제공 검증' 과제, AI 연구거점 프로젝트 및 한국과학기술원 인공지능 대학원 프로그램과제의 지원을 받고 방위사업청과 국방과학연구소의 지원으로 한국과학기술원 미래 국방 인공지능 특화연구센터에서 수행됐다.
-
행사 K-바이오 핵심 거점 ‘오송 KAIST 바이오 스퀘어’ 개소
우리 대학이 충북 오송에서 세계적 바이오 메디컬 허브 도약을 위한 본격적인 행보에 나선다. 우리 대학은 충청북도, 청주시와 함께 6일 충북화장품임상연구지원센터에서 ‘KAIST 바이오 스퀘어’ 개소식을 개최할 예정이라고 밝혔다. KAIST 바이오 스퀘어는 K-바이오 스퀘어 조성의 핵심 거점으로, 바이오 기술을 중심으로 AI, 물리, 기계 등 다양한 학문의 경계를 허무는 융합 연구·교육 플랫폼이다. KAIST는 이곳을 전초기지로 삼아 서울대병원, 충북대병원, 한국생명공학연구원, 오송첨단의료산업진흥재단 등과 협력 체계를 구축하고, 파킨슨병 치료제 및 의료기기 개발을 포함한 노화 대응 R&D 분야에서 혁신 성과를 창출할 계획이다. 또한 미래 바이오 산업 혁신을 이끌 창업기업을 유치하고 관련 산업 생태계를 발전시키는 한편, 연간 120개 벤처기업을 배출하는 KAIST의 창업 역량을 집적한 바이오 창업 전초기지로 육성할 방침이다. 개소식에는
2026-02-06 -
연구 엔비디아보다 2.1배 빠른 유튜브 추천...‘버벅임’없앴다
유튜브 영상 추천이나 금융 사기 탐지처럼 사람 사이의 복잡한 관계를 빠르게 분석하는 핵심 AI 기술로 ‘그래프 신경망(GNN, Graph Neural Network)’이 있다. 여기서 말하는 그래프는 우리가 떠올리는 그래프 그림이 아니라, 사람과 사람 사이의 연결 관계를 뜻한다. 우리 대학 연구진은 엔비디아보다 추천 속도는 2.1배 빠르고, 지연은 줄이며, 전력 소모까지 낮춘 AI 반도체 기술 ‘오토GNN(AutoGNN)’을 개발해 주목받고 있다. 우리 대학은 전기및전자공학부 정명수 교수 연구팀이 그래프 신경망 기반 인공지능의 추론 속도를 획기적으로 높일 수 있는 AI 반도체 기술 ‘오토GNN’을 세계 최초로 개발했다고 5일 밝혔다. 연구팀은 서비스 지연의 주된 원인이 인공지능 추론 이전 단계인 그래프 전처리(Graph Preprocessing) 과정에 있음을 밝혀냈다. 이 과정은 전체 계산 시간의 70~90%를
2026-02-05 -
연구 AI로 물질의 ＇빛의 지문＇을 실시간으로 읽다
사람마다 지문이 다르듯, 모든 물질에는 고유한 ‘빛의 지문’이 있다. 반도체 공정부터 환경 감시, 질병 진단, 우주 연구까지 접촉 없이 물질을 식별해 온 분광학은 ‘과학의 눈’으로 불려왔다. KAIST 연구진은 전문가의 경험에 의존하던 분광 분석을 AI 기반 자동·실시간 판독 기술로 구현해, 반도체·환경·의료 등 다양한 산업 현장에서 활용 가능성을 크게 확장했다. 우리 대학 원자력및양자공학과 박상후 교수 연구팀은 잡음·오염·결손이 많고 복잡하고 겹친 신호 등의 다양한 분광 데이터의 한계를 뛰어넘어, 인공지능이 실시간으로 자동 해석하는 ‘AI 기반 심층 분광해석 기술’을 개발했다고 3일 밝혔다. 스펙트럼이란, 물질이 내거나 흡수한 빛을 무지개처럼 펼쳐 놓은 그래프를 말한다. 기존 분광 분석은 이 스펙트럼 속 숫자로 나타나는 신호를 잘 알려진 참고 데이터
2026-02-03 -
연구 GPU 덜쓰고 챗GPT 쓴다..카카오 AI 육성 프로젝트 대상 수상
지금의 챗GPT 등 대규모 언어모델(LLM) 서비스는 대부분 고가의 GPU 서버에 의존해 운영되고 있다. 이러한 구조는 서비스 규모가 커질수록 비용과 전력 소모가 급격히 증가하는 한계를 안고 있다. 우리 대학 연구진이 이러한 문제를 해결할 수 있는 차세대 AI 인프라 기술을 개발했다. 우리 대학은 전산학부 박종세 교수를 중심으로 한 애니브릿지(AnyBridge) AI 팀이 GPU에만 의존하지 않고, 다양한 AI 가속기를 통합해 LLM을 효율적으로 서비스할 수 있는 차세대 AI 인프라 소프트웨어를 개발했다고 30일 밝혔다. 해당 기술은 카카오가 주최한 ‘4대 과학기술원×카카오 AI 육성 프로젝트’에서 대상을 수상했다. 이번 프로젝트는 카카오와 KAIST, GIST, DGIST, UNIST 등 4대 과학기술원이 공동으로 추진한 산학 협력 프로그램으로, AI 기술을 기반으로 한 예비 창업팀들의 기술력과 사업성을 종합적으로 평가해 우수 팀을 선발했다.
2026-01-30 -
행사 세계적 거장 로댕의 고뇌·샤갈의 환상, KAIST 미술관에서 만나다
우리 대학은 미술관이 세계적 거장 오귀스트 로댕(Auguste Rodin)과 마르크 샤갈(Marc Chagall)의 작품을 익명의 기부자로부터 기증받아, 29일부터 상설 전시를 시작한다고 밝혔다. 이번 기증은 KAIST 구성원들의 문화·예술적 감성 함양은 물론, 미술관 소장품 컬렉션의 질적 확장에 기여할 것으로 기대된다. 이번 기증은 신원을 밝히지 않은 한 기부자의 뜻에 따라 성사되었다. 기부자는 “KAIST 구성원들이 과학기술 연구뿐만 아니라 예술을 통해 감성과 상상력을 확장하기를 바란다”며, “KAIST 미술관이 캠퍼스의 문화적 명소로 자리매김해 학생들에게 영감을 주는 공간이 되기를 바란다”고 전했다. 기증된 작품은 ‘조각의 성인’으로 불리는 오귀스트 로댕의 청동 조각 1점과, 20세기 현대미술의 거장 마르크 샤갈의 석판화 1점이다. 로댕의 〈기둥 곁의 아담을 위한 습작〉은 그의 불후의 명작 〈지옥
2026-01-30