‘스마트 출입문’ 반도체로 저장공간 크게 늘린다
스마트폰부터 대규모 인공지능(AI) 서버에 이르기까지 현대 사회의 디지털 정보는 대부분 낸드플래시(NAND Flash) 메모리*에 저장된다. 우리 대학 연구진이 더 많은 정보를 더 작은 공간에 담아야 하는 차세대 반도체의 한계를 넘어설 수 있는 혁신 기술을 개발했다. 이번 기술은 초고용량 메모리 구현을 앞당길 핵심 원천기술로 기대된다.
*낸드플래시 메모리: 스마트폰 사진·영상·앱 등을 저장하는 스마트폰·SSD 등의 저장장치에 사용되는 반도체로, 전원이 꺼져도 데이터가 사라지지 않는 비휘발성 메모리
우리 대학은 전기및전자공학부 조병진 교수 연구팀이 머리카락보다 얇은 반도체 층에 새로운 소재를 적용해, 전자의 이동을 상황에 따라 선택적으로 제어하는 ‘스마트 출입문’ 구조를 구현함으로써 3차원 V-낸드(3D V-NAND) 메모리*의 고집적화 한계를 극복했다고 20일 밝혔다.
*3차원 V-낸드: 기존 메모리 셀을 평면(2차원) 배열한 데 비해, 데이터를 저장하는 반도체 셀을 위로 층층이 쌓아 더 많은 정보를 저장할 수 있도록 만든 메모리 기술
이번 연구는 데이터를 쓰고 지우는 과정에서 발생하는 고질적인 속도 저하와 신뢰성 문제를 신소재인 ‘붕소 산질화물(Boron Oxynitride, 이하 BON)’을 통해 해결했다는 점에서 큰 의미가 있다.
반도체 메모리에서 데이터가 드나드는 통로인 터널링층(Tunneling Layer)은 그동안 성능과 안정성이라는 두 마리 토끼를 잡는 데 어려움을 겪어왔다. 터널링층은 메모리 셀 내부에서 전자가 이동하는 매우 얇은 통로 역할을 하는 절연층이다.
하지만 기존 소재에서는 성능과 안정성을 동시에 확보하기 어려운 구조적 한계가 있었다. 기존 소재인 실리콘 산질화물(SiON)은 데이터를 지우기 위해 통로를 넓히면 저장된 데이터가 밖으로 새 나가고, 반대로 입구를 좁히면 데이터 삭제 속도가 너무 느려지는 ‘트레이드오프(Trade-off)’현상이 발생했기 때문이다.
이는 메모리 셀 하나에 5비트 정보를 저장하는 차세대 펜타 레벨 셀(Penta-Level Cell, PLC) 기술 구현의 가장 큰 걸림돌이었다. PLC는 하나의 메모리 셀에서 32단계의 전압 상태를 구분해 데이터를 저장하는 방식으로, 같은 크기의 메모리에서도 더 많은 정보를 저장할 수 있게 한다.
연구팀은 이러한 문제를 해결하기 위해 기존의 실리콘 기반 소재에서 벗어나 완전히 새로운 소재인 BON을 터널링층에 적용했다. 이 소재는 전하의 종류에 따라 문턱 높이가 달라지는 독특한 물리적 특성을 가지고 있다.
연구팀은 이를 활용해 데이터를 지울 때 필요한 전하(정공, hole)는 쉽게 통과시키고, 저장된 데이터를 의미하는 전자(electron)는 밖으로 새어나가지 못하도록 막는‘비대칭 에너지 장벽’구조를 설계했다.
비대칭 에너지 장벽은 전하가 이동할 때 넘어야 하는 에너지 장벽의 높이가 전하의 종류에 따라 서로 다르게 형성되는 구조를 의미한다. 이를 통해 데이터를 지울 때는 전하가 쉽게 이동하도록 하면서도, 저장된 데이터인 전자가 외부로 누설되는 것을 효과적으로 막을 수 있다. 이는 마치 들어올 때는 잘 열리고 나갈 때는 굳게 닫히는 ‘스마트 출입문’을 반도체 안에 구현한 것과 같은 원리다.
실제 실험 결과, BON 터널링층을 적용한 소자는 기존 대비 데이터 삭제 속도가 최대 23배나 향상되었으며, 수만 번의 반복 사용 후에도 성능 저하가 거의 없는 탁월한 내구성을 보였다. 특히 32개의 미세한 전압 상태를 구분해야 하는 초고난도 펜타 레벨 셀 동작에서도 소자 간 데이터 분포를 3배 이상 정밀하게 제어하는 데 성공했다.
이는 논문 수준의 연구를 넘어 실제 반도체 양산 공정에 즉시 적용 가능한 수준이라는 학계와 산업계의 평가다.
조병진 교수는 “이번 연구는 차세대 초고용량 메모리 제조에 바로 적용할 수 있는 독창적인 기술”이라며 “반도체 강국인 대한민국의 기술 초격차를 유지하는 데 크게 기여할 것”이라고 말했다.
기및전자공학부 강대현 석박사통합과정생이 제1저자로 주도한 이번 연구는 반도체 분야 최고 권위 학술대회인 지난 12월 9일 ‘국제전자소자학회(IEDM)’에서 발표되어 세계적인 주목을 받았으며, 삼성전자가 주최한 제32회 삼성휴먼테크논문대상에서 대학 부문 전체 1위인 ‘대상’을 수상하며 AI 분야가 강세였던 역대 수상 기조 속에서 전통 반도체 소자 분야 연구로 대상을 거머쥐는 쾌거를 이루었다.
※ 논문명: Bandgap-Engineered Boron Oxynitride Tunneling Layer for Reliable PLC operation of 3D V-NAND Flash Memory Devices, DOI : https://doi.org/10.1109/IEDM50572.2025.11353681
한편, 이번 연구는 과기정통부의 국가반도체연구실지원 핵심기술개발사업의 지원을 받아 수행되었다.
스스로 그림 그리는 인공지능 반도체 칩 개발
전기및전자공학부 유회준 교수 연구팀이 생성적 적대 신경망(GAN: Generative Adversarial Network)을 저전력, 효율적으로 처리하는 인공지능(AI: Artificial Intelligent) 반도체를 개발했다.
연구팀이 개발한 인공지능 반도체는 다중-심층 신경망을 처리할 수 있고 이를 저전력의 모바일 기기에서도 학습할 수 있다. 연구팀은 이번 반도체 칩 개발을 통해 이미지 합성, 스타일 변환, 손상 이미지 복원 등의 생성형 인공지능 기술을 모바일 기기에서 구현하는 데 성공했다.
강상훈 박사과정이 1 저자로 참여한 이번 연구결과는 지난 2월 17일 3천여 명 반도체 연구자들이 미국 샌프란시스코에 모여 개최한 국제고체회로설계학회(ISSCC)에서 발표됐다. (논문명 : GANPU: A 135TFLOPS/W Multi-DNN Training Processor for GANs with Speculative Dual-Sparsity Exploitation)
기존에 많이 연구된 인공지능 기술인 분류형 모델(Discriminative Model)은 주어진 질문에 답을 하도록 학습된 인공지능 모델로 물체 인식 및 추적, 음성인식, 얼굴인식 등에 활용된다.
이와 달리 생성적 적대 신경망(GAN)은 새로운 이미지를 생성·재생성할 수 있어 이미지 스타일 변환, 영상 합성, 손상된 이미지 복원 등 광범위한 분야에 활용된다. 또한, 모바일 기기의 다양한 응용 프로그램(영상·이미지 내 사용자의 얼굴 합성)에도 사용돼 학계뿐만 아니라 산업계에서도 주목을 받고 있다.
그러나 생성적 적대 신경망은 기존의 딥러닝 네트워크와는 달리 여러 개의 심층 신경망으로 이루어진 구조로, 개별 심층 신경망마다 다른 요구 조건으로 최적화된 가속을 하는 것이 어렵다.
또한, 고해상도 이미지를 생성하기 위해 기존 심층 신경망 모델보다 수십 배 많은 연산량을 요구한다. 즉, 적대적 생성 신경망은 연산 능력이 제한적이고 사용되는 메모리가 작은 모바일 장치(스마트폰, 태블릿 등)에서는 소프트웨어만으로 구현할 수 없었다.
최근 모바일 기기에서 인공지능을 구현하기 위해 다양한 가속기 개발이 이뤄지고 있지만, 기존 연구들은 추론 단계만 지원하거나 단일-심층 신경망 학습에 한정돼 있다.
연구팀은 단일-심층 신경망뿐만 아니라 생성적 적대 신경망과 같은 다중-심층 신경망을 처리할 수 있으면서 모바일에서 학습도 가능한 인공지능 반도체 GANPU(Generative Adversarial Networks Processing Unit)를 개발해 모바일 장치의 인공지능 활용범위를 넓혔다.
연구팀이 개발한 인공지능 반도체는 서버로 데이터를 보내지 않고 모바일 장치 내에서 생성적 적대 신경망(GAN)을 스스로 학습할 수 있어 사생활을 보호를 가능케 하는 프로세서라는 점에서 그 활용도가 기대된다.
모바일 기기에서 저전력으로 다중-심층 신경망을 가속하기 위해서 다양한 핵심 기술이 필요하다. 연구팀이 개발한 GANPU에 사용된 핵심 기술 중 대표적인 기술 3가지는 ▲적응형 워크로드 할당(ASTM, 처리해야 할 워크로드*를 파악해 칩 상의 다중-심층 신경망의 연산 및 메모리 특성에 맞춰 시간·공간으로 나누어 할당함으로써 효율적으로 가속하는 방법) ▲입출력 희소성 활용 극대화(IOAS, 인공신경망 입력 데이터에서 나타나는 0뿐만 아니라 출력의 0도 예측해 연산에서 제외함으로써 추론 및 학습 과정에서의 속도와 에너지효율 극대화) ▲지수부만을 사용한 0 패턴 추측(EORS, 인공신경망 출력의 0을 예측하기 위한 알고리즘으로 인공신경망 입력과 연결 강도(weight)의 부동소수점 데이터 중 지수 부분만을 사용해 연산을 간단히 수행하는 방법)이다.
위의 기술을 사용함으로써 연구팀의 GANPU는 기존 최고 성능을 보이던 심층 신경망 학습 반도체 대비 4.8배 증가한 에너지효율을 달성했다.
연구팀은 GANPU의 활용 예시로 태블릿 카메라로 찍은 사진을 사용자가 직접 수정할 수 있는 응용 기술을 시연했다. 사진상의 얼굴에서 머리·안경·눈썹 등 17가지 특징에 대해 추가·삭제 및 수정사항을 입력하면 GANPU가 실시간으로 이를 자동으로 완성해 보여 주는 얼굴 수정 시스템을 개발했다.