-
최대 11배 빨라진 PIM 반도체 네트워크 개발
최근 인공지능, 빅데이터, 생명과학 등 연구에 사용되는 메모리 대역폭이 차지하는 비중이 높아, 메모리 내부에 연산장치를 배치하는 프로세싱-인-메모리(Processing-in-Memory, 이하 PIM) 반도체에 대한 연구개발이 활발히 진행되고 있다. 국제 공동 연구진이 기존의 PIM 반도체가 내부장치를 활용하면서도 통신을 할때 반드시 PIM 반도체 외부로 연결되는 CPU를 통해야한다는 문제점으로 발생한 병목현상을 해결했다.
우리 대학 전기및전자공학부 김동준 교수 연구팀이 미국 노스이스턴 대학(Northeastern Univ.), 보스턴 대학(Boston Univ.)와 스페인 무르시아 대학(Universidad de Murcia)의 저명 연구진과‘PIM 반도체 간 집합 통신에 특화된 인터커넥션 네트워크 아키텍처’를 통한 공동연구로 PIM 반도체의 통신 성능을 비약적으로 향상하는 기법을 개발했다고 19일 밝혔다.
김동준 교수 연구팀은 기존 PIM 반도체가 갖는 메모리 내부 연산 장치 간 통신 구조의 한계를 밝히고, 기존에 메모리 내부에 존재하는 데이터 이동을 위한 버스 구조를 최대한 활용하면서 각 연산장치를 직접적으로 상호 연결하는 *인터커넥션 네트워크 구조를 적용함으로써 PIM 반도체의 통신 성능을 극대화하는 기법을 제안했다.
※ 인터커넥션 네트워크(interconnection network): 다중 연산 장치를 포함하는 대규모 시스템 설계에 쓰이는 연산 장치 간 연결 구조를 말한다. 인터커넥션 네트워크는 다중 연산 장치를 포함하는 시스템 설계의 필수 요소 중 하나로써 시스템 규모가 커질수록 더욱 중요해지는 특징이 있다.
이를 통해 PIM 반도체를 위한 연산 과정에서 통신 처리를 위한 CPU의 개입을 최소화해 PIM 반도체 시스템의 전체적인 성능과 활용성을 높인 PIM 반도체에 특화된 인터커넥션 네트워크 구조를 개발했다.
메모리 공정은 복잡한 로직의 추가가 어렵다는 문제점이 있는데 김동준 교수팀이 개발한 네트워크 구조는 PIM에서 비용 효율적인 인터커넥트를 구현했다.
이 구조는 병렬 컴퓨팅과 기계학습 분야에서 널리 활용되는 집합 통신(Collective communication) 패턴에 특화돼 있으며, 각 연산장치의 통신량과 데이터 이동 경로를 미리 파악할 수 있다는 집합 통신의 결정성(determinism) 특징을 활용해 기존 네트워크에서 비용을 발생시키는 주요 구성 요소들을 최소화시켰다.
기존 PIM 반도체들이 통신하기 위해서는 CPU를 거쳐야만 하기 때문에 상당한 성능 손실이 있었다. 하지만, 연구팀은 PIM 특화 인터커넥션 네트워크를 적용하면 기존 시스템 대비 어플리케이션 성능을 최대 11배 향상했다고 밝혔다. 그 이유는 PIM 반도체의 내부 메모리 대역폭 활용률을 극대화하고 PIM 메모리 시스템의 규모가 커짐에 따라 통신 성능의 확장성이 함께 증가했기 때문이다.
최근 미국 전기전자공학회(IEEE) 컴퓨터 아키텍쳐 분야에서는 한국 최초로 2025 IEEE 펠로우(석학회원)로 선임되었고 이 연구를 주도한 김동준 교수는 “데이터 이동(data movement)을 줄이는 것은 PIM을 포함한 모든 시스템 반도체에서 핵심적인 요소이며, PIM은 컴퓨팅 시스템의 성능과 효율성을 향상할 수 있지만 PIM 연산장치 간 데이터 이동으로 인해 성능 확장성이 제약될 수 있어 응용 분야가 제한적이고, PIM 인터커넥트가 이에 대한 해법이 될 수 있다”고 연구의 의의를 설명했다.
전기및전자공학부 손효준 박사과정이 제1 저자로 참여한 이번 연구는 미국 네바다주 라스베이거스에서 열리는 컴퓨터 구조 분야 최우수 국제 학술대회인 ‘2025 IEEE International Symposium on High Performance Computer Architecture, HPCA 2025’에서 올 3월에 발표될 예정이다. (논문명: PIMnet: A Domain-Specific Network for Efficient Collective Communication in Scalable PIM)
한편 이번 연구는 한국연구재단, 삼성전자, 정보통신기획평가원 차세대지능형반도체기술개발사업의 지원을 받아 수행됐다.
2025.02.19
조회수 1539
-
독립적으로 더 스마트해진 ‘도커SSD’ 개발
정보를 저장하는 솔리드 스테이트 드라이브(Solid-Sate Drive, SSD)가 컴퓨터 없이도 데이터 처리가 가능한 독립 서버로 운영이 가능해지며 편리성이 극대화되고 데이터의 탄소 배출량도 획기적으로 감소시킬 수 있는 새로운 형태의 스마트 SSD로 개발됐다.
우리 대학 전기및전자공학부 정명수 교수 연구팀(컴퓨터 아키텍처 및 메모리 시스템 연구실)이 물리적 장치의 실행이 아닌 가상으로 데이터 처리와 운영이 되는 `도커(Docker)' 개념을 적용한 새로운 고성능·저전력 메모리 (PIM, Processing-In-Memory) 모델 중 하나인 `도커SSD'를 개발했다고 27일 밝혔다.
스마트 SSD는 여러 가지 데이터를 처리하는 프로그램들을 데이터가 실제 존재하는 스토리지 근처에서 실행할 수 있게 함으로써 데이터 이동에 불필요한 에너지 및 전력 소모를 줄이고 고성능 결과를 얻게 하는 기술로 오랫동안 다양한 곳에 적용을 시도해 왔다. 하지만 기존 데이터 처리 프로그램을 SSD 제조사별로 그리고 장치가 제공하는 환경별로 모두 수정하고 새로 만들어야 하는 문제 때문에 스마트 SSD를 다양한 환경과 데이터 처리 응용에 적용하는 것에 한계가 존재했다. 이러한 한계를 극복하고자 KAIST 연구팀은 스마트 SSD의 제조사나 장치 환경에 관계 없이 현존하는 여러 가지 프로그램들을 그대로 스토리지에 이식하여 실행할 수 있는 도커SSD를 개발하였다.
이를 위해 정명수 교수 연구팀은 사용자들에게 데이터 처리 기술 중 편의성을 제공하는 방법으로 `컨테이너'를 주목했다. 컨테이너는 응용 프로그램과 해당 프로그램 실행에 필요한 라이브러리를 모두 포함한 소프트웨어 패키지로, 외부의 환경에 구애받지 않고, 컨테이너 내부적으로 독립적인 실행 환경을 운용할 수 있게 해준다.
연구팀이 개발한 도커SSD는 가상화 운영체제 환경인 *도커(Docker)를 스토리지 내부에서 실행할 수 있는 특허 기술을 적용해 호스트로부터 요청받은 컨테이너 단위의 작업을 처리한다. 사용자들은 메모리/스토리지 제조사에 영향을 받지 않고 다양한 응용 프로그램을 스토리지 내부에서 실행할 수 있다. 또한, 외부와 독립적인 실행 환경을 제공하는 컨테이너의 특성 덕분에, 사용자들이 기존 응용 프로그램의 소스 코드를 수정할 필요조차 없어져 사용자 편의성이 극대화된다.
☞ 도커(Docker): 리눅스 컨테이너를 만들고 사용할 수 있도록 하는 컨테이너화 기술
연구팀은 일반적으로 SSD 장치에 접근하기 위해 사용되는 스토리지 프로토콜과, 도커 소프트웨어 동작의 기반이 되는 네트워크 관련 프로토콜이 서로 호환되지 않는다는 점을 극복하기 위해 스토리지 프로토콜을 통해 네트워크 관련 메시지를 전송할 수 있는 새로운 인터페이스를 독자 개발했다. 또한, 컨테이너 및 도커를 실행하기 위해서 기존 운영체제를 경량화하여 도커SSD 내부에 통합했다. 마지막으로, 스토리지에 내재된 저사양 프로세서를 활용하여 작업을 처리할 경우 성능이 저하될 수 있다는 점을 착안하여 자체 제작한 저전력 하드웨어 가속 모듈을 활용하여 네트워크 및 입출력 관련 동작을 가속함으로써 문제를 해결했다.
연구팀은 도커SSD에 적용한 운영체제 수준 가상화의 실효성 검증을 통해 현재 학계에서 가장 자주 사용되는 스토리지 기반 모델보다도 데이터를 2배 빠르게 처리하면서 전력 소모 또한 약 2배 감소시킴을 확인했다.
정명수 교수는 "불필요한 데이터 이동을 최소화하여 빠르면서 에너지 절약에 최적화된, 동시에 사용자 입장에서 편리하면서도 우수한 호환성을 가진 메모리 모델을 확보했다ˮ며 "고성능·저전력 메모리 모델인 도커SSD는 빠르게 확장하고 있는 국내·외 데이터센터 운영 기업/기관에 실용화되어 탄소중립에 기여할 수 있을 것ˮ이라 말했다.
이번 연구는 스코틀랜드 에든버러에서 오는 2024년 3월에 열릴 컴퓨터 구조 분야 최우수 학술대회인 `국제 고성능 컴퓨터 구조 학회(IEEE International Symposium on High Performance Computer Architecture, HPCA)'에 관련 논문(논문명: DockerSSD: Containerized In-Storage Processing and Hardware Acceleration for Computational SSDs)으로 발표될 예정이다.
한편 해당 연구는 KAIST 교원창업 회사인 파네시아(https://panmnesia.com)와 정보통신기획평가원등의 연구 지원을 받아 진행됐다.
2023.11.27
조회수 5801