< (왼쪽부터) 박종세 교수, 허구슬 박사과정, 조재홍 석사과정, 김민수 박사과정, 최현민 석사과정 >
우리 대학 전산학부 박종세 교수 연구팀이 지난 9월 15일부터 9월 17일까지 캐나다 밴쿠버에서 열린 ‘2024 IEEE 국제 워크로드 특성화 심포지엄(IEEE International Symposium on Workload Characterization, 이하 IISWC 2024)’에서 최우수 논문상(Best Paper Award)과 최우수 연구 기록물 상(Distinguished Artifact Award)’을 동시에 수상했다고 26일 밝혔다.
박 교수 연구팀은 ‘초거대 언어모델 추론 서비스 제공을 위한 HW/SW 공동 시뮬레이션 인프라(LLMServingSim: A HW/SW Co-Simulation Infrastructure for LLM Inference Serving at Scale)’ 논문으로 두 상을 동시에 수상했다.
< 그림 1. 개발한 시뮬레이션 인프라의 흐름 >
IISWC는 컴퓨터 시스템 워크로드 특성화 분야에서 권위를 자랑하는 국제 학회이며, 개최시마다 최우수 논문상과 최우수 연구 기록물 상을 하나씩 수여하는데 올해에는 박 교수팀의 논문이 두 상을 모두 단독으로 수상했다.
이번 수상 연구는 대규모 거대언어모델(LLM) 추론 서비스를 위한 하드웨어와 소프트웨어 통합 시뮬레이션 인프라를 최초 개발한 점, 향후 LLM 추론 연구의 지속적인 발전을 위해 오픈소스로 공개한 코드의 완성도와 사용자 편의성 측면에서 높은 평가를 받았다.
이번 연구에서 연구팀은 챗GPT와 같은 LLM 추론 서비스를 실행하는 대규모 시스템을 여러 가지 하드웨어와 소프트웨어를 추가해 시뮬레이션할 수 있는 시뮬레이션 인프라를 제안했다.
< 그림 2. 개발한 시뮬레이션 인프라의 실행 시간 단축 기술 >
이를 통해 GPU(그래픽처리장치), NPU(신경망처리장치)와 PIM(지능형메모리반도체)과 같은 다양한 하드웨어뿐만 아니라 반복 수준 스케쥴링, KV 캐시 페이징과 같은 초거대 언어모델 추론을 위한 소프트웨어적 요소를 모두 함께 시뮬레이션할 수 있었다.
< 그림 3. 개발한 시뮬레이션 인프라의 이종 가속기 지원 >
이번 연구는 KAIST 전산학부 박종세 교수팀의 조재홍, 김민수, 최현민, 허구슬 학생들이 주도했다.
상을 받은 KAIST 전산학부 박종세 교수는 “이번 연구를 통해, LLM 클라우드 상에서 다양한 AI 반도체와 시스템 소프트웨어의 성능을 종합적으로 평가해 볼 수 있는 오픈소스 도구(Tool)을 공개할 수 있게 되어 기쁘고, 앞으로도 생성형 AI를 위한 클라우드 시스템 연구를 지속해 나갈 것이다”라고 소감을 전했다.
< 사진 2. 박종세 교수 연구팀의 국제학술대회 발표 사진 >
이번 연구 결과는, 챗GPT와 같이 LLM을 활용하는 단순한 챗봇 AI를 넘어, 생성형 AI(Generative AI)로 대표되는 미래 AI 산업에서 이종 AI 반도체 기반 클라우드 시스템을 구축하는 등 다양한 분야에 활용될 수 있을 것으로 기대된다.
한편 이번 연구는 한국연구재단 우수신진연구자지원사업, 정보통신기획평가원(IITP), 인공지능반도체대학원지원사업, 및 하이퍼엑셀의 지원을 받아 수행됐다.
< 사진 3. 상장 사진 >
우리 대학 전산학부 권영진⦁신인식 교수 연구팀이 서울대 이병영 교수와 협력하여 세계 최대 컴퓨터 학회 ACM(Association for Computing Machinery)의 운영체제 분야 최고 학회인 ACM 운영체제 원리 심포지움(Symposium on Operating Systems Principles, SOSP)에서 아시아 최초 최우수 논문상을 2회 수상했다고 29일 밝혔다. 연구팀은 세계 최초로 애플(Apple)의 프로세서를 탑재한 모든 장치를 비롯해 실제 물리적인 현대 고성능 프로세서(CPU) 없이도 운영체제 시스템을 해킹하거나 중단시킬 수 있는 동시성 버그를 탐지하는 기술을 개발했다. ACM SOSP는 컴퓨터 시스템 분야 세계 최고 권위의 학술대회로, 지난 30년간 국내에서 단 4편의 논문만 게재될 정도로 높은 기준을 요구한다. 이번 최우수 논문상 수상은 국내 운영체제 연구 역량이 세계적 수준에 도달했음을 보여주는 중요한 성과다. 특히, 권영진 교수는 20
2024-12-02우리 대학 전산학부 이의진 교수 연구팀이 지난 10월 8일 호주 멜버른에서 미국컴퓨터협회(ACM) 주최로 개최된 유비쿼터스 컴퓨팅 학회(Ubicomp/ISWC)에서 최우수 논문상을 받았다고 25일 밝혔다. ACM 유비쿼터스 컴퓨팅 학회는 전 세계 유수 대학 및 글로벌 기업들이 인간-컴퓨터 상호작용(HCI, Human-Computer Interaction) 분야의 유비쿼터스 컴퓨팅 및 웨어러블 기술에 관한 최신 연구 결과를 발표하는 최고 권위의 국제학회다. 학술대회 프로그램은 유비쿼터스 및 웨어러블 컴퓨팅 분야의 최신 연구를 다루는 ACM 논문집(PACM) IMWUT(Interactive, Mobile, Wearable and Ubiquitous Technologies)에 출판된 논문을 초청해 구성된다. 우수 논문상 선정 위원회는 ACM 논문집인(PACM IMWUT) 학술지 7권에 게재된 205편의 논문 중에서 연구 커뮤니티에 탁월하고 모범적인 기여를 한 8편의 논문을 선
2024-10-25가짜 분유 파문은 현재까지도 지속적으로 발생하고 있으며 수만 명의 영유아의 생명을 위협하는 심각한 전세계적 문제다. 하지만 이러한 가짜 분유의 진위 여부를 쉽게 확인하는 것은 거의 불가능에 가깝다. 공동연구진은 스마트폰을 활용해 위조 분유를 빠르고 정확하게 탐지하는 시스템을 개발해서 화제가 되고 있다. 우리 대학 전산학부 한준 교수 연구팀이 연세대, POSTECH, 싱가포르국립대와 공동연구를 통해서 스마트폰을 이용한 가짜 분유 탐지 기술을 개발했다고 2일 밝혔다. 한준 교수 연구팀은 스마트폰에 탑재된 일반 카메라만을 사용해 위조 분말을 탐지하는 ‘파우듀(PowDew)’ 시스템을 개발했다. 연구팀이 최초 개발한 이 시스템은 분말 식품의 성분 및 제조 과정 등에 따라 결정되는 고유한 물리적 성질(습윤성 및 다공성 등)과 액체류와의 상호작용을 이용했다. 이 시스템을 활용하면 소비자가 본인의 스마트폰 카메라로 분유 가루 위에 떨어진 물방울의 움직임을 관
2024-08-02우리 대학 전기및전자공학부 김성민 교수 연구팀이 스마트 팩토리에서 사각지대 없이 정밀한 위치를 추적하는 기술을 세계 최초로 개발했다고 5일 밝혔다. 목표물에 무전원 태그를 부착해, 장애물에 가려진 상황에서도 센티미터(cm) 이하의 정확도로 3차원 위치를 추적할 수 있는 기술이다. 해당 연구를 통해 연구팀은 모바일 컴퓨팅 분야 최고 권위 국제 학술대회인 ACM 모비시스(ACM MobiSys)에서 2022 최우수논문상에 이어 2024 최우수논문상을 수상하는 쾌거를 이뤘다. 해당 학회에서 최우수논문상을 다회 수상한 연구팀은 김성민 교수 연구팀과, 미국 미시간대, 그리고 예일대 뿐이다(주 저자 기준). (논문명: SuperSight: Sub-cm NLOS Localization for mmWave Backscatter) 연구팀이 최초 개발한 무선 태그는, 기존 기술(UWB, Ultra Wide Band) 대비 반사성이 10배 이상 높은 밀리미터파(mmWave)*를 활용, 장애
2024-07-05우리 대학 전기및전자공학부 김이섭 교수 연구실의 박준영 석사졸업생이 6월 23일 ~ 6월 27일, 미국 샌프란시스코에서 개최된 국제 반도체 설계 자동화 학회 (Design Automation Conference, 이하 DAC) 에서 최우수 논문상(Best Paper Award)을 수상하는 성과를 거두었다. DAC은 1964년에 설립돼 올해 61회째를 맞은, 반도체설계자동화, 인공지능 알고리즘과 칩 설계 등을 포함하는 국제학술대회로서, 제출된 논문 중 상위 20퍼센트 정도만 선정하는, 관련 분야 최고 권위의 학회이다. 수상한 연구는 우리 대학 전기및전자공학부 졸업생 박준영 씨의 석사과정 졸업 논문에 기반한 것으로서, Large Language Model 모델 추론의 문제점이 되는 KV 캐싱의 메모리 전송을 줄이는 알고리즘 근사 기법과 하드웨어 아키텍처를 제안하였으며, 학회 best paper award 선정 위원회로부터 그 우수성을 인정받아 발표논문 337편 중 (제출논문
2024-07-02