빛 기반 양자컴퓨터 연산을 ‘CT처럼’ 완전히 들여다본다
빛(광학)을 기반으로 한 양자컴퓨터는 빠른 속도와 높은 확장성을 갖춘 차세대 컴퓨팅 기술로 주목받고 있다. 하지만 여러 개의 빛 신호(광학 모드)가 동시에 얽혀 작동하는 복잡한 연산 과정을 실험으로 정확히 규명하는 것은 매우 어려운 기술로 여겨져 왔다. 우리 대학 연구팀은 이러한 한계를 극복해, 복잡한 다중 광학모드 양자 연산을 CT처럼 훤하게 볼 수 있는 효율적인 기술을 세계 최초 개발했다. 이번 기술은 적은 데이터로도 대규모 연산을 분석할 수 있어, 차세대 양자컴퓨팅과 양자통신 기술 발전에 중요한 전환점을 마련했다.
우리 대학은 물리학과 라영식 교수 연구팀이 빛을 이용해 연산하는 양자컴퓨터의 내부에서 일어나는 다중 광학모드 양자연산의 특성을 빠르고 정확하게 파악할 수 있는 양자연산 토모그래피(Quantum Process Tomography) 기술을 개발했다고 17일 밝혔다.
양자컴퓨터의 ‘CT 촬영’ 기술, 한계를 뛰어넘다
‘토모그래피(Tomography)’는 의료용 CT처럼 보이지 않는 내부 구조를 다양한 데이터를 바탕으로 복원하는 기술이다. 양자컴퓨팅에서도 동일하게, 여러 실험 데이터를 이용해 양자연산 내부의 작동 원리를 재구성하는 기술이 필수적이다. 양자컴퓨터가 기존 컴퓨터보다 월등한 성능을 내려면 동시에 조작할 수 있는 양자 단위(큐빗 or 모드)의 수가 많아야 한다. 하지만 큐빗 또는 광학 모드의 수가 늘어날수록 토모그래피에 필요한 작업량이 기하급수적으로 증가해, 기존 기술로는 5개 이상의 광학 모드를 분석하는 것조차 어려웠다.
연구팀은 이번 기술로 양자연산 내부에서 실제로 무슨 일이 일어나는지 CT 촬영하듯 명확하게 그려낼 수 있게 되었다.
증폭 행렬·잡음 행렬 기반의 새로운 수학 프레임워크 제시
양자컴퓨터 안에서는 여러 개의 빛 신호가 서로 영향을 주며 매우 복잡하게 얽혀 움직인다. 연구팀은 비선형 광학 과정(nonlinear optical process)을 정밀하게 기술하는 새로운 수학적 표현을 도입했다.
빛이 서로 영향을 주고받으며 변하는 복잡한 양자 상태를 빛이 얼마나 증폭되고 어떻게 변했는지에 대한 ‘증폭 행렬(Amplification matrix)’과 외부 환경 때문에 생긴 잡음이나 손실이 얼마나 섞였는지에 대한‘잡음 행렬(Noise matrix)’이라는 두 가지 틀로 분석하는 방식이다.
이 방식은 빛이 본래 가진 양자특성 변화(이상적인 변화)와 현실 세계에서 피할 수 없는 잡음(비이상적인 변화)을 각각 따로, 동시에 정확하게 볼 수 있는 '양자 상태 지도'를 만든 것으로 실제 양자컴퓨터의 동작을 더욱 현실적으로 규명할 수 있다.
데이터량은 혁신적으로 줄이고 분석은 16모드까지 확대
연구팀은 양자연산이 어떻게 작동하는지 알아내기 위해 여러 종류의 ‘빛 신호(양자상태)’를 입력하고, 그 결과가 어떻게 바뀌었는지 하나하나 정밀하게 관찰했다. 그리고 이렇게 모은 데이터를 가장 정확한 방식으로 설명해주는 통계 기법(최대우도추정)을 이용해 ‘실제로 내부에서 어떤 연산이 일어났는지’를 역으로 추적했다.
그 결과, 기존 방식은 모드가 조금만 늘어나도 필요한 분석 양이 폭발적으로 많아져 사실상 5개 정도까지만 분석이 가능했지만, 이번 기술은 필요한 계산량을 크게 줄여, 세계 최초로 무려 16개의 광학 모드(빛 신호)가 서로 얽혀 작동하는 대규모 양자연산을 실험적으로 규명하는데 성공했다.
라영식 교수는 “이번 연구는 양자컴퓨팅의 필수 기반기술인 양자연산 토모그래피의 효율을 획기적으로 높인 성과”라며, “확보한 기술은 향후 양자컴퓨팅·양자통신·양자센싱 등 다양한 양자기술의 확장성과 신뢰성을 높이는 데 크게 기여할 것”이라고 말했다.
물리학과 곽근희 석박사통합과정 학생이 제1 저자로 참여하고 노찬 박사후연구원, 윤영도 석박사통합과정 학생, 임페리얼 칼리지 런던(Imperial College London)의 김명식 교수가 공동 저자로 참여한 이번 연구는 저명 국제 학술지 `네이처 포토닉스(Nature Photonics)'에 2025년 11월 11일 온라인판으로 정식 출판됐다.
※ 논문명: Completely characterizing multimode second-order nonlinear optical quantum processes, DOI:10.1038/s41566-025-01787-x
한편 이번 연구는 한국연구재단 (양자컴퓨팅 기술개발사업, 중견연구자 지원사업, 소재혁신 양자시뮬레이터 개발사업, 양자기술연구개발 선도사업, 기초연구실 지원사업)과 정보통신기획평가원 (양자인터넷 핵심원천기술 사업, 대학ICT연구센터지원사업) 및 미국 공군연구소의 지원을 받아 수행됐다.
기존 양자점 뛰어넘는 적외선 센서 기술 개발
최근 양자 큐비트 기술 분야에서는 양자 상태를 확보하기 위해 결정질 반도체를 활용한 아발란체 광다이오드 소자*들이 활용되고 있으나, 높은 열잡음으로 인해 극저온 구동이 필수적이며, 적외선 대역에서 높은 탐지 효율을 갖는 소재의 부재로 기술적 한계에 직면했다. 우리 연구진이 양자점 소재가 차세대 양자 기술로 활용될 돌파구를 제시했다.
*아발란체 광다이오드 소자: 매우 미세한 빛을 증폭하여 감지하는 고성능 센서 소자로서 야간 투시경이나 자율주행차, 우주 관측, 양자통신 등에 사용
우리 대학 전기및전자공학부 이정용 교수 연구팀이 콜로이드 양자점을 활용해 하나의 적외선 광자 흡수를 통하여 85배의 전자를 생성할 수 있는 아발란체 전자 증폭 기술*을 개발하여 기존 기술의 한계를 뛰어 넘는 감도를 달성했다고 8일 밝혔다.
*아발란체 전자 증폭: 기술 강한 전기장이 인가된 반도체에서 전자가 가속되어 인접 원자와 충돌을 통해 다수의 전자를 생성하는 신호 증폭 기술
화학적으로 합성된 반도체 나노입자인 콜로이드 양자점은 용액 기반 반도체로서 적외선 센서의 실용적인 후보로 주목 받고 있으며, 결정질 반도체와 다른 에너지 구조를 가져 열잡음 생성을 억제하는 장점이 있지만, 전하 이동도가 낮고, 양자점 표면에서 자주 발생하는 불완전 결합 때문에 전하의 재결합이 촉진되어 전하 추출이 저하되는 문제가 있었다.
연구진은 강한 전기장을 인가해 전자를 가속하여 운동에너지를 얻고, 인접 양자점에서 다수의 추가 전자들을 생성함으로써 상온에서 적외선을 조사 시 신호가 85배 증폭되고 1.4×1014 Jones 이상의 탐지 감도를 가지는 소자를 구현하였는데 이는 일반 야간 투시경보다 수만 배 정도 높은 감도를 보여준다.
적외선 광검출기는 자율주행차부터 양자컴퓨팅에 이르기까지 다양한 응용 분야에서 핵심적인 역할을 하지만, 기존 양자점 기반 기술은 민감도와 잡음 문제로 한계가 있었다.
이번 연구는 새로운 패러다임 전환을 불러올 기술이 될 것으로 기대되며, 양자 기술이 관련된 핵심 원천 기술을 선점함으로써 글로벌 양자 기술 시장을 대한민국이 주도할 수 있는 중요한 기술적 토대를 확보했다고 평가받고 있다.
제1 저자인 김병수 박사는 “양자점 아발란체 소자는 기존에 보고된 바 없는 신개념 연구 분야로서, 본 원천 기술을 통해 글로벌 자율주행차와 양자 컴퓨팅, 의료 영상 시장 등을 선도할 벤처 기업 육성을 주도할 수 있을 것”이라고 말했다.
KAIST 정보전자연구소 김병수 박사와 IMEC의 이상연 박사 및 한국세라믹기술원의 고현석 박사가 공동 제1 저자로 참여한 이번 연구는 국제 최상위 학술지 `네이처 나노테크놀로지(Nature Nanotechnology)' 12월 18일 자 온라인판에 게재됐다. (논문명 : Ultrahigh-gain colloidal quantum dot infrared avalanche photodetectors DOI: https://doi.org/10.1038/s41565-024-01831-x)
한편 이번 연구는 한국연구재단의 지원을 받아 수행됐으며, 주요 지원 사업으로는 나노및소재기술개발사업(경쟁형), 미래디스플레이 전략연구실사업, 개인기초연구사업 중견연구가 있다.