입력 2026.04.23 14:23
- 세계 연구진과 국제공동연구로 104큐비트 규모 양자 시뮬레이션 가능성 제시
- 오류 완화 기법 활용해 노이즈 많은 현세대 양자컴퓨터에서도 물리 시뮬레이션 성공
연세대학교(총장 윤동섭) 물리학과 4학년 최석원 학부생이 연세대 양자컴퓨터를 활용해 수행한 연구 결과 논문을 국제 학술지에 발표했다.
이번 연구는 최석원 학생이 주도하고, 미국 브룩헤이븐 국립연구소(Brookhaven National Laboratory)의 유광민 박사, 미국 캔자스대학교(University of Kansas)의 탈랄 아메드 초두리(Talal Ahmed Chowdhury) 박사가 함께 수행한 국제공동연구로 진행됐다. 연구 결과는 2025년 6월 25일 아카이브(arXiv)에 공개된 이후 SCI급 국제 학술지 피지카 스크립타(Physica Scripta)의 심사를 거쳐 2025년 9월 투고됐으며, 2026년 1월 22일 최종 출판됐다.
특히 이번 연구는 연세대에 구축된 127큐비트 IBM 퀀텀 시스템 1(IBM QS1) 양자컴퓨팅 연구 환경을 기반으로 수행된 국제 학술논문으로, 학부생이 양자컴퓨팅 분야에 권위 있는 해외 연구자들과 협력해 국제 공동 연구를 수행했다는 점에서도 주목받고 있다.
이번 연구는 연세대 양자사업단과 양자정보기술연구원, 물리학과 유휘동 교수가 수행한 ‘APEC APRU 학술교류 사업’의 지원을 받아 진행됐다. 최석원 학생은 2024년 연세대 학생들이 자발적으로 설립한 양자컴퓨팅 동아리(Quantum Informatics at Yonsei Academy, 이하 QIYA)부터 연구 활동을 시작했다. 해당 동아리에서는 학생들이 실제 양자컴퓨터를 활용한 연구와 실습으로 양자컴퓨팅 기술을 습득하고 있다. 이번 연구는 QIYA가 주도한 연구 활동에서 출발해 국제 공동 연구로 발전한 첫 사례다.
양자컴퓨터는 기존 고전 컴퓨터로 계산하기 어려운 복잡한 양자계의 거동을 시뮬레이션할 수 있는 차세대 계산 기술로 주목받고 있다. 특히 물리학, 화학, 재료과학 등 다양한 분야에서 복잡한 양자 다체계의 성질을 이해하는 데 중요한 도구가 될 것으로 기대된다. 그러나 현재의 양자컴퓨터는 하드웨어에서 발생하는 다양한 노이즈로 인해 계산 정확도가 크게 떨어지는 문제가 있어 실제 과학 연구에 활용하는 데에는 여전히 많은 어려움이 존재한다. 연구팀은 이러한 한계를 극복하기 위해 여러 가지 양자 오류 완화(Quantum Error Mitigation) 기법을 효과적으로 결합하여 대규모 양자 스핀계의 동역학을 실제 양자컴퓨터에서 시뮬레이션하는 연구를 수행했다.
연구팀은 대표적인 양자 다체계 모델인 1차원 Heisenberg XXZ 스핀 사슬(Spin Chain) 모델을 대상으로, 양자 상태가 시간에 따라 변화하는 양자 퀀치(quantum quench) 동역학을 양자컴퓨터에서 구현했다. 이 모델은 양자 통계물리학과 응집물질 물리학에서 널리 연구되는 기본적인 이론 모델로, 양자 정보의 확산과 열화 과정, 양자 상전이 등의 현상을 이해하는 데 중요한 역할을 한다.
연구팀은 연세대 양자컴퓨터 인프라를 활용해 해당 모델의 시간 진화를 양자 회로로 구현하고, 다양한 양자 오류 완화 기법의 성능을 비교 분석했다. 특히 기존에 널리 사용되는 ‘제로잡음 외삽법(Zero-Noise Extrapolation(ZNE))’ 방식과 함께 자가 완화(Self-Mitigation) 기법을 적용해 실제 양자 하드웨어에서 계산 정확도를 평가했다.
분석 결과 자기 완화 기법은 기존 방법에 비해 더 안정적인 정확도를 유지하는 것으로 나타났다. 연구팀은 3,000개 이상의 CNOT 게이트가 포함된 대규모 양자 회로에서도 안정적인 계산 정확도를 확보할 수 있음을 확인했다. 또한 해당 기법을 활용해 최대 84~104큐비트 규모의 양자 시스템까지 확장할 수 있는 시뮬레이션 결과를 제시했다. 만약 104큐비트 규모 시스템을 클래식 컴퓨터에서 구현할 경우 256Quettabyte(256x2100)의 메모리가 필요하다.
이번 연구에서는 양자 상태의 복잡도를 나타내는 중요한 물리량인 엔탱글먼트 엔트로피(entanglement entropy)를 실제 양자컴퓨터에서 측정하는 방법도 구현했다. 엔탱글먼트 엔트로피는 양자 시스템 내부의 상관관계를 나타내는 핵심 물리량으로, 양자 정보의 확산과 열화 과정, 양자 열화(thermalization) 현상 등을 이해하는 데 중요한 역할을 한다. 연구팀은 랜덤 측정 기반 프로토콜을 활용해 해당 물리량을 측정했으며, 실험 결과가 이론 계산과 잘 일치함을 확인했다.
특히 이번 연구는 노이즈가 많은 현세대 NISQ(Noisy Intermediate-Scale Quantum) 양자컴퓨터 환경에서도 적절한 오류 완화 기법을 적용하면 복잡한 양자 다체계의 동역학을 실제 하드웨어에서 연구할 수 있음을 보여준 사례라는 점에서 의미가 있다. 이는 완전한 오류 정정이 가능한 미래의 양자컴퓨터가 등장하기 이전 단계에서도 양자컴퓨터가 토이 모델을 넘어 실제 과학 연구에 활용(Quantum Utility) 될 가능성을 보여주는 결과로 평가된다.
이번 연구를 수행한 최석원 학부생은 “이번 연구는 노이즈가 존재하는 현재의 양자컴퓨터에서도 적절한 오류 완화 기법을 활용하면 대규모 양자계의 동역학을 연구할 수 있음을 보여준다”라며 “특히 연세대에 구축된 양자컴퓨터 연구 환경과 학생 연구 활동 지원 덕분에 학부생 단계에서도 이러한 연구를 수행할 수 있었다”라고 설명했다. 이어 “향후 양자컴퓨터가 고전 컴퓨터로 계산하기 어려운 복잡한 양자 물리 문제를 해결하는 데 중요한 역할을 할 것으로 기대된다”라고 덧붙였다.
한편, 공동 연구자 유광민 박사와 탈랄 아메드 초두리 박사 또한 “연세대가 보유한 IBM 양자 컴퓨팅 인프라와 양자사업단의 지원 덕분에 학부생과 함께 좋은 연구 결실을 볼 수 있었다”라며 “앞으로도 연세대와 브룩헤이븐 국립연구소, 캔자스대학교 기관 간에 더욱 긴밀히 협력하여 향후 더 강력한 연구 결과를 창출할 것이 기대된다”라고 언급했다.