입력 2025.03.04 09:50
- 연세대·UNIST, 키타예프 양자 액체 상태의 특성 광학적으로 검출
- 차세대 양자컴퓨터 구현 가능성 열어… 네이처 커뮤니케이션즈 논문 게재

연세대학교 물리학과 김재훈 교수 연구팀이 2차원 반강자성체 물질에서 키타예프 스핀 액상(Kitaev Spin Liquid)의 특징을 발견해 차세대 양자컴퓨터 개발 가능성을 열었다.
연구 결과는 세계적 학술지 ‘네이처 커뮤니케이션즈(Nature Communications, IF 14.7)’에 2월 3일자로 발표됐다.
키타예프 스핀 액상은 러시아 물리학자 알렉세이 키타예프(Alexei Kitaev)가 처음 제시한 이론적 모델로, 2차원 육각격자 위에서 발현되는 양자 자성 상태다. 스핀(전자들의 자성)이 서로 일정하게 배열되지 않고, 마치 액체처럼 계속 요동치는 것이 특징이다.
특히 이 상태에서는 비가환 애니온(Non-Abelian Anyon)이라는 특이한 입자가 나타날 수 있는데, 이는 위상 양자컴퓨터를 구현할 수 있는 핵심 요소로 주목받고 있다. 비가환 애니온을 이용하면 무오류(Fault-Tolerant) 양자 연산이 가능해져, 보다 안정적인 차세대 양자컴퓨터 개발이 가능하다.

그러나 키타예프 스핀 액상을 완벽하게 구현한 물질은 아직 확실하게 인정된 바 없으며, α-RuCl₃, Na₂IrO₃ 등 일부 후보 물질을 중심으로 활발한 연구가 진행되고 있는 상황이다.
김재훈 교수팀은 코발트 기반 육각격자 구조의 Cu3Co2SbO6 물질을 제작하는 데 성공하고, 이 물질에서 키타예프 스핀 액상의 주요 특징을 관측했다.
Cu3Co2SbO6는 본래 단일 상으로 합성이 어려운 물질이지만, 연구팀은 기판과의 이질 구조 켜쌓기(Heterostructure Epitaxy) 기술을 활용해 단결정 박막을 제작했다. 이를 통해 자기 감수율 측정 및 엑시톤(Exciton)의 외부 자기장에 따른 변화를 관측했다.
그 결과, 스핀들이 특정 방향으로 쉽게 배열되지 못하고 서로 얽혀 제자리에서 쩔쩔매는 듯한 특성(Frustrated Spin)이 나타났으며, 엑시톤과 상호작용하는 과정에서 결합 방향과 빛의 편광 방향에 따라 달라지는 비등방적 반응이 관측되는 등 키타예프 상호작용의 특징이 확인됐다.

또한, 단거리 스핀 상관관계가 Neel 전이온도의 두 배 이상의 온도와 외부 자기장 하에서도 유지됨을 밝혀내며, Cu3Co2SbO6가 키타예프 스핀 액상 상태를 가질 수 있음을 강하게 시사했다.
이번 연구는 특히, 기존에 주로 연구되던 4d나 5d 전이금속이 아닌, 코발트 기반의 3d 전이금속에서도 키타예프 스핀 액상 상태가 발현될 수 있음을 처음으로 실험적으로 보여주었다는 점에서 큰 의미를 가진다.
연세대 김재훈 교수는 “키타예프 스핀 액상은 양자컴퓨팅에 활용될 수 있는 비가환 애니온이 출현할 수 있는 이상적인 물질 상태”라며, “무오류 양자 연산을 구현할 수 있는 새로운 플랫폼이 될 것”이라며 기대감을 나타냈다.
이번 연구는 연세대 김재훈 교수, 유니스트(UNIST) 손창희 교수, 유정우 교수(이상 공동교신), 부산대 옥종목 교수, 박성균 교수, 카이스트(KAIST) 양용수 교수, 울산대 김태헌 교수, 강원대 김흥식 교수 연구진이 공동으로 수행했다. 강백준, 최욱삼, 정택선, 노승현 연구원이 공동 제1저자로 참여했다.
(논문 정보)
1. 논문 제목: Optical detection of bond-dependent and frustrated spin in the two-dimensional cobalt-based honeycomb antiferromagnet Cu3Co2SbO6
2. 논문 주소: https://www.nature.com/articles/s41467-025-56652-w