딥러닝과 유전 알고리즘을 활용해 기존 컬러필터보다 약 3.6배 많은 빛을 이미지 센서에 전달할 수 있는 고효율 메타표면 컬러 라우터가 개발됐다. 대규모 전자기 시뮬레이션에 의존하던 기존 나노광학 소자 설계의 계산 부담을 줄이고, 차세대 고효율 이미지센서 개발에 활용할 수 있는 새로운 역설계 방법이 제시됐다.

충남대학교 물리학과 박연상 교수 연구팀이 서울대 이명재 교수 연구팀, 호주국립대학교(Australian National University) Duk-Yong Choi 교수와 공동으로 딥러닝과 유전 알고리즘을 결합한 나노광학 소자 역설계 방법을 개발하고, 이를 활용해 고효율 메타표면 컬러 라우터를 설계·제작·검증했다.

이번 연구 결과는 물리학 분야 국제 학술지 ‘리포츠 온 프로그레스 인 피직스(Reports on Progress in Physics, IF 15.4)’에 8월 25일 온라인 게재됐다. 충남대 박효석 학생과 서울대 김사무엘 학생이 공동 제1저자로, 호주국립대 Duk-Yong Choi 교수가 공동연구자로, 충남대 박연상 교수와 서울대 이명재 교수가 공동 교신저자로 참여했다.

스마트폰, 자동차, 드론 등에 활용되는 컬러 이미지센서는 일반적으로 적색·녹색·청색을 구분하기 위해 컬러 필터 배열(Color Filter Array, CFA)을 사용한다. 컬러 필터는 특정 파장의 빛만 통과시키고 나머지 빛을 흡수하거나 차단하기 때문에 픽셀 크기가 작아질수록 센서에 도달하는 빛의 양이 감소해 이미지센서의 감도와 신호대잡음비를 낮추는 요인이 된다.

메타표면 컬러 라우터는 빛을 흡수해 색을 구분하는 기존 컬러 필터와 달리, 나노구조를 이용해 빛의 진행 방향을 조절하는 방식이다. 색에 따라 빛의 방향을 달리해 적색·녹색·청색 빛을 각각의 센서 픽셀로 전달함으로써 센서가 더 많은 빛을 받아들이도록 할 수 있다.

다만 높은 효율의 메타표면 컬러 라우터를 설계하기 위해서는 매우 작은 나노구조에 대한 정밀한 전자기 시뮬레이션을 반복적으로 수행해야 한다. 구조 하나를 계산하는 데 상당한 시간이 소요되는 만큼 대규모 나노구조 후보를 탐색하는 데 한계가 있었다.

연구팀은 이러한 문제를 해결하기 위해 정밀한 전자기 시뮬레이션으로 계산한 전자기장 분포를 학습하는 U-Net 기반 신경망을 구축했다. 14만 개의 나노구조 시뮬레이션 데이터를 활용해 신경망을 학습한 결과, 나노구조의 적색·녹색·청색 전자기장 분포를 빠르게 예측할 수 있는 나노광학 역설계 방법을 개발했다.

학습된 U-Net 기반 신경망은 1만 개의 나노구조 전자기장 분포를 약 0.92초 만에 예측해 기존 전자기 시뮬레이션 대비 약 23만 배 빠른 계산 속도를 보였다. 연구팀은 이를 바탕으로 약 1천만 회 규모의 나노구조 후보를 평가하고, 고효율 컬러 라우터에 적합한 구조를 탐색했다.

연구팀은 딥러닝 기반 전자기장 예측 모델을 유전 알고리즘과 결합해 이미지센서의 2 μm × 2 μm 베이어(Bayer) 픽셀 구조에 적용할 수 있는 단일층 질화규소(Si₃N₄) 메타표면 컬러 라우터를 설계했다. 이후 실제 소자를 제작해 성능을 검증한 결과, 가시광 영역에서 총 투과 효율이 88.8%로 측정됐으며, 상용 컬러 필터와 비교해 약 3.6배 많은 빛을 이미지 센서에 전달하는 것으로 나타났다.

이번 연구는 딥러닝을 활용해 나노구조의 전자기적 특성을 빠르게 예측하고, 이를 유전 알고리즘과 결합해 대규모 구조 공간에서 최적의 나노구조를 탐색할 수 있음을 보여줬다는 점에서 의미가 있다. 특히 이번에 개발된 설계 방법은 특정 메타표면 컬러 라우터에만 한정되지 않고 다양한 나노광학 소자의 역설계에도 활용할 수 있어 향후 적용 범위가 확대될 것으로 기대된다.

박연상 교수는 “기존 나노구조 설계에서는 후보 구조마다 매우 많은 양의 전자기 시뮬레이션을 반복해야 해 탐색할 수 있는 구조의 수에 한계가 있었다”며 “이번 연구를 통해 전자기장 분포를 학습한 신경망으로 나노구조 설계의 계산 부담을 크게 줄이고, 한 번 학습한 모델을 다양한 나노구조에 활용할 수 있음을 확인했다”고 말했다. 이어 “메타표면 컬러 라우터뿐만 아니라 다양한 나노광학 소자의 역설계에도 적용할 수 있을 것으로 기대한다”고 덧붙였다.

한편, 이번 연구는 교육부 BK21 FOUR, 한국연구재단 대학중점연구소지원사업(RS-2020-NR049597) 및 기초연구지원사업(RS-2025-24533176), 산업통상자원부 기술혁신사업(RS-2023-00235080), 과학기술정보통신부 양자정보과학 R&D 생태계 조성 사업(RS-2023-00256050) 및 나노·소재기술개발사업(RS-2024-00357517)의 지원을 받아 수행됐다.

□ 논문 제목: Metasurface color routers inverse-designed with a deep-learning accelerated genetic algorithm for high-efficiency imaging

□ 논문 링크: https://iopscience.iop.org/article/10.1088/1361-6633/ae9e8c