대한민국이 개척한 ‘2차원 자성’ 연구,
전 세계 물리학계 표준으로 우뚝
- 서울대 박제근 교수 연구팀 성과, 물리학 최고 권위지 ‘RMP’에 논문 게재
- 세계 최초 2차원 자성 연구방향 제시하며 세계 물리학계의 나침반 역할
지난 15년 이상 국내 연구진이 개척해 온 물리학 연구 분야가 전 세계 학계를 이끌 표준 지침서로 완성되며, 80년 한국 물리학사에 기념비적인 성과로 기록되었다.
과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 '과기정통부')는 서울대학교 박제근 교수 연구팀이 '2차원 자성 반데르발스(van der Waals)' 분야의 연구 성과와 향후 전망을 집대성한 논문을 물리학계 최고 권위지에 게재하며 세계적 개척자로서의 위상을 확고히 했다고 밝혔다.
과기정통부 개인기초연구(리더연구) 사업의 지원을 통해 수행된 이번 연구는 물리학 분야에서 세계 최고 권위를 자랑하는 미국물리학회(APS) 발행 학술지 「리뷰스 오브 모던 피직스(Reviews of Modern Physics, 이하 'RMP')」에 4월 22일 자정(한국시간) 게재*되었다. 박제근 교수가 교신저자로 주도한 이번 논문에는 해당 분야의 기틀을 닦고 발전을 주도해 온 한·미 양국의 핵심 연구자 7명이 공동 저자로 참여하여 그 의미를 더했다.
* 논문명 : 2D van der Waals magnets: from fundamental physics to applications
(arXiv:2505.02355)
일상에서 흔히 접하는 자석은 부피를 가진 3차원 형태로, 원자가 입체적으로 쌓여있어 자기적 성질을 안정적으로 유지할 수 있다. 반면, 원자 한층 두께에 불과한 2차원 평면 상태에서도 자석의 성질을 발현하고 유지할 수 있는지는 물리학계의 오랜 난제였다.
1943년 노르웨이 물리학자 라르스 온사거(Lars Onsager)가 이론적으로 가능성을 제시하였으나, 전 세계 누구도 이를 실제로 증명하지 못하였다. 70여 년이 지나서야 비로소 박제근 교수 연구팀이 실험으로 입증할 수 있었다.

(그림 1) 2차원 자성체의 개념적 탄생
그림 1은 2차원 자성 반데르발스 연구 분야의 정체성과 학문적 도약을 한눈에 보여주는 개념도이다. 전체적인 이미지는 3D 프린팅으로 정교하게 제작된 구조물 형상을 띠고 있으며, 대표적인 2차원 물질인 '그래핀(Graphene)'과 유사한 벌집 모양(Honeycomb)의 2차원 골격(framework)을 바탕으로 하고 있다.
가장 눈에 띄는 시각적 특징은 탄소 원자가 있어야 할 격자의 뼈대 자리에 '작은 나침반'들이 배치되어 있다는 점이다. 이는 비자성 2차원 물질인 그래핀의 탄소 원자가 자성을 띤 전이금속 원자로 치환해, 원자 한 층 두께의 2차원 평면 자체에서 내재적 자성을 구현해 냈다는 연구 분야의 패러다임 전환을 직관적으로 보여준다.
그림설명 및 그림제공 : 서울대학교 물리천문학부 박제근 교수
연구팀은 지난 2016년, 삼황화린철(FePS3)을 박리해 영하 118도 이하에서 자성 원자층을 추출해 2차원 자성 반데르발스 물질을 구현함으로써, 온사거의 이론을 세계 최초로 실험을 통해 입증하였다. 박제근 교수는 이 실험을 통해 2차원 자성 반데르발스 연구 분야를 처음으로 개척하며, 지난 10여 년간 이 분야의 연구를 선도적으로 이끌어 왔다.
이번 논문은 박제근 교수가 2010년부터 연구한 발자취를 총 88페이지 분량으로 체계적으로 정리한 것이며, 단행본으로 출판하면 250페이지가 넘는 방대한 분량이다. 2차원 스핀 해밀토니안의 실험적 구현부터 자기 엑시톤, 플로케(Floquet) 조작 등 새로운 양자 현상까지 총망라하였다. 또한, 미해결 과제와 유망 연구 방향을 선제적으로 제시함으로써 향후 전 세계 관련 학계의 표준 지침서로 활용될 전망이다.

(그림 2) 2차원 반데르발스 자성체가 여는 새로운 물리적 현상
2차원 반데르발스(vdW) 자성체가 제공하는 ‘물리적 현상의 종합 플랫폼'을 직관적인 하나의 다이어그램으로 요약한 자료이다.
그래핀과 같은 벌집 모양(Honeycomb)의 2차원 격자 구조를 바탕으로, ① 근본적인 자성 모델의 실험적 구현, ② 외부 섭동을 통한 물성 제어, ③ 빛-물질 상호작용 및 위상 현상이라는 세 가지 거대한 물리학적 주제가 어떻게 하나의 2차원 평면 위에서 이루어지는지를 명확히 보여준다.
그림설명 및 그림제공: 서울대학교 물리천문학부 박제근 교수
특히 이번 성과는 학술적 가치를 넘어 산업적 응용 가능성까지 제시하고 있다. 반데르발스 자성체 내 스핀 기반 양자 현상 제어 기술은 차세대 스핀트로닉스 및 양자소자 기술의 핵심 기반이 될 것으로 기대된다. 이러한 독보적인 연구 경쟁력을 바탕으로 지난해에는 독일 막스플랑크 양자물질 국제협력센터(KOMQUEST)를 서울대에 유치하는 쾌거를 거두기도 하였다.
한편, 이번 논문이 게재된 RMP는 물리학 분야 세계 최고 권위의 학술지로서, 세계적 학자로 알려진 한국인 물리학자 故이휘소 교수가 학계에 이름을 알리게 된 것도 RMP에 게이지 이론(Gauge Theory) 관련 논문을 주저자로 게재한 것이 계기가 되었다.
RMP는 해당 분야를 수 십년간 이끈 극소수의 연구자들에게만 초청 집필 기회가 주어질 정도로 게재가 매우 어려운 학술지로 정평이 나 있으며, 한국인이 1저자 또는 교신저자로 이름을 올린 경우는 1929년 창간 이후 한자리에 불과할 정도로 매우 드물었다.
이번 박제근 교수의 게재는 박 교수가 개척한 '2차원 자성 반데르발스' 분야 연구가 세계적 주류 학문으로 자리 잡았음을 의미하고, 박 교수가 해당 분야의 최고 권위자로 국제적 공인을 받은 기념비적인 결실이라 할 수 있다.
박제근 교수는 “2010년부터 한국에서 세계 최초로 개척한 연구가 이제 매년 1,000편 이상의 논문이 발표되고, 미국, 유럽, 중국 등 전 세계 주요 연구기관들이 경쟁하는 글로벌 핵심 분야로 성장했다”며, “이번 RMP 게재와 막스플랑크 양자물질 국제협력센터 유치를 발판 삼아 대한민국이 양자물질 및 차세대 스핀소자 분야의 세계적 허브로 도약하는 데 기여하겠다”고 밝혔다.
과기정통부 김성수 연구개발정책실장은 “기초연구는 눈에 보이는 성과를 당장 얻기 어려운 무한도전과 실패의 영역이지만, 연구의 과정과 결과는 상상하지 못한 파급력을 가져올 수 있다”며, “앞으로도 새로운 분야를 발굴하고 심화시켜 나가는 리더급 연구자들이 기초과학의 패러다임을 주도할 수 있도록 안정적이고 전폭적인 지원을 이어나갈 것”이라고 밝혔다.
주요내용 설명
<작성 : 서울대학교 박제근 교수>
논문명
2D van der Waals magnets: from fundamental physics to applications (arXiv:2505.02355): Reviews of Modern Physics
저널명
Reviews of Modern Physics(RMP)
키워드
two-dimensional magnetism (2차원 자성), van der Waals magnetism (반데르발스 자성), quantum materials (양자물질), spintronics (스핀트로닉스)
DOI
https://doi.org/10.1103/2pff-xy6n
저 자
박제근 교수(교신저자/서울대학교), 카이슈안 장(Kaixuan Zhang) 박사(공동저자/서울대학교), 정현식 교수(공동저자/서강대학교), 김재훈 교수(공동저자/연세대학교), 카리나 A. 벨빈(Carina A. Belvin) 박사(공동저자/ Caltech), 데이비드 셰(Dave Hsieh) 교수(공동저자/Caltech), 홍리에 닝(Honglie Ning) 박사(공동저자/ MIT), 누 게딕(Nuh Gedik) 교수(공동저자/MIT)
1. 연구의 필요성
○ 2차원 한계에서의 자성 발현 메커니즘 규명: 현대 응집물질물리학에서 2차원(2D) 스핀 시스템의 이론적 연구는 수많은 핵심적 발견의 토대가 되어왔다. 그러나 순수한 2차원 원자층 두께에서 실제 자성이 어떻게 발현되고 유지되는지를 실험적으로 검증하는 것은 오랜 난제였다.
○ 새로운 양자 자성 플랫폼의 발견: 기존 자성체들은 주로 3차원 형태에서 연구되었으나, 2차원 반데르발스(van der Waals, vdW) 자성체의 발견은 원자 수준으로 얇은 자기 시스템을 직접 실험적으로 탐구할 수 있는 실제적인 플랫폼을 제공하며 이 분야에 새로운 전환점을 마련했다.
○ 해당 분야의 급격한 팽창과 통합적 시각의 필요성: 박제근 교수가 2010년부터 이 분야를 개척하고 첫 논문 4편을 2016년 세계 최초로 발표한 이래, 본 분야는 기초 물리학에서 가장 역동적인 연구 영역으로 자리 잡았다. 현재 매년 1,000여 편의 논문이 발표되는 재료과학의 핵심 분야로 성장했으며, 새로운 자성 물질과 양자 현상이 끊임없이 보고되고 있다. 이러한 비약적인 발전 속에서 연구의 역사적 궤적을 추적하고 주요 성과를 체계화한 통합적 학술 이정표의 정립이 절실한 시점이다.
2. 연구내용
○ 본 논문은 반데르발스 자성체의 발전 과정을 종합해, 기초 물리학적 현상부터 차세대 응용까지의 전 과정을 구체적으로 다루고 있다.
○ 2차원 스핀 해밀토니안의 실험적 구현: 이상적인 2차원 한계에서 아이징(Ising), XY, 하이젠베르크(Heisenberg) 모델과 같은 근본적인 자기 모델들의 실험적 구현을 상세히 분석한다. 특히 자기 바닥 상태가 전기장 게이팅, 변형, 근접 효과, 모아레(Moire) 패턴 등 외부 섭동에 의해 어떻게 제어될 수 있는지를 체계적으로 설명한다.
○ 기이한 양자 현상 및 광학적 규명: 광학적 2차 조화파 발생, 라만 산란, 테라헤르츠 대역의 마그논 동역학 등 첨단 기법을 통한 물성 탐구 결과를 총망라한다. 이를 통해 자기 엑시톤, 플로케(Floquet) 조작 상태, 빛에 의해 유도된 준안정 자기 상 등 기존에 예상치 못했던 새로운 양자 현상들을 확인하고 그 메커니즘을 분석한다.
○ 스핀 동역학과 위상 현상 탐구: 카이랄리티를 띠는 자기 여기 현상과 상전이 과정을 비롯해, 복잡한 스핀-궤도 결합 및 마그논 동역학이 2차원 격자 내에서 어떻게 발현되는지를 심층적으로 규명한다.
* 스핀 해밀토니안: 물질 내부의 전자 스핀들이 서로 어떻게 상호작용하는지를 에너지 관점에서 수학적으로 표현한 모델이다. 스핀의 정렬 방향과 상호작용 방식에 따라 아이징, XY, 하이젠베르크 모델 등으로 분류된다.
* 자기 엑시톤: 외부의 빛을 흡수해 들뜬 상태가 된 전자-양공 쌍(엑시톤)이 물질 내의 주변 자기적 질서(스핀 배열)와 강하게 상호작용해 형성되는 복합적인 준입자이다.
* 플로케 조작 상태: 물질에 주기적인 강한 외부 빛이나 전자기장을 조사해, 평상시에는 존재하지 않는 새로운 양자역학적 밴드 구조나 특수한 자기적 성질을 인위적으로 유도해 낸 상태를 뜻한다.
* 모아레 패턴: 두 층의 2차원 원자막을 겹칠 때 약간의 각도를 비틀어 쌓음으로써, 원래의 원자 간격보다 훨씬 큰 거시적이고 주기적인 무늬를 만들어 자기적 특성을 조절하는 물리적 구조이다.
3. 연구성과/기대효과
○ 스핀트로닉스 소자의 새로운 아키텍처 제공: 2차원 반데르발스 자성체는 단순한 학문적 발견을 넘어, 스핀 필터, 재구성 가능한 초저전력 자기 메모리, 초고속 스위칭 소자 등 차세대 스핀트로닉스 기기에 통합될 수 있는 막대한 잠재력을 지니고 있다.
○ 양자 기능성 제어 원천 기술 확보: 모아레 초격자나 플로케 빔을 이용한 양자 상태 제어는 양자 기능성을 인위적으로 설계할 수 있는 새로운 플랫폼을 제공한다. 이는 위상학적 특성을 활용한 양자 정보 및 컴퓨팅 기술 발전의 튼튼한 초석이 될 것이다.
○ 미래 고체물리학 연구의 이정표 제시: 응집물질물리학 및 재료 과학 전반에 걸친 이 분야의 폭넓은 파급력을 강조하며, 미해결 과제와 향후 유망한 연구 방향을 선제적으로 제시함으로써 전 세계 학계의 표준적 지침서가 될 것이다.
연구 이야기
<작성 : 서울대학교 물리천문학부 박제근 교수>
□ 연구를 시작한 계기나 배경은?
2010년경 외국에서 아무도 하지 않은 새로운, 독창적인 분야를 대한민국에서 개척하고 싶다는 꿈을 가졌습니다. 이런 과정에 2차원 자성이라는 아이디어를 얻게 되었습니다. 2차원 자성은 평소 많이 사용하던 개념이지만, 이론으로만 존재하고 실제 물질은 없다는 것을 깨닫게 되었습니다. 그리고 나서 이론만으로 존재하는 2차원 자성 물질을 찾겠다는 목표를 가지게 되었습니다. 단순한 기초 물리학 질문에서 출발한 이 연구는 이제 새로운 양자물질 연구분야로 확장되고 있습니다.
□ 연구 전개 과정에 대한 소개
2010년경 이 연구를 시작했을 때는 주변의 모든 사람이 부정적이었습니다. 이런 주변의 부정적인 편견을 이겨내고 내 생각이 옳다는 확신을 가지고 도전을 했습니다. 2012년경에 실제 물질을 찾았지만, 이어 측정을 하는데 많은 어려움이 있었습니다. 세상에 존재하지 않았던 물질을 발견했으니, 당연히 기존에 알려진 측정 방법이 없었습니다. 이런 어려움을 국내외 공동연구자와 하나하나 해결하여 2016년에 총 4편의 논문을 이 분야 최초로 발표하였습니다. 그 이후에도 많은 어려움이 있었지만, 전 세계 전문가들과 협력 연구로 해결하고 있습니다. 이 연구는 한국과 미국의 주요 연구기관이 협력해 진행된 대표적인 국제 공동연구 사례입니다.
□ 연구하면서 어려웠던 점이나 장애요소는 무엇인지? 어떻게 극복(해결)하였는지?
세상에 없는 것을 2010년 대한민국에서 개척하겠다고 했을 때, 대한민국의 많은 과학자들이 매우 부정적인 의견을 내거나 비판적이었습니다. ‘무슨 대한민국에서 새로운 것을 하느냐, 그냥 외국에서 뜨는 연구 주제를 따라가서 좋은 논문이나 내지’라는 소리를 수도 없이 들었습니다. 하지만, 대한민국의 과학자로서 이렇게 남 따라하기는 넘어서야 한다고 생각했고, 그것이 나의 시대적 소명이라고 생각해서 그냥 묵묵히 연구에 매진했습니다.
□ 이번 성과, 무엇이 다른가?
이번 논문 게재는 한국에서 시작된 연구가 세계적인 학문 분야로 자리 잡았음을 보여주는 상정적인 성과로 평가됩니다. 우리나라에서는 빠른추격자(Fast Follower)에서 선도자(First Mover)가 되어야 한다는 이야기가 지난 20년 넘게 회자되고 있지만, 정작 대한민국에서 세계 최초로 개척된 연구 분야는 거의 없습니다. 이번 연구 성과는 이런 대한민국의 시대적 소명에 대한 과학자의 응답이고, 이렇게 대한민국에서 선도자로서 아무도 하지 않은 독창적인 연구를 개척할 수 있다는 것을 증명한 것이 중요합니다.
□ 실용화된다면 어떻게 활용될 수 있나? 실용화를 위한 과제는?
현재 이 분야는 새로운 스핀소자를 구현하는 것이 중요한 연구의 방향입니다. 2차원 원자층으로 이루어진 얇은 소자를 IT 산업에 사용할 수 있도록 많은 응용 연구가 되고 있습니다. 본 연구진도 이런 노력을 기울이고 있으면, 기술적인 난관을 하나씩 해결하고 있습니다.
□ 꼭 이루고 싶은 목표나 후속 연구계획은?
내가 개척한 자성 반데르발스에서 두 가지를 이루고 싶습니다. 먼저, 이 물질들을 사용해서 세상에 보고된 적이 없는 새로운 물리현상을 발견하여 물리학의 새로운 지평을 열고 싶습니다. 그리고 다른 하나는 이들 물질을 사용해서 산업계에 사용할 수 있는 스핀 소자를 구현하고자 합니다.
특히, 국내의 많은 연구자들과 함께 2차원 양자물질 분야에서 세계적인 연구소를 설립하는 것이 꿈입니다.
□ 기타 특별한 에피소드가 있었다면?
2010년 이 연구를 시작하고 처음 2년 동안 연구에 아무런 진전이 없어서 연구를 포기하려고 했습니다. 그러던 어느 날 1993년 내가 젊은 연구원일 때 읽은 논문 한 편을 기억해 내고, 연구의 실마리를 찾기 시작했습니다. 이 논문은 프랑스 그레노블의 프랑스 국립연구소 CNRS에서 일을 할 때 읽었던 논문인데, 1970-80년대 이루어진 자성체에 대한 소개였습니다. 이 논문을 다시 읽으면서 연구의 목표가 더욱 명확해졌습니다.