원자 한 층에 갇힌 자성, 70년 난제 풀고 양자 소자의 새 길을 열다

두께 1나노미터(nm)도 채 되지 않는 원자 한 층의 평면 위에서 나침반처럼 자성을 띠는 입자들이 나란히 정렬한다. 수많은 원자가 입체적으로 쌓여야만 유지되던 자석의 성질이 극한의 2차원 평면에서 구현되는 순간이다.

과학기술정보통신부는 20일 오전 박제근 서울대학교 물리천문학부 교수 연구팀이 주도한 ‘2차원 자성 반데르발스(van der Waals)’ 분야 연구 성과와 향후 전망을 집대성한 논문이 22일 0시(한국시간)에 미국물리학회(APS) 발행 물리학 최고 권위 학술지 ‘리뷰스 오브 모던 피직스(Reviews of Modern Physics, RMP)’에 게재된다고 밝혔다.

조종영 과기정통부 기초연구진흥과장이 먼저 나서 정부의 평가와 지원 경과를 설명했고, 이어 단상에 오른 박제근 교수가 15년간의 연구 여정과 2차원 자성의 학문·산업적 의미를 직접 풀어냈다.

조 과장은 브리핑에서 “박제근 교수가 2010년부터 15년 이상 끈질기게 연구해 2차원 자성 반데르발스 물질을 구현하고 이를 실험으로 입증함으로써 물리학계의 70년 난제를 해결했다”고 소개했다. 그는 “이번 RMP 논문은 그간의 연구 성과를 88쪽 분량으로 집대성해 전 세계 물리학계의 연구 방향을 선제적으로 제시한 표준 지침서”라며 “대한민국이 개척한 연구 분야가 세계적 주류 학문으로 안착했음을 국제적으로 공인받은 결과”라고 의미를 설명했다.

“어두운 방에 들어가 불을 켠 연구”
이날 박제근 교수는 RMP 편집진의 서문을 먼저 꺼냈다. 그는 “RMP는 저희 논문을 ‘과학적 발견은 종종 어두운 방에 들어가 불을 켜는 것에 비유된다. 2016년 2차원 자성의 발견이 바로 그 불을 켠 도약이었다’는 문장으로 시작한다”며 “2010년 아무도 주목하지 않던 그 어두운 방에 ‘세상에서 가장 얇은 자석은 가능한가’라는 무모한 질문 하나를 들고 홀로 걸어 들어갔다”고 말했다.

당시 분위기에 대해 그는 “많은 이들이 외국에서 뜨는 유행이나 따라간다며 안 될 것이라고 했다”며 “남의 문제를 대신 풀어주는 것을 넘어 우리만의 독창적인 길을 개척해야 한다는 소명감으로 묵묵히 버텼다”고 회상했다. 이어 “2016년 세계 최초로 2차원 자성을 증명해 암흑 속에 불을 켰고, 오늘 그 15년의 땀방울이 전 세계 학자들이 따라야 할 A4 250페이지 분량의 국제 표준 교과서로 완성됐다”며 “대한민국 기초과학이 빠른 추격자를 넘어 세계의 규칙을 설계하는 ‘퍼스트 무버(First Mover)’로 도약했음을 선언하는 자리라고 생각한다”고 말했다.

70년 난제 푼 2016년 FePS₃ 실험
3차원 덩어리에서만 가능한 것으로 여겨졌던 자성을 2차원으로 끌어내린 실험은 물리학의 지평을 넓힌 사건으로 평가된다. 일상에서 사용하는 자석은 부피를 가진 3차원 구조로, 박 교수는 “손으로 가지고 놀 만큼 큰 자석 안에는 대략 1억 개 정도의 원자가 모여 있다”고 비유했다. 그는 “세상에 없는 가장 독창적인 질문을 던지고 싶었고, 그게 바로 원자 한 층으로 된 세상에서 가장 얇은 자석을 만드는 것”이라고 설명했다.

노르웨이 물리학자 라르스 온사거(Lars Onsager)는 1943년 2차원 아이징(Ising) 모델 해를 통해 2차원 자성의 이론적 가능성을 제시했지만, 이를 실제 물질에서 입증한 실험은 70년 넘게 없었다. 박 교수팀은 수년간의 시행착오 끝에 2012년 서울대에서 원자 한 층 두께의 자성 물질을 처음 만들어내고, 2015년 국내 물리학회와 2016년 도쿄에서 열린 국제학회에서 ‘자성 반데르발스’ 연구 가능성을 처음 공개했다. 2016년에는 삼황화린철(FePS₃)을 박리해 영하 118도 이하에서 자성 원자층을 추출하는 방식으로 2차원 자성 반데르발스 물질을 구현, 온사거의 예측을 세계 최초로 실험적으로 입증했다. 이 성과를 기점으로 ‘2차원 자성 반데르발스’는 물리학·재료과학의 핵심 주제로 자리 잡았고, 최근에는 관련 논문이 연간 1천 편 안팎 발표되는 수준까지 성장했다.

박 교수는 “아이징 모델이 한 줄로 줄을 서 있는 나란한 학생이라면, 하이젠베르크 모델은 아주 무질서한 유치원생의 줄로 생각할 수 있다”며 “그동안 교과서에만 존재하던 이런 자성 모델들이 실제 2차원 물질로 구현될 수 있음을 보여준 것”이라고 설명했다. 그가 2018년 국제학술지 네이처(Nature)에 게재한 리뷰 논문에 실린 ‘마그네틱 그래핀’ 그림은 지금도 자성 반데르발스 연구를 상징하는 이미지로 전 세계 발표 자료에 인용되고 있다.

RMP에 오른 88쪽 ‘표준 지침서’
‘2D van der Waals magnets: from fundamental physics to applications’라는 제목의 이번 RMP 논문은 박 교수가 2010년부터 진행해 온 연구를 88쪽 분량(단행본으로 환산 시 250쪽 이상)에 걸쳐 집대성한 리뷰 논문이다. 2차원 스핀 해밀토니안(Hamiltonian)의 실험적 구현, 자기 엑시톤(exciton)과 플로케(Floquet) 조작 등 새로운 양자 현상, 미해결 과제와 유망 연구 방향까지 폭넓게 정리했다. 해당 분야를 개척해 온 한국·미국 연구자 7명이 공동 저자로 참여해, 이 분야 연구자들이 참고할 사실상 ‘표준 교과서’ 역할을 할 것으로 기대된다.

RMP는 미국물리학회가 발행하는 물리학 분야 최고 권위의 학술지로, 특정 분야를 수십 년간 이끌어 온 극소수 연구자에게만 초청 집필 기회가 주어지는 것으로 정평이 나 있다. 1929년 창간 이후 한국인이 1저자 또는 교신저자로 이름을 올린 사례는 한 자릿수에 불과할 정도로 매우 드물며, 한국인 물리학자 고 이휘소 교수가 게이지 이론 리뷰 논문을 실으며 학계에 이름을 알린 것도 이 학술지를 통해서다.

“스핀소자·양자소자 향한 토대…산업화는 아직 신중”
원자 한 층 두께의 얇은 자석은 초저전력으로 구동하는 차세대 스핀 소자와 양자 컴퓨팅의 핵심 소재 후보로 꼽힌다. 과기정통부는 보도자료에서 “반데르발스 자성체 내 스핀 기반 양자 현상 제어 기술이 차세대 스핀트로닉스 및 양자소자 기술의 토대가 될 것”이라고 평가했다. 박 교수팀은 2차원 자성체에서 양자 얽힘이 있는 엑시톤을 발견하고, 빛으로 물질 상태와 자성을 초고속 제어하는 연구 결과를 국제 학술지에 잇달아 보고하며 응용 가능성을 넓혀 왔다.

다만 박 교수는 산업화 전망에 대해서는 신중함을 유지했다. 그는 질의응답에서 “기초연구를 가지고 산업적 응용을 이야기할 때는 굉장히 조심스러워야 한다”며 “우리가 만든 가장 얇은 자석을 이용해 소자를 만들면 가장 얇은 스핀소자가 될 것이라고 생각하고 있고, 지난 몇 년 동안 여러 그룹이 극저온에서 작동하는 새로운 개념의 소자를 실험실에서 구현해 논문으로 발표했다”고 말했다. 그러면서도 “그 기술이 삼성이나 IT 대기업이 필요로 하는 생산 프로덕트로 건너가는 데는 큰 간극이 있다”며 “원리적으로 작동 가능하다는 것까지는 검증했지만, 산업적 상용화로 이어질지는 기업과 시장의 영역”이라고 밝혔다.

“빠른 추격자에서 규칙 설계자로”
브리핑 내내 박 교수는 한국 과학계의 과제를 “빠른 추격자에서 규칙 설계자로” 전환하는 것이라고 강조했다. 그는 “2000년대 중반 빠른 추격자로서 좋은 저널에 논문도 많이 썼지만, 국제학회에 가보면 원천적 공로는 결국 처음 그 분야를 연 사람에게 돌아간다는 걸 절감했다”며 “남이 연 방 안의 보석 하나를 발견한 것이지, 방을 연 사람은 따로 있다는 괴리 속에서 언젠가는 누군가 방을 여는 일을 해야 한다고 생각했고, 제가 그 길을 가기로 했다”고 말했다.

자신이 45세에 ‘어두운 방’으로 들어간 배경에 대해서는 “세상에 없는 질문을 던지는 질문, 아무도 가지 않은 길로 나아가는 용기, 내가 아는 것과 모르는 것을 구분하는 정직성, 그리고 스스로를 믿는 신뢰라는 네 가지가 필요했다”고 했다. 그는 “한국 사회가 과학자에게 ‘논문이 어떤 저널에 실렸고 인용지수가 얼마냐’고 묻는 데서 그치지 말고, ‘당신은 어떤 새로운 분야를 세계 최초로 개척했는가’라고 묻기 시작할 때 비로소 진짜 파괴적 혁신이 나올 것”이라고 덧붙였다.

젊은 연구자들을 향해서는 “과학은 가장 뜨거운 두뇌와 도전 정신을 가진 젊은이들의 학문”이라며 “이제는 30대와 40대 신진 학자들이 이 새로운 무대의 주인공이 되어야 한다”고 말했다. 그는 “그들이 실패를 두려워하지 않고 자신만의 깜깜한 방에 기꺼이 들어갈 수 있도록 국가의 지원 시스템과 과학 생태계가 완벽한 방패가 되어줘야 한다”며 “내가 겪었던 15년의 어려움을 후배들이 그대로 반복하지 않도록 하는 것이 먼저 불을 밝힌 선배와 국가의 역할”이라고 강조했다.

과기정통부 김성수 연구개발정책실장은 “기초연구는 당장 눈에 보이는 성과를 얻기 어려운 무한도전과 실패의 영역이지만, 2차원 자성처럼 한 번 꽃피우면 상상하지 못한 파급력을 가진다”며 “새로운 분야를 발굴하고 심화시키는 리더급 연구자들이 기초과학의 패러다임을 이끌어갈 수 있도록 장기·안정적 지원을 이어가겠다”고 밝혔다.