초전도체(superconductor)는 전기 저항이 완전히 사라지는 신비로운 물질이다. 이 물질을 제대로 활용하려면 내부에서 일어나는 자기장의 움직임을 정확히 계산해야 하는데, 지금까지 이 계산은 컴퓨터에게도 몹시 까다로운 작업이었다. 그런데 최근 독일 카를스루에 공과대학교(KIT)와 본 대학교(University of Bonn) 공동 연구팀이 인공지능 신경망(neural network)을 기존 수학적 계산법과 결합한 새로운 하이브리드 방식을 개발해 이 난제를 풀어냈다. 2026년 3월 공개된 이 논문은 AI가 물리학의 오래된 문제를 푸는 데 실질적인 돌파구가 될 수 있음을 보여준다.

초전도체와 '소용돌이 격자'가 왜 중요한가

초전도체란 특정 온도 아래에서 전기 저항이 0이 되는 물질이다. 1911년 네덜란드 물리학자 오너스(Onnes)가 수은으로 처음 발견한 이후, 이 성질을 활용한 기술은 MRI 장치, 자기부상열차, 양자컴퓨터 등 다양한 분야에서 핵심 역할을 한다.

초전도체에 외부 자기장을 가하면 흥미로운 현상이 나타난다. 이른바 '타입-II 초전도체(type-II superconductor)'는 자기장이 물질 안으로 완전히 들어오지도, 완전히 밀려나지도 않는 중간 상태를 유지할 수 있다. 이때 자기장은 아주 작은 소용돌이 형태로 특정 지점에만 집중되는데, 이 패턴을 '아브리코소프 소용돌이 격자(Abrikosov vortex lattice)'라고 부른다. 이 격자 구조를 정확히 예측하는 것이 초전도체 응용 기술의 핵심이지만, 계산 난이도가 극히 높다는 것이 문제였다.

긴즈버그-란다우 에너지, 계산이 왜 이토록 어려운가

물리학자들은 초전도체의 상태를 '긴즈버그-란다우(Ginzburg-Landau, GL) 에너지'라는 수식으로 나타낸다. 이 수식은 초전도체 내부의 전자 밀도와 자기장 분포를 동시에 고려해, 에너지가 가장 낮은 최적의 상태를 찾아야 한다. 에너지가 낮을수록 실제 자연에 가까운 상태를 의미한다.

문제는 이 계산이 '초기값'에 극도로 민감하다는 점이다. 계산을 시작할 때 어떤 값을 넣느냐에 따라 완전히 다른 결과가 나오며, 심지어 진짜 최솟값이 아닌 가짜 최솟값에 빠져버리기도 한다. 기존의 유한요소법(finite element method, FEM)은 수학적으로 정밀하고 신뢰할 수 있지만, 초기값을 잘못 선택하면 최적의 해를 찾지 못한 채 엉뚱한 결과를 내놓는다. 연구팀은 논문에서 "초기값 선택이 결과에 결정적 영향을 미치며, 이를 체계적으로 탐색하기엔 계산 비용이 너무 크다"고 밝혔다.

신경망과 유한요소법의 결합, GLENN의 탄생

연구팀이 제안한 방법의 이름은 GLENN이다. 핵심 아이디어는 신경망의 빠른 탐색 능력과 유한요소법의 정밀한 계산 능력을 순서대로 결합하는 것이다.

먼저 신경망이 GPU(그래픽 처리 장치) 수천 개를 병렬로 활용해 빠르게 다양한 초기 해를 탐색한다. 이때 신경망의 학습 목표 자체가 긴즈버그-란다우 에너지를 낮추는 것이므로, 별도의 정답 데이터 없이도 스스로 훈련할 수 있다. 이를 '비지도 학습(unsupervised learning)' 방식이라 하며, 딥 리츠 방법(deep Ritz method)에서 착안한 것이다. 신경망은 또한 특정 값 하나가 아니라 재료 변수 κ(카파)의 넓은 범위를 한꺼번에 학습해, 다양한 조건에서도 바로 초기 해를 제공할 수 있다.

신경망이 만들어낸 초기 해는 이후 유한요소법 반복 계산의 출발점으로 쓰인다. 신경망이 제시한 좋은 출발점 덕분에 유한요소법은 더 낮은 에너지 상태로 빠르게 수렴한다. 설령 신경망의 초기 해가 완벽하지 않더라도, 이후 단계의 유한요소법이 수학적으로 엄밀하게 검증하며 결과를 보완한다.

기존 방식을 뛰어넘은 실험 결과

연구팀은 단위 정사각형과 L자형 영역 두 가지 기하학적 조건에서 실험을 진행했다. κ값이 클수록 소용돌이 수가 많아지고 계산이 어려워지는데, 특히 κ=75, κ=100 같은 높은 값에서 GLENN의 하이브리드 방식은 기존 유한요소법보다 훨씬 낮은 에너지 상태를 찾아냈다.

예를 들어 축소 모델 실험에서 κ=100일 때 기존 방식의 최선 결과는 에너지값 약 0.03092였으나, GLENN의 하이브리드 방식은 약 0.02605까지 낮췄다. 이는 기존 방식이 찾지 못한 더 안정적인 물리 상태를 AI가 발견했다는 의미다. L자형 영역에서도 κ=10을 제외한 모든 조건에서 하이브리드 방식이 기존보다 낮은 에너지를 달성했다. 더 주목할 만한 사실은 신경망을 약 1.5시간만 빠르게 훈련시킨 경우에도, 5가지 서로 다른 무작위 초기값으로 훈련한 모델들이 일관되게 낮은 에너지 결과를 냈다는 점이다. 이는 이 방법의 안정성과 재현 가능성을 보여준다.

AI 기반 과학 계산의 새로운 가능성

이번 연구가 흥미로운 이유는 단순히 초전도체 계산을 잘했다는 데 그치지 않는다. 신경망이 '정답을 모르는 상태에서 스스로 물리 법칙을 학습해 수학자들이 오랫동안 풀지 못한 최적해 탐색 문제를 해결했다'는 점이 핵심이다.

연구팀은 이 접근 방식이 비선형 슈뢰딩거 고유값 문제(nonlinear Schrödinger eigenvalue problem)나 볼록 최적화(convex optimization) 같은 다른 과학 계산 분야에도 적용 가능하다고 밝혔다. 특히 기존 연구들이 학습 데이터가 필요한 지도 학습(supervised learning) 방식을 택한 것과 달리, GLENN은 데이터 없이 에너지 함수 자체를 손실 함수(loss function)로 삼는 비지도 학습을 채택했다는 점에서 차별화된다. 이는 정답 데이터를 구하기 어려운 복잡한 물리·공학 문제에 AI를 적용하는 새로운 방향을 제시한다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q. 초전도체가 뭔가요? 일상생활과 관련이 있나요? 초전도체는 특정 온도 이하에서 전기 저항이 완전히 사라지는 특수한 물질입니다. MRI 의료장비, 자기부상열차, 양자컴퓨터 등에 핵심 부품으로 쓰이며, 에너지 손실 없이 전기를 전달할 수 있어 미래 에너지 기술에서도 매우 중요한 역할을 합니다.

Q. 인공지능이 어떻게 물리학 문제를 푸나요? 이번 연구에서 AI 신경망은 정답 데이터 없이 물리 법칙 자체를 학습 목표로 삼아 스스로 훈련했습니다. 에너지가 가장 낮은 상태를 찾는 것이 목표이므로, 신경망이 수많은 경우의 수를 빠르게 탐색해 기존 수학 계산법이 놓쳤던 최적 해를 찾아낼 수 있었습니다.

Q. 이 기술이 실제로 상용화되려면 얼마나 걸릴까요? 이번 연구는 수학적 계산 방법론에 관한 기초 연구 단계입니다. 실제 초전도체 소재 설계나 장치 개발에 적용되기까지는 추가적인 검증과 응용 연구가 필요하지만, AI와 수치 해석의 결합이라는 방법론 자체는 다양한 공학·물리학 분야에 빠르게 확산될 가능성이 높습니다.

기사에 인용된 리포트 원문은 arXiv에서 확인할 수 있다.

리포트명: Neural network-enhanced computation of Ginzburg–Landau energy minimizers

이미지 출처: AI 생성 콘텐츠

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.