광주과학기술원(GIST)은 황의석 전기전자컴퓨터공학과 교수 연구팀이 편미분방정식(PDE)을 푸는 물리정보 신경망(PINN) 학습에서 발생하는 불안정성을 해결할 새로운 적응형 샘플링 기법을 개발했다고 20일 밝혔다.

이번 연구는 기존 방식보다 정확도와 안정성은 높이고 계산 비용은 줄인 것이 특징이다.

편미분방정식은 여러 변수로 이루어진 함수와 그 변수들의 변화율(미분)을 함께 포함한 방정식으로, 시간과 공간에 따라 변하는 온도, 압력, 유체 흐름, 전자기장 등 다양한 물리 현상을 수학적으로 표현한다.

물리정보 신경망은 딥러닝 신경망에 물리 법칙을 직접 반영해 학습하는 기법이다. 단순히 데이터를 학습하는 데 그치지 않고, 미분방정식으로 표현되는 초기 조건·경계 조건·물리 제약을 손실 함수에 포함시켜 해를 구한다.

물리정보 신경망은 물리 법칙을 신경망 학습 과정에 직접 반영하여, 기존의 수치해석법(유한차분법, 유한요소법 등)에 비해 데이터 수집 비용을 줄이고 계산 효율성을 높이는 차세대 해석 방법으로 주목받고 있다.

하지만 기존의 잔차(오차) 기반 샘플링 기법은, 학습 과정에서 편미분방정식의 일부 구간에서 오차가 커지면 그 부분에만 집중해 학습이 편향되는 문제가 있었다. 이로 인해 학습이 불안정해지고, 학습 속도(학습률)를 조금만 바꿔도 결과가 크게 달라지는 한계가 있다. 잔차는 예측한 값과 실제로 만족해야 하는 조건 사이의 차이를 의미한다.

유한차분법(FDM), 유한요소법(FEM) 모두 편미분방정식(PDE)이나 연속체 문제(연속적인 공간과 시간에서 정의되는 물리량으로 모델링)를 수치적으로 해결하는 대표적 방법이다.

연구팀은 이러한 문제를 해결하기 위해 ‘랑주뱅 동역학(LD)’을 기반으로 한 새로운 ‘적응형 샘플링 프레임워크(LAS)’를 제안했다.

‘랑주뱅 동역학’은 원래 물리학·통계역학에서 입자의 무작위적 움직임(브라운 운동)을 설명하는 수학적 모델로, 입자가 단순히 무작위로 움직이는 것이 아니라 에너지 지형과 확률적 요인이 결합된 방식으로 움직이는 특징이 있다.

연구팀은 이 원리를 학습 과정에 적용해, 인공지능(AI)이 오차가 큰 영역이나 복잡한 경계 조건이 있는 구간을 스스로 더 자주 탐색하도록 유도했다. 즉, AI가 무작위 산책을 하듯 여러 구간을 탐색하면서도, 오차가 크거나 중요한 부분을 더 자주 들여다보며 스스로 학습 효율을 높이는 것이다.

‘적응형 샘플링 프레임워크(LAS)’의 핵심은 잔차 기반 확률 분포를 직접 추정하는 대신, 잔차의 변화 방향(기울기) 정보에 잡음(일정한 확률적 요인)을 주입하여 샘플링 과정을 동적으로 조정하는 것이다. 이를 통해 AI가 오차가 급격히 변하는 ‘날카로운’ 잔차 영역보다 ‘완만한(flat)’ 영역을 선호하게 만들어, 학습 안정성을 크게 높였다.

그 결과, LAS는 다양한 학습 속도나 모델 구조가 달라져도 성능을 일관되게 유지했으며, 고차원 편미분방정식 문제에서도 기존 방법보다 더 안정적으로 끝까지 해답을 찾아가는 모습을 보였다.

연구팀은 여러 실험을 통해 LAS의 높은 성능도 입증했다. 파동이나 화학 반응 등 1차원 편미분방정식 문제에서는 기존 방법보다 오차가 훨씬 작고, 학습 과정에서 결과가 일정하게 안정적으로 수렴했다. 더 복잡한 4~8차원 열전달 방정식 문제에서는 기존 기법들이 불안정해 제대로 학습하지 못한 반면, LAS만이 유일하게 안정적으로 답을 찾아냈다.

또한 신경망 구조를 복잡하게 만들거나 학습 속도를 빠르게 조정한 상황에서도 기존 기법은 불안정해졌지만, LAS는 넓은 조건에서도 안정성과 정확성을 유지했다. 계산 효율성도 우수해, 기존 방법과 비슷한 비용으로 더 빠르고 정확한 결과를 냈다.

황의석 GIST 교수는 “이번 연구는 복잡한 모델에서도 안정적인 학습을 가능하게 하면서도 계산 비용을 줄일 수 있는 방법을 제시했다”며, “제조·공정, 에너지·발전, 환경·기후 등 고차원 편미분방정식에서 정확한 값에 가까운 계산 결과가 필요한 산업 전반에서 신뢰성 높은 AI 해법을 제공할 수 있을 것”이라고 말했다.

연구 결과는 AI 분야 권위의 학술대회인 ‘뉴립스(NeurIPS)’에 제출된 전체 논문 중 상위 약 3.5% 이내에 해당하는 ‘스포트라이트(Spotlight)’ 논문으로 선정, 지난 9월 18일 게재됐다.