고차원 물리 문제도 안정적으로 푼다…GIST, AI 학습 기술 개발

[디지털데일리 이나연 기자] 광주과학기술원(GIST)이 고차원 물리 문제도 안정적으로 푸는 인공지능(AI) 학습 기술을 개발했다. 기존 연구 방식보다 정확도와 안정성은 높이고 계산 비용은 줄였다.

전기전자컴퓨터공학과 황의석 교수 연구팀이 편미분방정식(PDE)을 푸는 물리정보 신경망(PINN) 학습에서 발생하는 불안정성을 해결할 적응형 샘플링 기법을 개발했다고 20일 밝혔다.

물리정보 신경망은 물리 법칙을 신경망 학습 과정에 직접 반영한다. 기존의 수치해석법(유한차분법, 유한요소법 등)보다 데이터 수집 비용을 줄이고 계산 효율성을 높이는 해석 방법이다.

그러나 기존의 잔차(오차) 기반 샘플링 기법은 학습이 편향되는 문제가 있었다. 학습 과정에서 편미분방정식의 일부 구간에서 오차가 커지면 그 부분에만 집중했기 때문이다. 이로 인해 학습이 불안정해지고 학습 속도(학습률)를 조금만 바꿔도 결과가 크게 달라지는 한계가 있다.

연구팀은 이러한 문제를 해결하기 위해 '랑주뱅 동역학(LD)'을 기반으로 한 새로운 '적응형 샘플링 프레임워크(LAS)'를 제안했다.

랑주뱅 동역학은 원래 물리학·통계역학에서 입자의 무작위적 움직임(브라운 운동)을 설명하는 수학적 모델이다. 입자가 무작위로 움직이는 것이 아니라 에너지 지형과 확률적 요인이 결합된 방식으로 움직이는 특징이 있다.

연구팀은 이 원리를 학습 과정에 적용해 AI가 오차가 큰 영역이나 복잡한 경계 조건이 있는 구간을 스스로 더 자주 탐색하도록 유도했다.

LAS 핵심은 잔차 기반 확률 분포를 직접 추정하는 대신, 잔차의 변화 방향(기울기) 정보에 잡음(일정한 확률적 요인)을 주입해 샘플링 과정을 동적으로 조정하는 것이다. AI가 오차가 급격히 변하는 '날카로운' 잔차 영역보다 '완만한' 영역을 선호하게 해 학습 안정성을 크게 높였다.

그 결과, LAS는 다양한 학습 속도나 모델 구조가 달라져도 성능을 일관되게 유지했다. 고차원 편미분방정식 문제에서도 기존 방법보다 더 안정적으로 끝까지 해답을 찾아가는 모습을 보였다.

연구팀은 여러 실험을 통해 LAS의 높은 성능도 입증했다. 파동이나 화학 반응 등 1차원 편미분방정식 문제에서는 기존 방법보다 오차가 훨씬 작고, 학습 과정에서 결과가 일정하게 수렴했다.

더 복잡한 4~8차원 열전달 방정식 문제에서도 LAS만이 유일하게 안정적으로 답을 찾아냈다. 기존 기법들은 불안정해 제대로 학습하지 못했다.

신경망 구조를 복잡하게 만들거나 학습 속도를 빠르게 조정한 상황 역시 마찬가지다. 기존 기법은 불안정해졌지만 LAS는 넓은 조건에서도 안정성과 정확성을 유지했다. 계산 효율성도 우수해 기존 방법과 비슷한 비용으로 더 빠르고 정확한 결과를 냈다.

연구팀은 이번 연구 성과가 물리정보 신경망의 활용 범위를 크게 넓힐 것으로 기대한다.

복잡한 다차원 물리 현상을 안정적으로 재현해 유체 역학, 열전달, 재료 시뮬레이션, 교통·전력망 해석 등 다양한 공학 분야에서 활용 가능성이 크다. 특히 기존 수치해석법보다 계산 효율이 높고 데이터 활용도도 뛰어나 산업계에서 시뮬레이션 비용을 줄이는 데도 도움이 될 전망이다.

황의석 교수는 "제조·공정, 에너지·발전, 환경·기후 등 고차원 편미분방정식에서 정확한 값에 가까운 계산 결과가 필요한 산업 전반에서 신뢰성 높은 AI 해법을 제공할 수 있을 것"이라고 말했다.

한편 이번 연구 결과는 AI 분야 세계 최고 권위 학술대회인 '뉴립스(NeurIPS)'에서 '스포트라이트' 논문으로 선정됐다. 스포트라이트 논문은 NeurIPS에 제출된 전체 논문 중 상위 약 3.5% 이내인 것을 뜻한다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -