2.1 문제 정의 및 모델 훈련

본 논문에서는 비선형 동적 시스템으로부터 관측된 데이터셋 중 손실되거나 결측된 데이터를 장기 예측하여 보간하는 문제를 KAE 모델을 활용하여 해결하고자 한다. 비선형시스템 $F(\bullet)$와 이산시간 데이터 $x_{k}$는 시간 $k$에 대해서 $x_{k+1}=F\left(x_{k}\right)$ 만족한다고 가정한다.

그림 1. Koopman 이론 기반 오토인코더의 구조도

Fig. 1. Structure diagram of the Koopman theory-based autoencoder

그림 2. KAE 모델의 데이터 예측(입력 $x_{t}$는 시간 윈도우를 갖는 데이터)

Fig. 2. Data prediction of the KAE Model (The input $x_{t}$ is a time windowing data)

물리 모델은 그림 1과 같이 Koopman Autoencoder(KAE)를 가르킨다. KAE는 encoder $\phi$, Koopman operator $\kappa$, decoder $\phi^{-1}$로 모두 인공신경망을 기반으로 구성된다. Encoder와 decoder는 $\phi^{-1}\left(\phi\left(x_{k}\right)\right)=x_{k}$를 만족하도록 설계 및 훈련되며, Koopman theory^[12]에 따르면 encoder는 상태공간의 데이터 를 무한차원의 가관측공간으로 공간 맵핑을 수행하야 하지만 현실적으로는 유한차원의 공간으로 맵핑한다. Koopman operator는 사전정의된 단위 시간 스텝 만큼 물리 현상을 전개(forwarding)하는 역할을 수행하며 이는 수식 (1)과 같이 가관측공간에서 수행된다.

수식 (1)이 의미하는 바는 가관측공간으로 표현된 비선형시스템의 데이터를 Koopman operator를 통해 선형 관계로 표현할 수 있다는 것이다. 요약하면, Koopman 연산자는 무한 차원의 임의의 힐버트 공간으로 맵핑된 관측데이터의 비선형 시스템을 전역적이고 체계적인 선형 표현으로 제공하는 기능을 한다. 물리 현상을 추론하고 해석하기 위해, 표현된 Koopman 연산자와 오토인코더를 활용하여 동역학 특성과 물리 법칙을 학습할 수 있다.

모델 학습을 위한 손실 함수는 복원과 예측으로 구성되고, 다음의 수식을 만족하여 모델 학습시 손실 최소화가 이루어진다.

그림 3. 다중 입력 기반의 KAE 모델의 동작 구조도

Fig. 3. Operational Diagram of the Multi-Input Based KAE Model

여기서 수식 (2)는 오토인코더에서 인코더 맵핑에 대한 디코더 복원(reconstruction) 능력을 부여하기 위한 손실함수이며, 수식 (3)은 Koopman operator에 대한 미래 예측 능력을 부여하기 위한 손실함수이다. $n$은 단위 시간 스텝에 대한 적용된 Koopman operator $\kappa$의 횟수이며 $n=1$의 경우 모델에 데이터 $x_{k}$를 입력하면 출력은 $x_{k+1}$로 이루어진다. 위 손실함수에 대해서 손실 최소화가 이루어지면, 임베딩된 데이터 복원과 미래 데이터 예측 기능이 동시에 모델에 학습되어 이 후 데이터 보간에 활용될 수 있다.

2.2 다중 입력 기반 데이터 예측 및 보간

KAE 기반의 물리 모델을 활용하여 물리 예측을 실시한다. 그림 2에서는 기존의 물리 예측을 수행하는 방법을 도시하고 있으며, 단일 입력 $x_{k}$를 KAE에 입력하면 예측된 $x_{k+n}$값을 산출할 수 있다. 여기서 $n$은 단위 시간 스텝에 대한 적용된 Koopman operator의 횟수이며 1인 경우 $x_{k+1}$로 출력된다. Koopman operator가 다중으로 적용되는 경우는 다음 수식 (3)과 같이 표현될 수 있다.

수식 (3)에서 Koopman operator $\kappa$를 적용할 때 마다 예측 오차가 발생할 수 있으며, 다중으로 적용하여 먼 미래의 예측을 시도하면 그 오차가 계속해서 누적되어 실제값과 예측값이 차이를 보이고, 예측 정확성이 열화될 수 있다.

본 논문에서는 이러한 누적 오차를 저감하기 위한 방법으로 그림 3과 같은 구조를 제안한다. 그림 3에서는 KAE에 다중의 초기 입력값을 입력할 수 있는 구조를 가진다. 그림 3에서 다중의 초기 입력값은 시간 스텝(시간 해상도) 1을 갖는 8개의 값으로 예시되어 있으며 KAE 모델의 시간스텝은 8로 정의되었다. 그림 2에서 KAE의 시간스텝은 1로 정의되어 있으며, 이는 Koopman operator $\kappa$가 적용될 떄마다 사전정의된 시간스텝 만큼 미래를 예측하는 시간 이동이 1 step 만큼 발생한다. 그림 3에서의 KAE는 시간스텝이 8로 사전 정의되어 학습된 모델이며, Koopman operator $\kappa$가 적용되면 미래를 예측하는 시간 이동이 8 step 만큼 적용되는 구조이다.

제안하는 장기예측 방법의 핵심은, Koopman Autoencoder를 활용해 미래의 특정 시간에 대한 물리량을예측할 때, 시간 해상도가 서로 다른 두 KAE가 동일한 물리 특성을 학습했다면, 낮은 시간 해상도를 갖는 KAE가 높은 시간 해상도를 갖는 KAE보다 예측 오류가 작을 수 있다는 것이다. 이는 두 KAE 모델의 은닉층 구성과 파라메터 환경이 동일함에도 불구하고, 낮은 시간 해상도를 갖는 KAE가 적은 시간 스텝으로 미래 시점에 빠르게 도달할 수 있기 때문이며, 두 모델이 학습해야할 물리특성 또는 정보량이 동일하기 때문이다. 이러한 특성을 활용하여 본 논문에서 다중 입력 기반의 고시간 해상도 장거리 예측 KAE 모델을 제안한다.

그림 3에서는 그림 2와 같이 비선형시스템의 데이터 $x_{k+1024}$까지 미래 예측을 시도하는 동일한 목표를 갖고있다. 그림 2에서는 데이터 $x_{k+1024}$를 예측하기위해 Koopman operator $\kappa$를 1024번 적용하여야 하지만, 제안방법인 그림 3에서는 128번만 적용하면 목표 미래 시점의 데이터인 $x_{k+1024}$를 예측할 수 있다. 이러한 방법으로 Koopman operator $\kappa$를 더 적은 횟수로 적용하여 Koopman operator 를 적용함에 따라 발생하는 예측 오차를 저감하는 동시에 동일한 미래 시점의 데이터 예측을 시도하고자 한다. 제안 방법을 요약하면, KAE 모델의 시간 해상도를 낮게 조정하여 모델 학습하고 조정된 시간 해상도에 대응하여 고시간 해상도의 다중 입력을 실시하는 것이다.

3.1 데이터셋

본 논문에서는 세 가지 유형의 비선형 시스템 (NAVIER-STOKES(smoke)^[13], NAVIER-STOKES (viscous flow)^[9], SHALLOW WATER^[13])으로부터 관측된 이미지 데이터셋을 모의실험에 활용하였다. 학습 및 평가에 활용된 2차원 이미지 데이터의 크기는 64x64, 입력 데이터의 시간 윈도우는 10, 출력 데이터의 시간 윈도우는 40, 베이스라인 모델의 평가 데이터의 시간 윈도우는 1024, 제안 모델의 평가 데이터의 시간 윈도우는 128로 설정되었다. 세 가지 데이터세트에 대한 훈련 데이터 1080개, 검증 데이터 120개, 평가 데이터 120개의 이미지 세트를 생성하였다. 베이스라인 모델 학습을 위한 시간 스텝 T는 1, 제안 모델 학습을 위한 시간 스텝 T는 8로 설정되었다.

3.1.2 NAVIER-STOKES-viscous flow

수학적으로, 비압축성 2차원 Navier-Stokes 방정식의 와도(vorticity) 형태는 다음과 같이 정의된다^[9]:

(9)

$\partial_{t}\omega +{u}\bullet\nabla\omega =\nu\nabla^{2}\omega +\nabla\times{f},\:$

(10)

$\nabla\bullet{u}=0,\:$

그림 4. Navier-Stokes(smoke) 데이터셋에 대한 제안 모델과 베이스라인 모델의 데이터 보간 성능

Fig. 4. Imputation performance of the proposed model and the baseline model on the Navier-Stokes(smoke) dataset

그림 5. Navier-Stokes(viscous flow) 데이터셋에 대한 제안 모델과 베이스라인 모델의 데이터 보간 성능

Fig. 5. Imputation performance of the proposed model and the baseline model on the Navier-Stokes(viscous flow) dataset

그림 6. Shallow Water 데이터셋에 대한 제안 모델과 베이스라인 모델의 데이터 보간 성능

Fig. 6. Imputation performance of the proposed model and the baseline model on the Shallow Water dataset

여기서 𝜔는 와도의 스칼라 장을 나타내고, 𝑢는 속도의 벡터 장을 정의하며, f는 시간에 독립적인 강제 항을 나타낸다.

표 1 다중입력 Koopman Autoencoder의 데이터 보간(prediction) 성능

Table 1 Performance of data prediction for the Koopman Autoencoder

Dataset			Navier-Stokes(smoke)	Navier-Stokes (viscous flow)	Shallow Water
Single-Input (baseline)	dt=1s	MAPE	69.80	-	43.05
		SMAPE	72.85	11.85	82.45
		MSE	0.170	0.215	0.005
Multiple-Input (proposed)	dt=8s	MAPE	95.80	-	63.49
		SMAPE	95.55	78.75	89.70
		MSE	0.004	0.002	0.002

표 2 다중입력 Koopman Autoencoder의 데이터 복원(reconstruction) 성능

Table 2 Performance of data reconstruction for the Koopman Autoencoder

Dataset			Navier-Stokes(smoke)	Navier-Stokes (viscous flow)	Shallow Water
Single-Input (baseline)	dt=1s	MSE	0.0042	0.00011	0.00041
Multiple-Input (proposed)	dt=8s	MSE	4.9e-5	0.00015	0.00035

그림 7. 제안 모델과 베이스라인 모델의 데이터 예측 비교

Fig. 7. Comparison of the prediction of the proposed model and the baseline model

점성 계수는 𝜈=$10^{-3}$으로 설정되어 와도 𝜔을 관측하여 데이터셋을 구성하였다.

3.2 보간 성능 분석

그림 4, 5, 6에서 베이스라인 모델과 제안 모델의 보간 성능을 세 가지 데이터세트에 대해서 각각 도시하였다. 그림에서 모델#1은 베이스라인, 모델#2은 제안 모델을 가리키며, x축은 1초 간격의 시간 스텝으로 1024초까지 예측된 1024개의 데이터에 대해서 실제 데이터와의 차이인 MSE 값을 y축에 나타내었다. 그림 4~그림 6에서 전반적으로 시간이 흐름에 따라 MSE 오차가 증가하는 추세가 보이며, 이는 쿠프만 연산자를 반복해서 적용함에 따라 발생한다고 볼 수 있다.

제안 모델의 오차는 베이스라인 모델의 오차보다 전반적으로 낮은 추세를 확인할 수 있으며, 이는 장기 예측 오차를 저감하기위해 본 논문에서 제안한 저시간 해상도 데이터를 학습해서 Koopman operator 적용 횟수를 저감시킨 효과로 볼 수 있다. 베이스라인 모델이 Koopman 연산자를 1024번 적용하여 1024초까지의 예측 결과를 얻어내는 것과 대비하여 제안 모델은 128번만 Koopman 연산자를 반복적용하여 1024초까지 예측 결과를 얻어내기 때문에 누적 오차가 적게 발생한다고 해석할 수 있다. 이러한 오차 저감 효과를 얻기 위해서는, 각기 다른 시간해상도의 데이터세트에 내재되어 학습해야할 다이나믹스 정보량이 유사해야하는 조건이 필요하며, 완전히 동일한 두 모델이 그 다이나믹스를 학습할 수 있는 가정이 필요하다. 즉, 본 실험에서 시간 스텝을 1초와 8초로 설정하였는데, 1초와 3600초 등으로 설정한다면, 동일한 모델이 데이터세트의 다이나믹스를 학습하기 어려울 수 있다. 또한 Shallow Water 2차원 이미지 데이터셋은 수직 방향의 흐름이나 깊이에 따른 속도 변화 등의 상황과 특징은 반영되지 않아, 실제 물리 현상을 예측하기 위해 깊이, 속도 등의 부가적 차원 데이터를 활용할 필요가 있다.

표 1과 표 2에서는 두 모델의 데이터 보간 성능과 데이터 복원 성능을 도시하였다. 데이터 보간 성능은 세 가지 데이터세트에서 모두 제안 모델의 MAPE, SMAPE, MSE 성능이 모두 개선되어 우수함을 보이고 있다. 데이터 복원 성능에 대해서는 데이터세트들에 대해서 일관적인 성능 개선을 보이지 않고 있으며, 제안 모델의 학습 방법이 예측에 관해서만 개선 효과가 있음을 알 수 있다.

그림 7에서는 세 가지 데이터세트에 대해서 육안으로 확인할 수 있는 두 모델의 데이터 예측 결과에 대한 비교이다. 그림 4~그림 6에서 예측 결과의 오차가 제안 모델이 적어서 우수한 것을 고려하였을 때, 베이스라인 모델의 결과보다 제안 모델의 결과 이미지가 참값에 더 유사하게 예측이 이루어졌다고 볼 수 있다.