2.1 주요 구성 요소

CNN 및 2D CNN은 입력층(input layer), 은닉층(hidden layer), 완전 연결 계층(fully connected layer), 출력층(output layer)의 네 가지 주요 계층으로 구성된다.

먼저, 입력층은 모델이 처리할 데이터를 처음으로 받아들이는 단계로, 일반적으로 크기와 형식이 정의된 이미지 데이터를 입력받아 처리하도록 설계된다. 이후, 크기 조정과 정규화 같은 전처리 과정을 통해 데이터를 신경망에 적합한 형태로 변환하여 은닉층에 전달한다.

은닉층은 합성곱 계층(convolutional layer), 활성화 함수(activation function), 풀링 계층(pooling layer), 평탄화 계층(flatten layer)으로 구성되며, 데이터의 주요 특징을 단계적으로 추출하고 학습한다. 합성곱 계층은 입력 데이터에 필터를 적용하여 국소적 특징을 추출하고 입력 데이터의 특정 패턴을 점진적으로 학습한다. 이 과정에서 합성곱 연산이 수행되며, 필터는 입력 데이터의 특정 영역에서 요소별 곱셈 및 합산 연산을 수행하여 새로운 특징 맵(feature map)을 생성한다. 필터는 슬라이딩 윈도우(sliding window) 방식으로 입력 데이터 위를 이동하며 합성곱 연산을 반복 수행하고, 특정 패턴을 감지 및 추출하는 역할을 한다. CNN에서 수행되는 합성곱 연산은 식 (1)과 같이 정의된다. 식 (1)에서 $X(i,\: j)$는 입력 데이터의 픽셀값, $K(m,\: n)$은 합성곱 필터, $Y(i,\: j)$는 출력 특징 맵, $M$과 $N$은 합성곱 필터의 행과 열의 크기를 나타낸다.

그림 1은 (3, 3) 크기의 입력 데이터와 필터를 활용하여 합성곱 연산 과정을 설명한 것이다.

그림 1. 합성곱 연산 과정

Fig. 1. Process of convolution operation

합성곱 연산 과정을 거쳐 추출된 특징 맵에 ReLU(Rectified Linear Unit), Sigmoid와 같은 활성화 함수를 통해 비선형성을 도입하여, 단순한 선형 패턴을 넘어 복잡한 패턴을 학습할 수 있도록 한다. 풀링 계층은 Max Pooling 또는 Average Pooling 기법을 활용하여 특징 맵의 크기를 축소시켜 메모리 용량과 연산 비용을 줄인다. 이 과정은 중요한 특징을 선택적으로 보존함으로써 학습 안정성을 높이고 과적합을 방지한다. 풀링 계층에서 축소된 데이터를 완전 연결 계층에 전달하기 위해 평탄화 과정을 거쳐 다차원 데이터를 1차원 데이터로 변환한 뒤, 모든 뉴런을 이전 계층의 뉴런들과 완전히 연결한다.

완전 연결 계층은 각 뉴런이 가중치와 편향(bias)을 학습하여 데이터의 특징 간 상호작용을 통합적으로 분석하고, 최적의 출력값을 생성한다. 또한, Dropout 계층을 추가하여 일부 뉴런을 학습 과정에서 임시로 비활성화 시킴으로써, 과적합 방지 및 일반화 성능을 향상시킬 수 있다.

마지막으로, 출력층은 학습된 정보를 기반으로 최종 예측값을 생성하는 단계로, 모델의 목적에 따라 구성과 활성화 함수가 달라질 수 있다. 분류 문제의 경우 출력층은 활성화 함수를 활용하여 확률 분포를 반환하며, 회귀 문제에서는 활성화 함수를 사용하지 않거나 선형 활성화 함수를 적용하여 연속적인 값을 출력하도록 설계된다^[11]. 출력층의 뉴런 수는 모델이 예측하려는 값의 개수와 일치하며, 이 단계에서 모델의 모든 학습이 집약된 최종 결과가 도출된다.

2.2 학습 과정

CNN 및 2D CNN은 입력된 데이터의 특징을 학습하고, 결과를 예측하기 위해 일련의 과정을 거친다^[12-13]. 먼저, 전방 전파(forward propagation)를 통해 입력 데이터를 계층적으로 처리하여 특징을 추출하고, 이를 기반으로 예측값을 생성한다. 이어서 손실 함수(loss function)를 사용하여 실제값과 예측값의 차이를 계산하고, 가중치를 조정하며 모델의 학습을 진행한다. 모델은 에포크(epoch) 단위로 학습을 진행하며, 1에포크는 전체 학습 데이터셋을 한 번 학습하는 과정을 의미한다. 마지막으로, 역전파(backpropagation) 과정에서는 손실 함수로부터 계산된 기울기를 기반으로 가중치를 업데이트하며, 이를 반복하여 모델을 최적화한다. 이러한 일련의 과정을 통해 모델은 입력 데이터의 시각적 패턴을 효과적으로 학습할 수 있다.

3.1 이미지 데이터 입력 및 전처리

2D CNN 기반의 고조파 스펙트럼 분석 모델을 설계하기 위해 식 (2)와 같이 기본파와 고조파가 조합된 신호를 생성한다. 식 (2)에서 $A$는 진폭, $w$는 각주파수, $\Phi$는 위상을 의미한다.

모델의 예측 성능을 향상시키기 위해 진폭, 각주파수, 위상을 변화시키며 다양한 고조파 신호를 생성한 후, 2D CNN 모델이 학습할 수 있는 이미지 형태로 변환하여 입력 데이터에 활용한다. 입력되는 이미지의 해상도는 높을수록 세밀한 특징까지 포함할 수 있다는 장점이 있지만, 연산 비용과 메모리 용량이 증가할 수 있으며 불필요한 정보까지 포함하여 과적합을 유발할 가능성이 있다. 따라서, 특정 문제 상황과 하드웨어 성능을 고려하여 적절한 해상도를 설정해야 한다. 또한, 학습에 필요한 데이터셋 크기는 모델 성능에 영향을 미치는 요소 중 하나로, 일반적으로 데이터가 많아지면 성능이 향상되는 경향이 있다. 하지만 일정 수준 이상에서는 성능 향상이 둔화되거나 포화되는 현상이 발생할 수 있으며, 데이터가 과도하게 많을 경우 학습 시간과 계산 비용이 증가할 뿐만 아니라 모델의 일반화 성능이 저하될 가능성도 있다^[15]. 이에 따라, 문제 상황 및 데이터의 특성에 적합한 데이터셋 크기를 선정하여 모델 학습에 활용해야 한다. 입력된 데이터는 모델 학습 전에 전처리 과정을 거쳐 정규화되며, 데이터의 스케일 차이를 줄이고 학습 안정성을 확보하기 위해 0~1 범위로 변환된다. 정규화된 데이터는 모델의 일반화 성능을 향상시키기 위해 학습용 데이터와 검증용 데이터로 분리되는 과정을 거친다. 학습 데이터는 2D CNN 모델 훈련에 활용되고, 검증 데이터는 학습 과정에서 모델의 성능을 평가하고 과적합 여부를 확인하는 데 활용된다.

3.2 모델 구조 설계 및 학습

그림 3은 고조파 스펙트럼 분석에 사용되는 2D CNN 모델의 구조를 시각적으로 나타낸 것이다.

그림 3. 고조파 스펙트럼 분석에 사용되는 2D CNN 구조

Fig. 3. 2D CNN architecture used for harmonic spectrum analysis

입력층에서는 고조파가 포함된 신호 데이터를 이미지 형태로 입력받아 전처리 후, 은닉층으로 전달한다. 은닉층의 합성곱 계층은 특정 문제 수준에 따라 사용될 합성곱 계층의 개수와 합성곱 필터의 개수 및 크기가 결정된다. 각 합성곱 계층에는 활성화 함수가 추가되어 비선형성을 도입하고, 이를 통해 모델이 고조파 이미지의 복잡한 패턴을 효과적으로 학습할 수 있도록 한다. 이후, 데이터의 공간적 크기를 축소하고 연산 효율성을 향상시키기 위한 풀링 계층이 배치되며, 평탄화 과정을 거친 후, 완전 연결 계층에 데이터가 전달된다. 완전 연결 계층은 활성화 함수를 적용하여 고조파 이미지의 비선형적 패턴을 학습할 수 있으며, Dropout 계층을 추가함으로써 과적합을 방지할 수 있다. 마지막으로, 출력층은 모델이 추정하고자 하는 고조파 수에 맞추어 뉴런을 구성하고, 고조파 스펙트럼 추정과 같은 회귀 문제 해결에 적합하도록 활성화 함수를 생략한다.

모델 구조 설계가 완료되면, 데이터셋 크기와 모델 복잡도에 따라 적정 에포크를 선정하여 학습을 진행하고, 손실 함수와 평가 지표를 통해 각 에포크마다 모델의 성능을 평가한다. 또한, 학습 과정에서 EarlyStopping을 통해 설정된 관찰 횟수 동안 검증 손실이 개선되지 않을 경우 학습을 조기 종료하도록 설정할 수 있으며, 이를 통해 불필요한 학습 및 과적합을 방지할 수 있다. 고조파 스펙트럼 분석과 같은 회귀 문제에서는 손실 함수로 MSE(Mean Squared Error)가 주로 사용되며, 모델 성능 평가를 위해 MAE(Mean Absolute Error)를 추가적인 평가 지표로 활용할 수 있다. 학습이 완료된 후, 모델 설계 과정에서 사용되지 않은 새로운 고조파 신호 이미지를 생성하여, 학습 모델이 고조파 스펙트럼을 정확히 추정하는지를 평가하게 된다. 이 과정에서 수행된 고조파 스펙트럼 분석 과정은 그림 4와 같다.

그림 4. 고조파 스펙트럼 분석 과정

Fig. 4. The procedure of harmonic spectrum analysis

4.1 학습 및 검증 데이터 생성

Python을 활용하여 모델 학습에 필요한 고조파 신호를 생성하였다. 고조파 신호는 60 Hz의 기본파와 3차, 5차, 7차 고조파를 조합하였고, 기본파의 진폭은 1.000 $V_{r m s}$, 각 고조파의 진폭은 0.050~1.000 $V_{r m s}$ 범위의 랜덤한 값으로 설정하였으며, 신호 간의 위상차는 고려하지 않았다. 상기 과정을 통해 생성된 고조파 신호는 식 (3)과 같다.

모델 학습을 위해, 표 1과 같이 각 고조파 조합별로 2,000~5,000개의 데이터를 생성하여 총 20,000개의 데이터셋을 구축하였다. 생성된 데이터는 학습용 데이터 80%, 검증용 데이터 20%로 분리되었으며, 학습용 데이터는 2D CNN 모델의 학습에 활용되었고, 검증용 데이터는 학습 과정에서 사용되지 않은 데이터로 구성하여 모델 성능 평가에 활용하였다.

4.2 2D CNN 모델 설계 및 학습

고조파 신호 이미지를 학습시킬 2D CNN 모델을 설계하기 위해, 4.1절에서 생성한 고조파 신호 데이터를 모델이 학습할 수 있는 이미지 데이터로 변환하였다. 이미지 데이터는 500×300×3 크기로 변환된 후 입력층에 전달되었으며, 입력층에서 전처리 과정을 거쳐 은닉층으로 전달되었다. 은닉층의 합성곱 계층은 데이터의 복잡도를 고려하여 총 3개로 구성되었고, 각 계층에 ReLU 활성화 함수를 적용하여 비선형성을 도입하였다. 합성곱 필터의 크기는 3×3으로 설정하였으며, 계층별로 32, 64, 128개의 필터를 적용하여 입력된 데이터의 특징을 점진적으로 학습할 수 있도록 설계하였다. 각 합성곱 계층 뒤에는 2×2 크기의 Maxpooling 계층을 배치하였고, 평탄화 계층을 통해 다차원 데이터를 1차원 벡터로 변환하여 완전 연결 계층에 전달하였다. 완전 연결 계층은 128개의 뉴런으로 구성되었으며, ReLU 활성화 함수를 활용하여 비선형적 패턴을 효과적으로 학습할 수 있도록 설계하였다. 또한, 과적합 방지를 위해 Dropout 계층을 추가하여 모델의 일반화 성능을 향상시켰다. 마지막으로, 본 사례 연구에서는 3차, 5차, 7차 고조파를 추정하기 위해 출력층에 3개의 뉴런을 배치하였으며, 활성화 함수는 적용하지 않았다.

모델 구조를 구성한 후, 데이터셋 크기와 모델 복잡도를 고려하여 20에포크 동안 학습을 진행하였다. 각 에포크마다 MSE를 기반으로 손실을 계산하여 모델을 최적화하였고, MAE를 성능 평가 지표로 활용하여 모델의 예측 정확도를 분석하였다. 또한, 관찰 횟수를 3으로 설정하여 검증 손실이 3에포크 이상 개선되지 않을 경우, EarlyStopping을 통해 학습 시간을 절약하고 과적합을 방지하도록 설계하였다. 모델 학습 과정에서 그림 6에 제시된 훈련 손실 및 검증 손실이 측정되었다. 검증 손실은 10에포크부터 개선되지 않았으며, 이에 따라 EarlyStopping이 적용되어 12에포크에서 모델 학습이 종료되었다. 최종 학습 모델은 검증 손실 기준 MSE 0.0037을 기록하여, 학습 데이터에 대해 안정적인 수렴 특성을 보임과 동시에 충분히 낮은 추정 오차를 확보하였음을 확인할 수 있다.

그림 6. 모델 학습 과정에서 훈련 손실 및 검증 손실

Fig. 6. Training and validation losses during model training

4.3 고조파 스펙트럼 분석 결과 비교

고조파 스펙트럼 분석을 위해 표 2에 제시된 Case 1~4에 해당하는 새로운 고조파 신호 이미지를 생성하였으며, 해당 신호의 파형은 그림 7과 같다. 고조파 신호 이미지 생성 후, 설계된 2D CNN 모델에 입력하여 고조파 스펙트럼 분석을 진행하였다. Case 1~4에 사용된 기본파의 진폭은 220 $V_{r m s}$로 설정하였고, 고조파 신호의 THD(Total Harmonic Distortion)는 각각 5%, 8%, 12%, 15%로 설정하였다. 최종적으로, 각 Case 신호에 대한 모델의 추정값과 PSCAD/EMTDC의 FFT 결과를 비교함으로써 그 정확도를 검증하였다.

각 Case에 대한 학습 모델의 추정값과 PSCAD/EMTDC의 FFT 결과는 표 3과 같다. 분석 결과, 제안 방법의 추정값과 PSCAD/EMTDC의 FFT 결과 간 상대 오차가 약 0.81% 이하임을 확인할 수 있다. 이를 통해, 신호의 정확한 수치 데이터 확인이 어렵거나 파라미터 설정이 제한되어 고조파 스펙트럼 분석이 어려운 경우에도, 제안 방법을 활용하면 신호 이미지만으로 다양한 차수의 고조파가 포함된 신호에 대한 스펙트럼 분석이 가능함을 검증하였다.

그림 7. Case별 고조파 신호 파형

Fig. 7. Harmonic signal waveforms for each case