2.1 다층신경망 모델

다층신경망(Multi-Layer Neral Network)은 입력층과 출력층 사이에 하나이상의 중간층이 존재하는 신경망으로 아래 그림 1에 나타낸 것과 같은 계층 구조를 갖는다. 다층신경망은 단층신경망과 유사한 구조를 가지고 있지만 중간층과 각 층의 활성화 함수등의 입출력 특성을 비선형으로 함으로써 네트워크의 능력을 향상시켜 단층신경망의 여러 가지 단점들을 극복하게 되며, 다층신경망은 층의 갯수가 증가할수록 신경망이 형성하는 학습의 특성은 더욱 고급화된다. 이를 위하여 다층신경망을 구성하는 가중치, 활성화함수, 최적화함수 등이 최적화 되어야 한다^(9-10).

다층신경망은 그림 1과 같이 입력층, 은닉층 및 출력층으로 구성되며. $n_{0}$개의 뉴런(neuron)이 있는 입력층을 식 (1)과 같이 구성할 수 있다.

활성화 함수(activation function)는 신경망 구조 및 목적에 따라 다양한 함수를 활용할 수 있으며 연산 비용이 크지 않고 구현하기 매우 간단한 ReLU 함수와 Softmax함수를 사용할 때, 식 (2)와 같이 표현할 수 있다.

다층신경망의 출력을 얻으려면 각 계층에서의 계층단위의 출력을 계산해야 한다. 여기서는 은닉층 집합$(h_{1},\: h_{2},\:\cdots ,\: h_{3})$을 고려하여 $n_{i}$가 각 은닉층 $h_{i}$ 의 뉴런 수라고 가정할 때, $j$번째 은닉층의 경우, 식 (3)과 같으며 은닉층에 있는 뉴런의 출력 $h_{i}^{j}$ 는 식 (4)와 같이 계산된다.

여기서 $W_{k,\: j}^{i-1}$는 은닉층 $i$의 뉴런 $k$와 은닉층 $+i$의 뉴런 $j$ 사이의 가중치이고, $n_{i}$는 $n$번째 은닉층의 뉴런 수이다. $n$번째 은닉층의 출력은 식 (5)와 같이 나타낼 수 있으며 은닉층과 다층신경망의 출력은 각각 식 (6), (7)과 같이 계산된다.

여기서, $W_{k,\: j}^{N}$ 는 $n$번째 은닉층의 뉴런 $k$ 와 출력층의 뉴런 $j$ 사이의 가중치이고, $N$은 $n$번째 은닉층의 뉴런 수, $Y$는 다층신경망의 출력 벡터이다. $X$는 신경망의 입력이고 $f$는 활성화 함수이며 $F$는 전달 함수이고 $W$는 다음과 같이 정의되는 가중치 행렬이다.

여기서,

$W^{i}$는 $i$번째 은닉층과 $(i+1)$번째 은닉층 사이의 가중치 행렬이다. $W^{0}$는 입력 계층과 첫 번째 은닉 계층 사이의 가중치 행렬이고 $W^{N}$는 $N$번째 은닉 계층과 출력 계층 간의 가중치 행렬이다. 손실을 최소화하기 위해 경사하강법을 사용하고 손실함수의 기울기를 계산한다. 손실함수로는 식 (11)과 같이 범주형 교차 엔트로피를 사용하고, 범주형 교차 엔트로피는 분류해야 할 클래스가 3개 이상인 경우, 멀티클래스 분류에 사용되며 수식은 (12)와 같다.

여기서 $C$는 클래스의 개수이다. 최적화 함수로써 Adam 알고리즘은 모멘텀과 RMSProp의 장점을 조합한 방식으로 현재 가장 많이 사용되고 있으며 Adam을 활용한 최적화 규칙 다음식과 같다.

여기서,

또한 여기서,

Keras의 학습율 $\eta$은 0.001으로 설정하며, $\epsilon$는 0으로 수렴되는 것을 방지하도록 $10^{-8}$으로 설정한다. 또한 경사도 $g$는 $\nabla J\left(\theta_{t},\:_{i}\right)$으로 결정되며, 초매개변수 $\beta_{1},\:\beta_{2}$는 $\beta_{1}=0.9$와 $\beta_{2}=0.999$로 결정한다.

2.2 인버터의 고장진단을 위한 다층신경망 모델 설계

본 논문에서 제안된 태양광 인버터의 고장진단 과정은 그림 2와 같다. 태양광 인버터로부터 데이터를 수집하고, 수집된 데이터에서 고장진단에 필요한 항목의 데이터를 정리하고 저장한 후, 저장된 데이터들은 파이썬 프로그램에서 딥러닝 방법을 이용하여 학습을 시키고 고장진단과 예측을 실행한다.

제안한 인버터 고장진단 과정에서 수집된 데이터를 학습하기 위하여 설계된 다층신경망 모델은 그림 3에 나타내었다. 다층신경망은 입력 $x$가 4개$\left(x_{1}\sim x_{4}\right)$, 은닉층은 3층으로 구성되었고 출력 $y$은 3개$\left(y_{1}\sim y_{3}\right)$로 구성하였다.

3.1 고장진단 예측을 위한 입출력 데이터 정리

현장에 설치된 태양광 발전소의 인버터에서 데이터를 수집하고, 다층신경망에 입력할 수 있는 데이터로 정리하고, 이 데이터의 80%를 훈련데이터로 20%를 테스트 데이터로 사용하였다. 또한 고장진단의 학습 정확도를 높히는 최적의 파라미터를 선정하기 위하여 활성화 함수, 최적화 함수, Batch크기분석 및 훈련횟수 등을 분석하였다. 선정된 최적의 매개변수 값을 알고리즘에 적용하여 태양광 인버터의 고장진단 및 예측을 시행한다. 태양광 인버터 고장진단에 적용할 데이터는 대소 규모 태양광 발전소 발전소에서 취득되었고 발전용량은 99[kW]을 기준으로 하였으며 용량이 다른 발전소의 데이터는 환산하여 활용하였다. 현장에서 취득한 데이터 형태와 고장진단 예측을 위하여 정리한 데이터의 형태를 표 1에 나타내었다. 현장에서 취득한 데이터는 당월 전력량계 검침값, 전월 전력량계 검침값, 당월 인버터 검침값, 전월 인버터 검침값, 계량기 고장상태 유무, 인버터 고장상태 유무, 모듈 청소 유무, 발전소 용량, 계기 배수값, 발전소명 이고, 99kW로 환산했을 때 발전소 1600여개 분량이며 월별로 취득한 1년간의 데이터량은 307,200개이다. 현장데이터를 이용하여 알고리즘에 적용하기 위하여 정리된 데이터는 $x_{1}$에서 $x_{4}$까지의 4개의 입력노드에 필요한 입력 값으로 정리하였다. $x_{1}$는 99[kW]로 환산된 월발전량, $x_{2}$는 전력량계 검침량 변이값(당월검침값 * 계기배수-전월검침값 * 계기배수), $x_{3}$는 인버터 검침량 변이값(당월인버터 검침값 - 전월 인버터 검침값), $x_{4}$는 전력량계 및 인버터 검침값의 오차값으로 적용하였다. $y_{1}$에서 $y_{3}$까지의 출력 값으로 각각 정상상태(Normal), 인버터 고장상태(INV Fault), 전력량계 고장상태(MET Fault)로 결정하였다.

3.2 인버터 고장진단 분석을 위한 다층신경망의 최적파라미터 선정

다층신경망을 학습하기 위해서는 신경망을 구성하는 활성화함수, 최적화함수, 손실함수등 매개변수를 결정하는 파라미터를 최적화 해야 한다^(11-12). 다층신경망을 인버터 고장 진단에 적용하기 위한 파라미터를 선정하기 위하여, 입력 신호에 가중치를 곱한 값을 임계치와 비교하여 출력을 조절함으로써 정확도를 높일 수 있도록 하는 활성화 함수와 훈련 속도를 빠르고 안정적으로 구현할 수 있도록 하는 최적화 함수를 선정하기 위한 시뮬레이션을 실시하였다. Batch size와 학습량횟수(Epoch)값도 최적의 값을 활용할 수 있도록 시뮬레이션을 다음과 같이 실시하였다.

3.3 최적화 파라미터 적용 및 다층신경망 인버터 고장진단 결과

파라미터의 최적화 결과로써 활성화 함수는 ReLU(입력층, 은닉층), Softmax(출력층), 손실함수는 Categorical Cross Entropy Error, 그리고 최적화 함수는 Adam을 사용하였고 또한 batch size는 30, Epoch은 1000회로 결정하였다. 최적화된 파라미터를 활용하여 인버터 고장진단의 최종 시뮬레이션 결과, 인버터 고장예측의 정확도와 손실율을 예측한 결과를 그림 18과 19에 나타내었다.

시뮬레이션 결과로부터 본 논문에서 설계한 다층신경망의 정확도는 97[%]와 손실률은 0.11[%]를 얻었다. 이것은 다층신경망의 입력요소로써 99[kW] 환산발전량, 월별 전력량계, 월별 인버터 발전량과 오차 값등, 307,200개을 활용하여 훈련을 실시한 결과이며 인버터의 고장유무를 97[%]까지의 정확도로 예측하는 것으로 나타났다. 설계된 다층신경망이 정상상태와 고장상태로 예측한 경우의 입력 요소 값들을 확인한 결과를 그림 20에 보였다. 시뮬레이션 결과는 임의의 발전소에 대하여 다층신경망이 정상 또는 고장으로 예측한 이후에 그 요소값 들을 확인한 결과로써, 각각의 경우 발전소 12개씩의 결과를 나타낸 그래프이다. 그림 20(a)는 인버터가 정상동작으로 진단된 12개 발전소의 요소값들을 보여주고 있으며, 그림 20(b)는 인버터가 비정상으로 진단된 12개 발전소의 요소값들을 보여주고 있다. 예측된 결과를 현장의 상황과 분석하여 보았을 때 인버터가 완전히 동작을 멈추었을 때, 발전량과 인버터 지시값의 오차가 급격히 증가했을 때, 인버터의 효율이 급격하게 변화되었을 때 등을 고장상태로 예측하였다.