๋ฐ์ข
์
(Jong-young Park)
1โ
-
(Smart Electrical & Signaling Division, Korea)
-
(Railroad Research Institute, Korea)
Copyright ยฉ The Korean Institute of Electrical Engineers(KIEE)
Key words
Urban railway station, Load pattern, Deep learning, Recursive neural networks, Gated recurrent unit
1. ์๋ก
ํจ์จ์ ์ธ ์๋์ง ์๋น์ ํ์์ฑ์ด ๋์์ง๋ฉด์, ์ฉ๋์ด ํฐ ๋ถํ ์ค์ ํ๋์ธ ๋์์ฒ ๋์ ์ ๋ ฅ๋ถํ์ ๋ํ ๊ด์ฌ ์ญ์ ๋์์ง๊ณ ์๋ค. ๋์์ฒ ๋ ์ ๋ ฅ๋ถํ๋
ํฌ๊ฒ ์ฐจ๋๋ถํ์ ์ญ์ฌ๋ถํ(๊ณ ๋ฐฐ์ฉ ๋ถํ)๋ก ๋๋ ์ ์๋ค
(1). ์ด ์ค ์ฐจ๋๋ถํ๋ ์ฐจ๋์ ์ดํ์ผ์ ์ ๋ฐ๋ผ ๊ฒฐ์ ๋๊ธฐ ๋๋ฌธ์ ์กฐ์ ํ๋ ๊ฒ์ด ์ด๋ ค์ฐ๋ฉฐ, ์ญ์ฌ๋ถํ์ ๋ํ์ฌ ๋ถํ ๊ด๋ฆฌ ๊ธฐ์ ์ด ์ฐ๊ตฌ๋๊ณ ์๋ค.
์๋์ง์ ์ฅ์ฅ์น๋ฅผ ํตํ์ฌ ์ฒจ๋๋ถํ๋ฅผ ๊ด๋ฆฌํ๋ ๊ธฐ์ ์ด ์ฐ๊ตฌ๋๊ณ ์๋๋ฐ, ๋์์ฒ ๋ ์ ๋ ฅ๋ถํ์ ์ฒจ๋ ๋ฐ์ ์๊ฐ๋๊ฐ ์ ๋ ฅ๊ฐ๊ฒฉ์ ์ฒจ๋ ์๊ฐ๋์ ๋ค๋ฅธ ํน์ฑ์ ํ์ฉํ์ฌ
์ ๊ธฐ์๊ธ์ ์ ๊ฐํ๋ ๋ฐฉ๋ฒ์ด ์ ์๋์๋ค
(2). ๊ทธ๋ฆฌ๊ณ ์๋์ง์ ์ฅ์ฅ์น๋ฅผ ์ฒจ๋๋ถํ ๊ด๋ฆฌ ๋ฐ ์ ๋ ฅ์ฌ์ฉ๋ ๊ฐ์์ ํ์ฉํ ๋ ํ์ฌ๊ฐ์น๋ฒ(net present value, NPV)์ ์ ์ฉํ์ฌ ๊ฒฝ์ ์ฑ์
๋ถ์ํ์์ผ๋ฉฐ
(3), ์ด๋ ๊ฒ ํ๋ณดํ ์ ๋ ฅ์์์์์ผ๋ก ์์์์์์ฅ์ ์ฐธ์ฌํ์์ ๋ ๊ฒฝ์ ์ฑ์ ๋ถ์ํ์๋ค
(4). ์ด์ฒ๋ผ ์ ์ฌ์์๋์ง์, ์๋์ง์ ์ฅ์ฅ์น๋ ์ค๋งํธ๊ทธ๋ฆฌ๋ ๊ธฐ์ ๋ฐ ์๋์ง๊ด๋ฆฌ์์คํ
์ ์ ์ฉ์ ๋ํ ์ฐ๊ตฌ ๋ฐ ์ค์ฆ์ด ์ด๋ฃจ์ด์ง๊ณ ์๋ค
(5,6).
์ด๋ฌํ ์ฐ๊ตฌ๋ค์ ์ดํด๋ณด๋ฉด ์ญ์ฌ๋ถํ ์ค ๊ทธ ์ฌ์ฉ๋์ ์กฐ์ ํ ์ ์๋ ๋ถํ์ ๋น์จ์ ํ์
ํ๋ ๊ฒ์ด ํ์ํ๋ค. ์๋ฅผ ๋ค์ด ์ ๋ ฅ์์์์ ๊ด๋ฆฌ๋ฅผ ์ํด์๋ ํ์์
์ฐจ๋จ์ด ๊ฐ๋ฅํ ๋ถํ๋๊ณผ ๋ถ๊ฐ๋ฅํ ๋ถํ๋์ ํ์
ํ๋ ๊ฒ์ด ํ์ํ๋ค. ์ด๋ฅผ ์ํ์ฌ ๊ณ์ธก ์ค๋น๋ฅผ ์ค์นํ์ฌ ๊ฐ ์ฉ๋๋ณ ์๋น์ ๋ ฅ์ ์ง์ ์ธก์ ํ ์๋ ์์ง๋ง,
์ค์น ๋น์ฉ์ด๋ ์ ์ง ๋น์ฉ์ด ๋ฐ์ํ๊ฒ ๋๋ค. ๋ฐ๋ผ์ ์ถ๊ฐ์ ์ธ ๊ณ์ธก ์ค๋น๋ฅผ ์ค์นํ์ง ์์ ์ ์๋ ๋ฐฉ๋ฒ์ด ๋ฐ๋์งํ๋ค.
์ต๊ทผ ๋ค์ด ๋ฅ๋ฌ๋(deep learning)๊ณผ ๊ฐ์ ์ธ๊ณต์ง๋ฅ(artificial intelligence, AI) ๊ธฐ์ ์ด ๋ฐ์ ํ๋ฉด์ ์ ๋ ฅ๊ณํต ๋ถ์ผ์์๋
์์ ์์ธก ๋ฑ ์ฌ๋ฌ ๊ฐ์ง ์ ์ฉ์ ์๋ํ๊ณ ์๋ค. ๋ฅ๋ฌ๋ ์ค RNN (recursive neural network, ์ํ์ ๊ฒฝ๋ง)์ ์ ์ฉํ์ฌ ํ๋ ฅ๋ฐ์ ๋์
์ฅ๊ธฐ ์์ธกํ๊ฑฐ๋
(7,8), RNN ์ค LSTM(long short-term memory, ์ฅ๋จ๊ธฐ ๊ธฐ์ต ๋คํธ์ํฌ) ๊ธฐ๋ฒ์ ์ ์ฉํ์ฌ ๊ฐ์ ์ฉ ์ ๋ ฅ ๋ถํ๋ฅผ ์์ธกํ ์ฐ๊ตฌ๊ฐ ์ํ๋์๋ค
(9). ์ ๋ ฅ์์๋ ์์ธก์ ์์ด์๋ ๋ฅ๋ฌ๋์ ์
๋ ฅ ํจํด์ ๋ฐ๋ฅธ ๊ฒฐ๊ณผ๋ฅผ ๋ถ์ํ๊ฑฐ๋
(10), LSTM์ ์ ์ฉํ์ฌ ์ ๋ ฅ๋ถํ๋ฅผ ์์ธกํ์๋ค
(11).
ํ์ฌ ๊ธฐ๋ณธ์ ์ผ๋ก ์ธก์ ๋๊ณ ์๋ ๋ฐ์ดํฐ์๋ ๋์์ฒ ๋ ๋ณ์ ์์ ์ ๋ ฅ์๋น๋์ด ์์ผ๋ฉฐ, ๊ทธ๋ฐ์ ๊ธฐ์จ, ๊ฐ์๋, ๋ฏธ์ธ๋จผ์ง ๋ฑ ๊ธฐํ ๋ฐ์ดํฐ ๋ฑ์ด ๊ณต๊ณต๋ฐ์ดํฐ๋ก์
๊ณต๊ฐ๋๊ณ ์๋ค. ์ด๋ฌํ ๋ฐ์ดํฐ๋ค์ ๋ํด ๋น
๋ฐ์ดํฐ ๊ธฐ๋ฒ์ผ๋ก ๋ถํ๋ฅผ ๋ถ์ํ๊ณ ๋คํญํ๊ท๋ฒ์ ์ ์ฉํ์ฌ ์ฉ๋๋ณ ๋ถํ๋์ ์ถ์ ํ์๋ค
(12). ๋ถ์ ๊ฒฐ๊ณผ ์ญ์ฌ๋ถํ ์ค์์ ๊ฐ์ฅ ํฐ ๋น์ค์ ์ฐจ์งํ๋ ๋ถํ๋ ์กฐ๋ช
, ๊ณต์กฐ, ์๊ฐ(ๅ่ก)๋ถํ์๋ค. ์ด๋ค ์ฉ๋๋ณ ๋ถํ๋์ ๋ํ์ฌ ๋คํญํ๊ท ๊ธฐ๋ฒ์ ์ ์ฉํ์ฌ
์ง์ ๊ณ์ธกํ์ง ์๊ณ ์ฉ๋๋ณ ๋ถํ๋์ ์ถ์ ํ๋ ๋ฐฉ๋ฒ์ ์ ์ํ์๋ค.
๋ณธ ๋
ผ๋ฌธ์์๋ ๋ฅ๋ฌ๋ ๊ธฐ๋ฒ์ ์ ์ฉํ์ฌ ๋์์ฒ ๋ ์ญ์ฌ๋ถํ์ ์ฉ๋๋ณ ์ฌ์ฉ๋์ ์ถ์ ํ์๋ค. ๋์์ฒ ๋ ๋ณ์ ์์์ ์ธก์ ํ ์ค์ ๋ถํ ๋ฐ์ดํฐ๋ฅผ ํ์ต๋ฐ์ดํฐ๋ก ์ฌ์ฉํ์์ผ๋ฉฐ,
๊ทธ ์ธ์ ๊ธฐ์จ, ๊ฐ์๋, ๋ฏธ์ธ๋จผ์ง ๋ฑ ๊ธฐํ ๋ฐ์ดํฐ์ ์์ผ, ํน์์ผ ์ฌ๋ถ ๋ฑ ๊ณต๊ณต ๋ฐ์ดํฐ๋ฅผ ํ์ต๋ฐ์ดํฐ๋ก ์ฌ์ฉํ์๋ค.
์ผ๋ฐ์ ์ธ ๋ถํ์์ธก์ ํน์ ์์ ์์ ๊ณผ๊ฑฐ์ ๋ฐ์ดํฐ๋ฅผ ์ฌ์ฉํ์ฌ ๋ชฉ์ ํ๋ ๋ฐ์ดํฐ์ธ ๋ถํ๋์ ์์ธกํ๊ฒ ๋๋ค. ๋ณธ ์ฐ๊ตฌ์์ ์ถ์ ํ๊ณ ์ ํ๋ ๋ฐ์ดํฐ์ธ ์ฉ๋๋ณ
๋ถํ ์ฌ์ฉ๋์ ์์ง๋ ๋ค๋ฅธ ๋ฐ์ดํฐ๋ค์ ๊ณผ๊ฑฐ ๊ฐ์ ๊ฐ์ง๊ณ ํน์ ์์ ์์ ๋ชฉ์ ๋ฐ์ดํฐ์ธ ์ฉ๋๋ณ ๋ถํ ์ฌ์ฉ๋์ ์ถ์ ํ๋ ๊ฒ์ด๋ค. ๋ฐ๋ผ์ ๋ถํ์์ธก๊ณผ ๋ง์ฐฌ๊ฐ์ง๋ก
์๊ณ์ด ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ์ฌ ์ํ๋ ๊ฐ์ ์ถ์ ํ๋ ๋ฌธ์ ์ด๋ค. ์ด์ ์ ํฉํ ๋ฅ๋ฌ๋ ๋ชจ๋ธ๋ก์ ์๊ณ์ด ์์ธก ๋ฑ์ ๋ง์ด ์ฐ์ด๋ RNN ๊ธฐ๋ฒ์ ์ฌ์ฉํ์๋ค. ๊ตฌ์ฒด์ ์ผ๋ก๋
RNN ๊ธฐ๋ฒ ์ค LSTM๊ณผ ๋น์ทํ ์ฑ์ง์ ๊ฐ์ง์ง๋ง ๋ ๊ฐ๋จํ ๊ตฌ์กฐ๋ฅผ ๊ฐ์ง๊ณ ์๋ GRU gated recurrent unit) ๊ธฐ๋ฒ์ ์ ์ฉํ์๋ค
(13).
2. RNN๊ณผ LSTM, GRU ๋ชจ๋ธ
RNN(recurrent neural network, ์ํ์ ๊ฒฝ๋ง)์ ์๋๊ณ์ธต์ ์ถ๋ ฅ์ ๋ค์ ์
๋ ฅ์ผ๋ก ์ํ์์ผ ์์ฐจ์ ์ธ ๋ฐ์ดํฐ๋ฅผ ํ์ตํ์ฌ ๋ถ๋ฅ(classification)๋
์์ธก์ ์ํํ๋ ๊ธฐ๋ฒ์ด๋ค. RNN์ ์์ฑ ์ธ์, ํ๊ธฐ์ฒด ์ธ์, ํ
์ค์ฒ ์ธ์์ด๋ ์๊ณ์ด ๋ฐ์ดํฐ ์์ธก ๋ฑ ์๊ณ์ด๋ถ์ ๊ด๋ จ ๋ฌธ์ ์ ํ์ฉ๋๊ณ ์๋ค.
๊ธฐ์กด์ DNN(deep neural network, ์ฌ์ธต์ ๊ฒฝ๋ง)์ ๊ฐ ๊ณ์ธต(layer)๋ง๋ค ํ๋ผ๋ฏธํฐ๋ค์ด ๋
๋ฆฝ์ ์ด๋, RNN์์๋ ์ด๋ฅผ ๊ณต์ ํ์ฌ ๊ตฌ์ฑํ๊ฒ
๋๋ค. ์ด๋ ๊ฒ RNN์์๋ ๋ฃจํ(loop)๋ฅผ ํตํ์ฌ ๊ณผ๊ฑฐ์ ๋ฐ์ดํฐ๊ฐ ๋ฏธ๋์ ์ํฅ์ ์ค ์ ์๊ฒ ๋๋ฉฐ, ์๋๊ณ์ธต(hidden layer)์ ์ผ์ข
์ ๋ฉ๋ชจ๋ฆฌ
์ญํ ์ ํ๊ฒ ๋๋ค.
๊ทธ๋ฆผ. 1์ RNN์ ๋คํธ์ํฌ ๊ตฌ์กฐ์ ๋ฃจํ๋ฅผ ํ์ด์ ํํํ ๊ทธ๋ฆผ์ด๋ค. ๋ฃจํ๋ฅผ ํ์ด์ ๋ํ๋ธ ์ค๋ฅธ์ชฝ ๋ถ๋ถ์ ๋ณด๋ฉด ํ๋์ ๋คํธ์ํฌ๊ฐ ์ฌ๋ฌ ๊ฐ ๋ณต์ฌ๋ ํํ์์ ์
์ ์์ผ๋ฉฐ, ๊ฐ๊ฐ์ ๋คํธ์ํฌ๋ ๋ค์ ๋จ๊ณ๋ก ์ ๋ณด๋ฅผ ๋๊ฒจ์ฃผ๊ฒ ๋๋ค.
๊ทธ๋ฆผ. 1. RNN์ ๋คํธ์ํฌ ๊ตฌ์กฐ(14)
Fig. 1. Recurrent Neural Networks
RNN์ ์ด๋ ๊ฒ ์ด์ ์ ์ ๋ณด๋ฅผ ํ์ฌ์ ๋ฌธ์ ํด๊ฒฐ์ ํ์ฉํ ์ ์๋ ๊ตฌ์กฐ๋ฅผ ๊ฐ์ง๊ณ ์๋ค. ํ์ง๋ง ํ์ฌ์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋๋ฐ ์ค์ํ ์ ๋ณด๋ฅผ ๊ฐ์ง ๋ฐ์ดํฐ๊ฐ
์ค๋ ์๊ฐ ์ ์ ๋ฐ์ํ์์ ๋, ์ด๋ฅผ ๋ฐ์ํ๊ธฐ ํ๋ ๋ฌธ์ ๊ฐ ์๋ค. ์ด๋ฌํ ๋ฌธ์ ๋ฅผ ์ฅ๊ธฐ ์์กด์ฑ(long- term dependency) ๋ฌธ์ ๋ผ๊ณ ํ๋ค.
์ด๋ฌํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด LSTM(long short term memory, ์ฅ๋จ๊ธฐ ๊ธฐ์ต ๋คํธ์ํฌ)๊ฐ ์ ์๋์๋ค.
๊ทธ๋ฆผ. 2๋ ํ์ค RNN ๋ชจ๋์ ํ ์์ LSTM์ ๋ชจ๋์ ๊ทธ๋ฆผ์ผ๋ก ๋ํ๋ธ ๊ฒ์ด๋ค. LSTM๋ ์ฒด์ธ๊ตฌ์กฐ๋ฅผ ๊ฐ์ง๊ณ ์์ผ๋ ๊ฐ ๋ชจ๋์ ๋ค๋ฅธ ๊ตฌ์กฐ๋ฅผ ๊ฐ์ง๊ณ ์๋ค.
์ด๋ฌํ ๊ตฌ์กฐ๋ฅผ ํตํ์ฌ ๊ณผ๊ฑฐ์ ์ ๋ณด๊ฐ ํฌ๊ฒ ๋ณํ์ง ์๊ณ ๋ค์ ๋จ๊ณ๋ก ์ ๋ฌ๋ ์ ์๊ฒ ๋๋ค.
๊ทธ๋ฆผ. 2. LSTM์ ๋คํธ์ํฌ ๊ตฌ์กฐ(14)
Fig. 2. Long Short Term Memory Networks
GRU(gated recurrent unit)๋ LSTM์ ์ฅ์ ์ ์ ์งํ๋ฉด์๋ ๊ณ์ฐ๋ณต์ก์ฑ์ ๋ฎ์ถ ์
๊ตฌ์กฐ์ด๋ค.
๊ทธ๋ฆผ. 3์ GRU์ ๋คํธ์ํฌ ๋ชจ๋ธ์ ๋ํ๋ด๊ณ ์๋ค. ์ด๋ ๋ช ๊ฐ์ง ๊ฒ์ดํธ๋ฅผ ํฉ์ณ์ ๋ณดํต์ LSTM ๋ชจ๋ธ๋ณด๋ค ๋จ์ํ๊ฒ ๋ง๋ค์ด, LSTM๊ณผ ๋น์ทํ ์ฑ์ง์ ๊ฐ์ง์ง๋ง
๊ณ์ฐ๋์ ๊ฐ์์์ผฐ๋ค. ์ด ๋ชจ๋ธ์ ์ ์ ๋ ๋ง์ด ํ์ฉ๋๊ณ ์์ผ๋ฉฐ, ๋ชจ๋ธ์ ๋ํ ๋ ์์ธํ ์ํ์ ์ธ ํด์์ ์ฐธ๊ณ ๋ฌธํ [13
(13), 14
(14)]๋ฅผ ์ฐธ๊ณ ํ ์ ์๋ค.
๊ทธ๋ฆผ. 3. GRU์ ๋คํธ์ํฌ ๊ตฌ์กฐ(14)
Fig. 3. The Gated Recurrent Unit Networks
3. ์์ ์ถ์ ๋ฅ๋ฌ๋ ๋ชจ๋ธ
์๋ก ์์ ๋งํ ๋ฐ์ ๊ฐ์ด ๋ฅ๋ฌ๋์ ์ ๋ ฅ์์์์ธก์ ์ ์ฉํ๋ ์ฐ๊ตฌ๋ค์ด ์ด๋ฃจ์ด์ง๊ณ ์๋ค. ๋ณธ ์ฐ๊ตฌ์์๋ ํ์ฌ ์ธก์ ๋๊ณ ์๋ ๋์์ฒ ๋ ๋ณ์ ์์ ์ ์ฒด ์ ๋ ฅ
์ฌ์ฉ๋์ ์๊ณ ์๋ค๋ ๊ฐ์ ํ์์, ๋ฅ๋ฌ๋์ ์ด์ฉํ์ฌ ์ญ์ฌ๋ถํ ์ค ํฐ ๋น์ค์ ์ฐจ์งํ๋ ์กฐ๋ช
, ๊ณต์กฐ, ์๊ฐ ๋ถํ์ ๋ถํ๋์ ์ถ์ ํ์๋ค. ์ด๋ฅผ ์ํ์ฌ
๊ธฐ์จ, ๊ฐ์๋, ๋ฏธ์ธ๋จผ์ง ๋ฑ ๊ธฐํ๋ฐ์ดํฐ์ ์์ผ, ํน์์ผ ๋ฑ์ ๊ณต๊ฐ๋์ด ์๋ ๊ณต๊ณต๋ฐ์ดํฐ๋ฅผ ํ์ต๋ฐ์ดํฐ๋ก ์
๋ ฅํ์๋ค. ๋ฐ์ดํฐ ์ฒ๋ฆฌ์ ๋ฅ๋ฌ๋ ๋ชจ๋ธ ๊ตฌํ์
ํ์ด์ฌ(python) ์ธ์ด ๋ฐ ์ผ๋ผ์ค(Keras) ๋ชจ๋์ ์ฌ์ฉํ์๋ค.
3.1 ๋ฐ์ดํฐ ์์ฑ
๋ณธ ๋
ผ๋ฌธ์์๋ 2016๋
8์๋ถํฐ 2017๋
7์๊น์ง ๋์์ฒ ๋ ๋ณ์ ์์์ ์ธก์ ํ ์ ๋ ฅ๋ถํ ๋ฐ์ดํฐ์ ๋ํ์ฌ ํ์ต์ ์ํํ์๋ค. ๋ชฉํ ๋ฐ์ดํฐ๋ ๊ฐ ์๊ฐ๋๋ณ
์กฐ๋ช
, ๊ณต์กฐ, ์๊ฐ ๋ถํ๋์ด๊ณ ์ ์ฒด ์ ๋ ฅ ๋ถํ๋์ ํ์ต ๋ฐ์ดํฐ๋ก ์ ํ์๋ค. ์ ์ฒด ์ ๋ ฅ ๋ถํ๋ ์ธ์ ๊ธฐ์จ, ๊ฐ์๋, ๋ฏธ์ธ๋จผ์ง(PM10, PM2.5)
๋ฑ ๊ธฐํ ๋ฐ์ดํฐ์ ์๊ฐ, ์์ผ, ํน์์ผ ์ฌ๋ถ ๋ฐ์ดํฐ๋ฅผ ํ์ต ๋ฐ์ดํฐ๋ก ์ถ๊ฐํ์๋ค.
๋ฐ์ดํฐ๋ ํ์ต(training), ๊ฒ์ฆ(validation), ํ๊ฐ(test) ๋ฐ์ดํฐ๋ก ๊ตฌ๋ถํ๋ค. ํ์ต๋ฐ์ดํฐ๋ ๋ชจ๋ธ์ ํ์ตํ๋๋ฐ ์ฌ์ฉํ๋ ๋ฐ์ดํฐ์ด๊ณ ,
๊ฒ์ฆ๋ฐ์ดํฐ๋ ํ์ต์ด ์งํ๋๋ ๋์ ์ฑ๋ฅ์ ๊ฒ์ฆํ๋๋ฐ ์ฌ์ฉํ๋ ๋ฐ์ดํฐ์ด๋ฉฐ, ํ๊ฐ๋ฐ์ดํฐ๋ ํ์ต์ ๋ง์น๊ณ ๋์ ๋ชจ๋ธ์ ์ฑ๋ฅ์ ํ๊ฐํ๋๋ฐ ์ฌ์ฉํ๋ ๋ฐ์ดํฐ์ด๋ค.
์ผ๋ฐ์ ์ผ๋ก ๊ฒ์ฆ๋ฐ์ดํฐ๋ ํ์ต๋ฐ์ดํฐ์์ ์ผ์ ๋น์จ๋ก ์ถ์ถํ์ฌ ์ฌ์ฉํ๋ฉฐ, ํ์ตํ ๋๋ง๋ค ๊ฒ์ฆ๋ฐ์ดํฐ์ ๋ํ ์์ค๊ฐ์ ํ๊ฐํจ์ผ๋ก์จ ๋ชจ๋ธ์ด ํ์ต ๋ฐ์ดํฐ์ ๋ํด์๋ง
๊ณผ์ ํฉ(overfitting)๋๋ ๊ฒ์ ๋ฐฉ์งํ๋ ์ญํ ์ ํ๋ค.
์ ๊ฒฝ๋ง์ ๏ผ1์์ 1 ์ฌ์ด์ ๊ฐ์์ ๊ฐ์ฅ ์ ์๋ํ๋ฏ๋ก ์ ๊ฒฝ๋ง์ ์
๋ ฅํ๊ธฐ ์ ์ ๋ฐ์ดํฐ ๊ฐ์ ๋ฒ์๋ฅผ ์กฐ์ ํด์ผ ํ๋ค. ๋ฐ๋ผ์ ๋ค์ ์์ ํตํ์ฌ ํ์ต ๋ฐ์ดํฐ๋ฅผ
์ ๊ทํํ์๋ค.
๊ทธ๋ฆผ. 4๋ ์ ๊ทํํ ํ์ต ๋ฐ์ดํฐ์ธ ๊ธฐ์จ๊ณผ ๋ชฉํ ๋ฐ์ดํฐ์ธ ๊ณต์กฐ๋ถํ ๋ฐ์ดํฐ์ ์ผ๋ถ๋ฅผ ๊ทธ๋ํ๋ก ๋ํ๋ธ ๊ทธ๋ฆผ์ด๋ค.
๊ทธ๋ฆผ. 4. ์ ๊ทํ๋ ํ์ต ๋ฐ์ดํฐ์ ๋ชฉํ ๋ฐ์ดํฐ์ ์
Fig. 4. Example of normalized training data
์ด๋ ๊ฒ ๊ตฌ์ฑ๋ ํ์ต๋ฐ์ดํฐ๋ฅผ ์ด์ฉํ์ฌ ํ์ต์ ์ํํ์๋๋ฐ, ํ์ตํ๋ ๊ณผ์ ์์ 1ํ ์ฐ์ฐ ์ ์ ์ฉํ๋ ๋ฐ์ดํฐ์ ๋ฒ์์ ๋ฐ๋ผ ๊ฒฐ๊ณผ์ ์ ํ๋๊ฐ ๋ฌ๋ผ์ง ์
์๋ค. ๋๋ฌด ์ข์ ๋ฒ์์ ๋ฐ์ดํฐ๋ฅผ ์ฌ์ฉํ๋ฉด ๊ณ ๋ คํ ์ ์๋ ํน์ฑ์ ๋์น ์ ์๊ณ , ๋์ ๋ฒ์์ ๋ฐ์ดํฐ๋ฅผ ์ฌ์ฉํ๋ฉด ํน์ฑ์ด ์
์ด์ง ์ ์๋ค. ์ด ๋
ผ๋ฌธ์์๋
์ฐ์ฐ ์ 1์ฃผ ์ ๊น์ง์ ๋ฐ์ดํฐ๋ฅผ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ์ 2์ฃผ ์ ๊น์ง์ ๋ฐ์ดํฐ๋ฅผ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ๋ฅผ ๋น๊ตํ์๋ค.
3.2 RNN ๋ชจ๋ธ ๊ตฌ์ฑ ๋ฐ ํ์ต
๋ณธ ๋
ผ๋ฌธ์์๋ RNN ๊ธฐ๋ฒ ์ค ํ๋์ธ GRU๋ฅผ ์ฌ์ฉํ์ฌ ๋ชจ๋ธ์ ๊ตฌ์ฑํ์๋ค. ์
๋ ฅ๊ณ์ธต์ GRU๋ฅผ ์ฌ์ฉํ์์ผ๋ฉฐ, ์ถ๋ ฅ๋ฐ์ดํฐ๋ 0๊ณผ 1 ์ฌ์ด๋ก ์ ํ๋์ด
์์ด, ์ถ๋ ฅ๊ณ์ธต์ ์๊ทธ๋ชจ์ด๋(sigmoid) ํ์ฑํ ํจ์๋ฅผ ์ฌ์ฉํ์๋ค. ์ด ๋
ผ๋ฌธ์์๋ GRU ๊ณ์ธต์ ๊ฐ์์ ๋ฐ๋ฅธ ๋ชจ๋ธ์ ์ ํ๋๋ฅผ ๋น๊ตํ๊ธฐ ์ํด 1๊ฐ
๊ณ์ธต๋ถํฐ ์ต๋ 4๊ฐ๊น์ง์ GRU ๊ณ์ธต์ ์ง๋ ฌ๋ก ์ฐ๊ฒฐํ ๋ชจ๋ธ๊น์ง ๊ตฌ์ฑํ์ฌ ๊ฒฐ๊ณผ๋ฅผ ๋น๊ตํ์๋ค.
ํ์ต์์ ์ฌ์ฉํ๋ ์์ค ํจ์(loss function)๋ ์ต์์ ๊ณฑ์ค์ฐจ(mean square error, MSE)๋ฅผ ์ต์ํํ ์์ค ํจ์๋ก ์ฌ์ฉํ์๋ค.
์ด๋ฅผ ํตํ์ฌ ๋ชจ๋ธ์ ์ถ๋ ฅ๊ฐ์ด ์ถ๋ ฅ ์ ํธ์ ์ผ๋ง๋ ์ผ์นํ๋์ง ์ธก์ ํ์๋ค. ๊ทธ๋ฆฌ๊ณ RNN ๋ชจ๋ธ์ ํน์ฑ์ ํ์ต ์ด๊ธฐ ์ํ์ค์ ์์ ๋ถ๋ถ์์๋ ์
๋ ฅ ์ ํธ๊ฐ
๋ถ์กฑํ์ฌ ๋ถ์ ํํ ์ ์๋ค. ๋ฐ๋ผ์ ๋ชจ๋ธ์ ์ผ์ ์๊ฐ ๋จ๊ณ๋ฅผ ์์ด(warmup) ๊ธฐ๊ฐ์ผ๋ก ์๊ฐํ๊ณ ์ ํ๋๋ฅผ ์ ๋ขฐํ์ง ์์์ผ๋ก์จ ์ ํ๋ ํฅ์์ ๊พํ๋ค.
๊ทธ๋ฆฌ๊ณ ํ์ต์ ํ ๋ฒ ํ ๋ ๋ชจ๋ ๋ฐ์ดํฐ๋ฅผ ๊ณ์ฐ์ ๋ฃ์ ์ ์์ผ๋ฏ๋ก ๋ฐฐ์น(batch)๋ฅผ ๋ง๋ค์ด ํ ๋ฒ ๊ณ์ฐ์ ๋ค์ด๊ฐ๋ ๋ฐ์ดํฐ ์๋ฅผ ์ ํ์๋ค. ๋ณธ ๋
ผ๋ฌธ์์๋
๋ฐฐ์น์๋ฅผ 64๊ฐ์ 128๊ฐ๋ก ํ์ฌ ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋น๊ตํ์๋ค.
์ ๊ฒฝ๋ง์ ๊ฐ์ค์น๋ฅผ ์กฐ์ ํ๋ ์ต์ ํ ๋ฐฉ๋ฒ์ผ๋ก ๊ฒฝ์ฌํ๊ฐ๋ฒ(gradient descent) ๋ฐฉ๋ฒ ์ค ํ๋์ธ RMSProp์ ์ ์ฉํ์๋ค. RMSProp์
Adagrad(adaptive gradient)์ ๋จ์ ์ ํด๊ฒฐํ๊ธฐ ์ํด ์ ํ๋ฆฌ ํํผ(Geoffrey Hinton)์ด ์ ์ํ ๋ฐฉ๋ฒ์ด๋ค. Adagrad๋
๋ณ์๋ค ์ค์์ ์
๋ฐ์ดํธ ์ ๋ง์ด ๋ณํํ์ง ์์ ๊ทธ๋ผ๋์ธํธ๊ฐ ๋ฎ์ ๋ณ์๋ค์ ์คํ
์ฌ์ด์ฆ๋ฅผ ํฌ๊ฒ ํ๊ณ , ๋ง์ด ๋ณํํด์ ๊ทธ๋ผ๋์ธํธ๊ฐ ํฐ ๋ณ์๋ค์ ์คํ
์ฌ์ด์ฆ๋ฅผ
์๊ฒ ํ์ฌ ์ต์๊ฐ์ ์ฐพ์๊ฐ๋ ์๋๋ฅผ ๋์ด๋ ๋ฐฉ๋ฒ์ด๋ค. RMSProp์ ์
๋ฐ์ดํธ๋ฅผ ํ ๋ Adagrad์ ๊ฐ์ด ์ ๊ณฑ ๊ทธ๋ผ๋์ธํธ์ ํ๊ท ์ ์ด์ฉํ์ง ์๊ณ ,
์ด๋ํ๊ท (moving average)๋ฅผ ์ด์ฉํจ์ผ๋ก์จ ๊ธ์ง์ ์ด๊ณ ๋จ์กฐ ๊ฐ์ํ๋ ํ์ต์๋๋ฅผ ๊ฒฝ๊ฐํ๋ค.
ํ์ตํ๋ ๋์ Keras์ ์ฝ๋ฐฑ(call back) ๊ธฐ๋ฅ์ ํ์ฉํ์ฌ ๋ง์ง๋ง ์ํฌํฌ(epoch) ์ดํ ๊ฒ์ฆ ๋ฐ์ดํฐ์ ๋ํ ์์ค๊ฐ์ด ๊ฐ์ ๋์ง ์์ผ๋ฉด ํ์ต๋ฅ ์
๊ฐ์์ํค๊ฒ ์ค์ ํ์๋ค. ์ด ๋ ์ต์ ํ์ต๋ฅ ์ 1e-4๋ก ํ์๋ค. ๊ทธ๋ฆฌ๊ณ ์ ํด์ง ์์ ์ํฌํฌ๊ฐ ๋ค ์ํ๋์ง ์์๋๋ผ๋ 5ํ ๋์์ ์ํฌํฌ ๋์ ์์ค๊ฐ์ด
๊ฐ์ ๋์ง ์์ผ๋ฉด ํ์ต์ ์ค์งํ๋๋ก ํ์๋ค.
4. ๊ฒฐ๊ณผ ๋ถ์
4.1 ๋ชจ๋ธ ํ๋ผ๋ฏธํฐ ๊ฒฐ์
์ ์ฅ์์ ์ธ๊ธํ ๋ฐ์ ๊ฐ์ด ์ต์ ์ ํ์ต ๋ชจ๋ธ์ ์ฐพ๊ธฐ ์ํ์ฌ
ํ 1์ ์กฐ๊ฑด๋ค์ ๋ํ์ฌ ํ์ต์ ์ํํ๊ณ ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋น๊ตํ์๋ค. GRU ๋ชจ๋ธ ์์ฑ ๋ฐ ํ์ต์ ํ์ด์ฌ ์ธ์ด ํ๊ฒฝ์์ Keras ๋ชจ๋์ ํตํ์ฌ ๊ตฌํํ์๋ค.
ํ 1. GRU ๋ชจ๋ธ ์์ฑ ํ๋ผ๋ฏธํฐ์ ์กฐ๊ฑด๋ค
Table 1. Parameters for GRU model
ํญ๋ชฉ
|
์กฐ๊ฑด
|
๋ฐ์ดํฐ ๋น ์๊ฐ ๋ฒ์
|
1, 2 ์ฃผ
|
ํ์ต ๋น ๋ฐฐ์น(batch) ์
|
64, 128 ๊ฐ
|
GRU ๋ชจ๋ธ
|
๊ณ์ธต ์
|
1, 2, 3, 4 ๊ฐ
|
๋
ธ๋ ์
|
32, 64, 128 ๊ฐ
|
ํ๋ผ๋ฏธํฐ๋ค์ ๊ฐ ์กฐํฉ์ ๋ํด์ ๋ชจ๋ธ์ ์์ฑํ ๋ค์ ํ์ต์ ์ํํ๊ณ , ์ํ ๋ฐ์ดํฐ๋ฅผ ํตํ์ฌ ์์ฑ๋ ๋ชจ๋ธ์ ํ๊ฐํ์๋ค.
๊ทธ๋ฆผ. 5๋ ์ด๋ ๊ฒ ๊ตฌ์ฑ๋ GRU ๋ชจ๋ธ์ ๊ตฌ์กฐ๋ฅผ ๋ํ๋ธ ๊ทธ๋ฆผ์ด๋ฉฐ, ์์๋ก์ GRU ๊ณ์ธต์ด 2๊ฐ์ธ ๋ชจ๋ธ์ ๋ํ๋ด๊ณ ์๋ค. ๊ณ์ธต ์์ ๋ฐ๋ผ์ GRU ๊ณ์ธต์ ์๊ฐ
๋ฌ๋ผ์ง๊ฒ ๋๋ฉฐ, ๋
ธ๋ ์์ ๋ฐ๋ผ GRU ๊ณ์ธต ๋ด ๋
ธ๋์ ๊ฐ์๊ฐ ๋ฌ๋ผ์ง๋ค. ์ถ๋ ฅ๊ณ์ธต์๋ ์กฐ๋ช
, ๊ณต์กฐ, ์๊ฐ์ ๋ํ 3๊ฐ์ ๋
ธ๋๊ฐ ์๋ค.
๊ทธ๋ฆผ. 5. GRU ๋ชจ๋ธ์ ๊ตฌ์ฑ
Fig. 5. Block diagram of GRU model
์ถ์ ๊ฐ์ด๋ ์์ธก๊ฐ๊ณผ ์ค์ ๊ฐ ๊ฐ ์ฐจ์ด๋ฅผ ๋ค๋ฃจ๋ ๋ํ์ ์ธ ๋ฐฉ๋ฒ์๋ RMSE๊ณผ MAPE๊ฐ ์๋ค. RMSE(root mean square error, ํ๊ท ์ ๊ณฑ๊ทผ์ค์ฐจ)๋
์(2)๋ฅผ ํตํ์ฌ ๊ตฌํ ์ ์์ผ๋ฉฐ ํ๊ฐ์ ์ฒ๋๊ฐ ์์ธกํ๋ ค๋ ๊ฐ์ ํฌ๊ธฐ์ ์์กด์ ์ด๋ผ๋ ๋จ์ ์ด ์๋ค. MAPE (mean absolute percentage
error, ํ๊ท ์ ๋์ค์ฐจ๋ฐฑ๋ถ์จ)์
์(3)์ ํตํ์ฌ ๊ตฌํ ์ ์์ผ๋ฉฐ RMSE์ ๋จ์ ์ ๋ณด์ํ๊ธฐ ์ํ ๋ฐฉ๋ฒ์ด๋ค. ์ด ๋
ผ๋ฌธ์์๋ MAPE๋ฅผ ํตํ์ฌ ๋ชจ๋ธ์ ์ํ ์ถ์ ๊ฒฐ๊ณผ๋ฅผ ํ๊ฐํ์๋ค.
์ฌ๊ธฐ์์
Y
t : ์ค์ ๊ฐ
F
t : ๋ชจ๋ธ์ ์ํด ๊ตฌํ ์ถ์ ๊ฐ
ํ๊ฐ๋ฅผ ์ํ์ฌ ์ธ ๊ฐ์ง ๋ชฉ์ ๋ณ์์ธ ์กฐ๋ช
, ๊ณต์กฐ, ์๊ฐ๋ถํ์ ๋ํ์ฌ MAPE๋ฅผ ๊ณ์ฐํ์ฌ ๋น๊ตํ์๋ค. ํ๋ผ๋ฏธํฐ์ ์กฐํฉ์ ๋ฐ๋ฅธ ๋ชจ๋ธ์ ๊ฐ์๋ ์ด 48๊ฐ์ง์ด๋ฉฐ,
๊ฐ ๋ชจ๋ธ์ ๋ํด์ ์ธ ๊ฐ์ง ๋ณ์์ ๋ํ MAPE์ ๊ทธ ํ๊ท ๊ฐ์ ์์๋๋ก ์ ๋ฆฌํ์ผ๋ฉฐ, ์ด ์ค MAPE์ ํ๊ท ๊ฐ์ด ์์ ์์ 10๊ฐ์ ๋ชจ๋ธ์
ํ 2์ ์ ๋ฆฌํ์๋ค. ์ฌ๋ฌ ๋ชจ๋ธ ์ค์์ MAPE์ ํ๊ท ๊ฐ์ด ๊ฐ์ฅ ์์ ๊ฒฝ์ฐ๋ฅผ ์ต์ ๋ชจ๋ธ๋ก ์ ํ์๋ค.
ํ 2. ํ๋ผ๋ฏธํฐ์ ๋ฐ๋ฅธ GRU ๋ชจ๋ธ์ ์ฑ๋ฅ ๋น๊ต
Table 2. Comparison of GRU models according to parameters
ํ๋ผ๋ฏธํฐ
|
MAPE
|
๋ฐฐ์น
|
์ฃผ
|
๋
ธ๋
|
๊ณ์ธต
|
์กฐ๋ช
|
๊ณต์กฐ
|
์๊ฐ
|
ํ๊ท
|
128
|
2
|
128
|
1
|
9.571
|
21.711
|
8.641
|
13.308
|
64
|
2
|
128
|
1
|
10.275
|
21.630
|
8.393
|
13.433
|
128
|
1
|
64
|
3
|
10.197
|
20.148
|
10.066
|
13.470
|
64
|
2
|
64
|
1
|
10.129
|
20.648
|
10.024
|
13.600
|
128
|
1
|
64
|
1
|
10.551
|
21.943
|
8.656
|
13.717
|
128
|
2
|
64
|
3
|
10.186
|
21.736
|
9.276
|
13.732
|
128
|
1
|
64
|
2
|
10.295
|
22.372
|
8.572
|
13.746
|
128
|
1
|
128
|
1
|
10.123
|
22.477
|
8.982
|
13.861
|
64
|
1
|
128
|
4
|
10.032
|
21.674
|
10.047
|
13.918
|
128
|
1
|
128
|
3
|
10.063
|
23.285
|
8.628
|
13.992
|
4.2 ํ์ต ๊ณผ์ ๋ฐ ์ถ์ ๊ฒฐ๊ณผ
๊ทธ๋ฆผ. 6์ ์ ์ํ GRU ๋ชจ๋ธ์ ํ์ต ๊ณก์ ์ ๋ณด์ฌ์ฃผ๊ณ ์๋ค. ํ์ต๊ณก์ ์ ๋ณด๋ฉด ํ์ต ์ด๊ธฐ์๋ ํ์ต๋ฐ์ดํฐ์ ๋ํ ์์คํจ์์ ๊ฐ๊ณผ ํ์ต๋ง๋ค ๊ฒ์ฆ๋ฐ์ดํฐ์ ๋ํ ์์คํจ์์
๊ฐ์ด ํ์ต์ ์ํํจ์ ๋ฐ๋ผ ๊ฐ์ํจ์ ๋ณผ ์ ์๋ค. ํ์ง๋ง ์ํฌํฌ๊ฐ 17ํ ์ด์ ๋์ด๊ฐ๋ฉด ํ์ต๋ฐ์ดํฐ๋ก ๊ตฌํ ์์ค์ ๊ณ์ ์ค์ด๋ค์ง๋ง ๊ฒ์ฆ๋ฐ์ดํฐ๋ก ๊ตฌํ
์์ค์ ์ค์ด๋ค์ง ์์์ ๋ณผ ์ ์๋ค. ๋ชจ๋ธ์ด ํ์ต๋ฐ์ดํฐ์ ๋ํด ๊ณผ์ ํฉ๋๋ ๊ฒ์ ๋ง๊ธฐ ์ํ์ฌ ๊ฒ์ฆ๋ฐ์ดํฐ์ ๋ํ ์์ค๊ฐ์ด ์ค์ด๋ค์ง ์์ผ๋ฉด ํ์ต์ ์กฐ๊ธฐ
์ข
๋ฃ(early stopping)์์ผฐ๋ค.
๊ทธ๋ฆผ. 6. ์ ์ํ GRU ๋ชจ๋ธ์ ํ์ต ๊ณก์
Fig. 6. Learning curve of the proposed GRU model
์ด๋ ๊ฒ ํ์ต๋ GRU ๋ชจ๋ธ๋ก ๋ชฉ์ ๋ณ์์ธ ์กฐ๋ช
, ๊ณต์กฐ, ์๊ฐ์ ๊ฐ๋ค์ ์ถ์ ํ์ฌ ์ค์ ๊ฐ๊ณผ ๋น๊ตํ์๋ค.
๊ทธ๋ฆผ. 7์ ํ๊ฐ๋ฐ์ดํฐ์ ์ผ๋ถ์ ๋ํ์ฌ ์ถ์ ํ ๊ฐ๊ณผ ์ค์ ๊ฐ์ ๊ทธ๋ํ๋ก ๋ํ๋ด๊ณ ์๋ค.
๊ทธ๋ฆผ. 7. ๋ฅ๋ฌ๋์ ํตํ์ฌ ์ถ์ ํ ๊ฐ๊ณผ ์ค์ ๊ฐ์ ๋น๊ต ์
Fig. 7. Example of estimate values of estimation by deep learning
์ค์ ๋์์ฒ ๋ ๋ณ์ ์์ ๊ฒฝ์ฐ ๋์ผํ ๋
ธ์ ์์๋ ๊ฑฐ์ ๊ฐ์ ์ฉ๋๊ณผ ๊ตฌ์ฑ์ ๊ฐ์ง๊ฒ ๋๋ฉฐ, ๋์์ฒ ๋ ์ญ์ฌ์ ์ ๋ ฅ๋ถํ ๊ตฌ์ฑ ์ญ์ ์ง์์ญ์ฌ๋ผ๋ฆฌ ๋๋ ์งํ์ญ์ฌ๋ผ๋ฆฌ๋
ํฌ๊ฒ ๋ค๋ฅด์ง ์์ ๋ถํ ๊ตฌ์ฑ์ ๊ฐ์ง๋ค. ๋ฐ๋ผ์ ์ด ์ฐ๊ตฌ์์ ๊ตฌ์ฑํ ์ถ์ ๋ชจ๋ธ์ ์ ์ฉํ๋ฉด ๊ฐ์ ๋
ธ์ ์ ์ํ ๊ฐ ๋ณ์ ์์์๋ ์ฉ๋๋ณ ์ ๋ ฅ๋ถํ๋์ ์ถ์ ๊ฐ๋ฅํ๋ค.
๊ทธ๋ฆฌ๊ณ ๊ฐ์ ๋์์ฒ ๋ ์ญ์ฌ๋ผ๋ ์ค๋น์ ์ฆ๊ฐ ๋ฑ ๋ถํ ํน์ฑ์ด ๋ณ๊ฒฝ๋๋ฉด ์ถ์ ์ ์ ํ๋๊ฐ ๋จ์ด์ง๊ฒ ๋ ๊ฒ์ด๋ค. ์ด๋ฅผ ๋ณด์ํ๊ธฐ ์ํด์ ์ค๋น์ ์ฉ๋ ๋ฑ์ ์์์
๋ถํ๋์ ์ถ๊ฐ๋ก ๊ณ ๋ คํ ๋ชจ๋ธ์ ๊ตฌ์ฑํ๊ณ ํ์ตํจ์ผ๋ก์จ ๋ ๋ฒ์ฉ์ธ ๋ถํ์ถ์ ๋ชจ๋ธ์ ๋ง๋ค ์ ์์ ๊ฒ์ด๋ค.
์ฉ๋๋ณ ์ ๋ ฅ ๋ถํ๋์ ์ด๋ ๊ฒ ๋ฅ๋ฌ๋์ผ๋ก ๊ตฌํ ๊ฒฐ๊ณผ์ [12]
(12)์์ ์ ์ํ ๋คํญํ๊ท๋ฅผ ํตํ์ฌ ๊ตฌํ ๊ฒฐ๊ณผ๋ฅผ MAPE๋ฅผ ํตํ์ฌ ๋น๊ตํ๋ฉด
ํ 3๊ณผ ๊ฐ๋ค. ๋คํญํ๊ท๋ 3๊ฐ์ง ๋ชฉ์ ๋ณ์ ๋ํด์ ๊ฐ๊ฐ ์๊ด๊ด๊ณ๊ฐ ๋์ ๋
๋ฆฝ๋ณ์๋ค์ ๋ํด 3์ฐจ ๋๋ 4์ฐจ์ ๋คํญํ๊ท๋ถ์์ ์ํํ ๊ฒฐ๊ณผ์ด๋ค. ์์ธํ ๋คํญํ๊ท๋ถ์์
์กฐ๊ฑด์ [12]
(12)์ ๊ธฐ์ ๋์ด ์๋ค.
ํ 3. ๋คํญํ๊ท๋ถ์๊ณผ ๋ฅ๋ฌ๋ ๊ธฐ๋ฒ์ ์ํ ๊ฒฐ๊ณผ์ ๋ํ MAPE ๊ฐ ๋น๊ต
Table 3. Comparison between results by polynomial regression and by deep learning
๋ชฉ์ ๋ณ์
|
๋คํญํ๊ท๋ถ์
|
๋ฅ๋ฌ๋(RNN)
|
์กฐ๋ช
|
17.380
|
9.571
|
๊ณต์กฐ
|
25.053
|
21.711
|
์๊ฐ
|
9.958
|
8.641
|
MAPE๋ฅผ ๋น๊ตํ ๊ฒฐ๊ณผ๋ฅผ ๋ณด๋ฉด 3๊ฐ์ ๋ชฉ์ ๋ณ์ ๋ชจ๋ ๋ฅ๋ฌ๋์ ํตํ ์ถ์ ์ ๊ฒฐ๊ณผ๊ฐ ๋ ์ข์์ง ๊ฒ์ ์ ์ ์์ผ๋ฉฐ, ํนํ ์กฐ๋ช
๋ถํ์ ๋ํด์ ๋ ๋ง์ ํฅ์์ด
์ด๋ฃจ์ด์ก๋ค. ์กฐ๋ช
๋ถํ๋ ๋ค๋ฅธ ๋ ๋ถํ์ ๋นํ์ฌ ๊ท์น์ฑ์ด ๊ฐํ ํน์ฑ์ ๊ฐ๋๋ฐ, ์ด ๊ฒฝ์ฐ ๋ฅ๋ฌ๋์ด ํ๊ท๋ถ์์ ๋นํด ๋ ๋์ ๊ฒฐ๊ณผ๋ฅผ ๋ณด์ด๋ ๊ฒ์ผ๋ก ๋ณด์ธ๋ค.
์ด์ ๊ฐ์ด ๋์ผํ ๋ฐ์ดํฐ์ ๋ํด ๋คํญํ๊ท๋ถ์๊ณผ ๋ฅ๋ฌ๋ ๋ฐฉ๋ฒ ์ค RNN์ ํตํ์ฌ ๋ถํ๋ฅผ ์ถ์ ํด ๋ณธ ๊ฒฐ๊ณผ RNN์ด ๋ ์ข์ ์ฑ๋ฅ์ ๋ํ๋ด์์ผ๋ฉฐ, ๋ฐ์ดํฐ์
ํน์ฑ์ ๋ฐ๋ผ ๊ทธ ํฅ์ ์ ๋๋ ๋ฌ๋๋ค.
5. ๊ฒฐ ๋ก
๋์์ฒ ๋์์ ์ ๋ ฅ ์๋น์ ํจ์จ์ ๋์ด๊ธฐ ์ํ์ฌ ์ฌ๋ฌ ๊ฐ์ง ๋ถํ๊ด๋ฆฌ ๊ธฐ์ ๋ค์ด ์ ์ฉ๋๊ณ ์์ผ๋ฉฐ, ์ด๋ฅผ ์ํด์๋ ์ฉ๋๋ณ ์ ๋ ฅ๋ถํ๋์ ํ์
ํ๋ ๊ฒ์ด ํ์ํ๋ค.
์ด๋ฅผ ์ํ์ฌ ๊ณ์ธก ์ค๋น๋ฅผ ์ค์นํ์ฌ ์ง์ ์ธก์ ํ ์ ์์ผ๋ ์ค์น๋ ์ ์ง๊ด๋ฆฌ ๋น์ฉ์ด ๋ฐ์ํ๊ฒ ๋๋ค. ์ด๋ฌํ ๊ณ์ธก ์ค๋น ์ถ๊ฐ ์์ด ํ์ฌ ์ด๋ฏธ ์ธก์ ํ๊ณ ์๋
๋ณ์ ์ ์ ์ฒด ๋ถํ๋๊ณผ ๊ณต๊ณต ๋ฐ์ดํฐ์ธ ๊ธฐ์จ, ๊ฐ์๋, ๋ฏธ์ธ๋จผ์ง๋ ๋ฑ ๊ธฐํ ๋ฐ์ดํฐ๋ฅผ ์ด์ฉํ์ฌ ์ฉ๋๋ณ ์ ๋ ฅ๋ถํ๋์ ์ถ์ ํ๋ ๋ฐฉ๋ฒ์ ์ ์ํ์๋ค.
๊ธฐ์กด ์ฐ๊ตฌ์์๋ ๋น
๋ฐ์ดํฐ ๋ถ์์ ํตํ ๋คํญํ๊ท๋ฐฉ๋ฒ์ผ๋ก ์ฉ๋๋ณ ์ ๋ ฅ๋ถํ๋์ ์ถ์ ํ์์ผ๋ฉฐ, ์ด ๋
ผ๋ฌธ์์๋ ๋ฅ๋ฌ๋ ๊ธฐ๋ฒ์ ์ ์ฉํ์๋ค. ๋ฅ๋ฌ๋์๋ ์ฌ๋ฌ ๊ฐ์ง
๊ธฐ๋ฒ์ด ์์ผ๋ฉฐ ์๊ณ์ด ๋ฐ์ดํฐ๋ฅผ ๋ค๋ฃจ๋ ๋ฐ์๋ RNN(recursive neural network, ์ํ์ ๊ฒฝ๋ง)์ด ์ ๋นํ๋ค. RNN์ ์
๊ฐ์ด๋ฐ ํ๋์ธ
GRU(gated recurrent unit)๋ฅผ ํ์ฉํ์๋ค. RNN์ ๊ณผ๊ฑฐ ๋ฐ์ดํฐ์ ๋ฐ์์ด ์ด๋ ต๋ค๋ ๋จ์ ์ด ์๋๋ฐ, ์ด ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํ์ฌ LSTM(long
short- term memory, ์ฅ๋จ๊ธฐ ๊ธฐ์ต ๋คํธ์ํฌ)์ด ์ ์๋์์ผ๋ฉฐ, GRU๋ LSTM๊ณผ ๋น์ทํ ํน์ฑ์ ๊ฐ์ง๋ฉด์ ๊ณ์ฐ๋์ ์ค์ธ ๋ฐฉ๋ฒ์ด๋ค.
์ ์ํ๋ ๋ฐฉ๋ฒ์ 2016๋
8์๋ถํฐ 2017๋
7์๊น์ง ๋์์ฒ ๋ ๋ณ์ ์์์ ์ธก์ ํ ์ ๋ ฅ๋ถํ ๋ฐ์ดํฐ์ ์ ์ฉํ์๋ค. ๋ชฉ์ ๋ณ์๋ ์ญ์ฌ ๋ถํ์์ ํฐ ๋น์ค์
์ฐจ์งํ๋ ์กฐ๋ช
, ๊ณต์กฐ, ์๊ฐ ๋ถํ๋์ด๋ฉฐ ํ์ต ๋ฐ์ดํฐ๋ ์ ์ฒด ์ ๋ ฅ ๋ถํ๋๊ณผ ๊ธฐ์จ, ๊ฐ์๋, ๋ฏธ์ธ๋จผ์ง(PM10, PM2.5) ๋ฑ ๊ธฐํ ๋ฐ์ดํฐ, ๊ทธ๋ฆฌ๊ณ
์๊ฐ, ์์ผ, ํน์์ผ ์ฌ๋ถ ๋ฐ์ดํฐ๋ฅผ ์ ์ฉํ์๋ค. ๋ฐ์ดํฐ๋ฅผ ํ์ต(training), ๊ฒ์ฆ(validation), ํ๊ฐ(test) ๋ฐ์ดํฐ๋ก ๊ตฌ๋ถํ์ฌ ํ์ต์
์งํํ์๋ค. ๊ณ์ธต(layer)๊ณผ ๋
ธ๋ ์, ๋ฐ์ดํฐ์ ํ์ต ๋ฒ์๋ฅผ ๋ณ๊ฒฝํ๋ฉด์ ๋ชจ๋ธ์ ๊ตฌ์ฑํ๊ณ , ๊ฐ ๋ชจ๋ธ์ ๋ํ์ฌ ํ์ต์ ์ํํ์ฌ ๋ชจ๋ธ์ ์ต์ ํ๋ผ๋ฏธํฐ๋ฅผ
์ฐพ์๋ค. ๊ตฌ์ฑํ GRU ๋ชจ๋ธ๋ก ์ฉ๋๋ณ ๋ถํ๋์ ์ถ์ ํ ๊ฒฐ๊ณผ ๋คํญํ๊ท๋ถ์์ ํตํ์ฌ ์ถ์ ํ ๊ฒฐ๊ณผ๋ณด๋ค ๋ ์ ํํ ๊ฒฐ๊ณผ๋ฅผ ์ป์ ์ ์์๋ค.
์ง๊ธ๊น์ง ์ดํด๋ณธ ๋ฐ์ ๊ฐ์ด ์ด ๋
ผ๋ฌธ์์๋ ์ ์ฒด๋ถํ๋๊ณผ ๊ธฐํ ๊ณต๊ณต๋ฐ์ดํฐ๋ฅผ ์ด์ฉํ์ฌ ์ํ๋ ์ฉ๋๋ณ ๋ถํ๋์ ์ถ์ ํ์์ผ๋ฉฐ, ๊ทธ ๋ฐฉ๋ฒ์ผ๋ก ๋ฅ๋ฌ๋ ์ค RNN์
์ ์ฉํ์๋ค. ์ผ๋ฐ์ ์ธ ๋ถํ ์์ธก์ ํ๋ ๊ฒฝ์ฐ์๋ ํน์ ์์ ์ ๋ถํ๋์ ๋ชฉ์ ๋ณ์๋ก ํ๊ณ ๊ทธ ์์ ์์ ๊ณผ๊ฑฐ๋ฐ์ดํฐ๋ฅผ ์ผ์ ๊ธฐ๊ฐ๋งํผ ์ํํธ ์ํจ ๋ฐ์ดํฐ๋ฅผ
ํ์ต๋ฐ์ดํฐ๋ก ์ด์ฉํ๋ฉด RNN์ ์ ์ฉํ์ฌ ํ์ต ๋ฐ ์์ธก์ด ๊ฐ๋ฅํ๋ค.
๊ฐ์ฌ์ ๊ธ
๋ณธ ์ฐ๊ตฌ๋ ํ๊ตญ์ฒ ๋๊ธฐ์ ์ฐ๊ตฌ์ ์ฃผ์์ฌ์
์ ์ฐ๊ตฌ๋น ์ง์์ผ๋ก ์ํ๋์์ต๋๋ค.
References
Kim Han-Su, Kwon Oh-Kyu, 2014, Power demand forecasting in the DC urban railway substation,
Trans. of KIEE, Vol. 63, No. 11, pp. 1608-1614
Heo Jae-Haeng, Shin Seungkwon, Park Jong-young, Kim Hyeongig, 2015, Study on the optimal
operation of ESS considering urban railway load characteristic, Trans. of KIEE, Vol.
64, No. 10, pp. 1508-1516
Park Jong-young, Heo Jae-Haeng, Shin Seungkwon, Kim Hyungchul, 2017, Economic evaluation
of ESS in urban railway substation for peak load shaving based on net present value,
Journ. of Electr. Eng. Technol, Vol. 12, No. 2, pp. 981-987
Park Jong-young, Heo Jae-Haeng, Kim Hyeongig, Kim Hyungchul, Shin Seungkwon, 2017,
Economic evaluation of ESS applying to demand response manage- ment in urban railway
system, Trans. of KIEE, Vol. 66, No. 1, pp. 222-228
Jung Hosung, Kim Hyungchul, Shin Seoungkwon, Yoon Kiyong, Kim Jae-moon, Kim Yang-su,
2013, Installation of power monitoring system for load pattern analysis on DC urban
transit system, ISGC&E 2013
Lee Hansang, Jung Seungmin, Jung Hosung, Kim Hyungchul, Jang Gilsoo, 2012, Power management
for electric railway system to reduce the railway operating cost, 2012 KIEE fall conf.,
pp. 411-413
Barbounis Thanasis G., Theocharis John B., Alexiadis Minas C., Dokopoulos Petros S.,
2006, Long-term wind speed and power forecasting using local recurrent neural network
models, IEEE Trans. Energy Conver., Vol. 21, No. 1, pp. 273-284
Shi Zhichao, Liang Hao, Dinavahi Venkata, 2018, Direct interval forecast of uncertain
wind power based on recurrent neural networks, IEEE Trans. Sustain. Energy, Vol. 9,
No. 3, pp. 1177-1187
Kong Weicong, Dong Zhao Yang, Hill David J., Luo Fengji, Xu Yan, 2018, Short-term
residential load forecasting based on resident behaviour learning, IEEE Trans. Power
Syst., Vol. 33, No. 1, pp. 1087-1088
Shin Dong-Ha, Kim Chang-Bok, 2016, A study on deep learning input pattern for summer
power demand prediction, Journ. of KIIT, Vol. 14, No. 11, pp. 127-134
Park Jun-Ho, Shin Dong-Ha, Kim Chang-Bok, 2017, Deep learning model for electric power
demand prediction using special day separation and prediction elements extension,
Journ. of Advanc. Navigat. Technol., Vol. 21, No. 4, pp. 365-370
Park Jong-young, 2018, Analysis of electrical loads in the urban railway station by
big data analysis, Trans. of KIEE, Vol. 67, No. 3, pp. 460-466
Cho Kyunghyun, Bahdanau Dzmitry, Bougares Fethi, Schwenk Holger, Bengio Yoshua, 2014,
Learning phrase representations using RNN encoder-decoder for statistical machine
translation, Proc. of EMNLP
Sep. 11. 2018, Understanding LSTM Networks, http://colah.github.io/posts/2015-08-Understanding-LSTMs
์ ์์๊ฐ
๋ฐ ์ข
์ (Jong-young Park)
1976๋
8์์
1999๋
์์ธ๋ํ๊ต ์ ๊ธฐ๊ณตํ๋ถ ์กธ์
2007๋
๋ ๋ํ์ ์ ๊ธฐ์ปดํจํฐ๊ณตํ๋ถ ์กธ์
(๊ณตํ๋ฐ์ฌ)
2007~2009๋
ํ๊ตญ์ ๊ธฐ์ฐ๊ตฌ์
2009๋
~2013๋
LS์ฐ์
2013๋
~ํ์ฌ ํ๊ตญ์ฒ ๋๊ธฐ์ ์ฐ๊ตฌ์ ์ฐ๊ณํ์น์ฐ๊ตฌํ ์ ์์ฐ๊ตฌ์
Tel: 031-460-5731
Fax: 031-460-5749
E-mail :
jypark@krri.re.kr