2.1 특징 추출

위암 컴퓨터 보조 진단 시스템의 성능을 높이기 위해선 영상을 표현하는 특징을 효과적으로 추출하는 것이 중요하다. 위 병변의 진단은 텍스처 특징과 색상 특징을 통해 이루어진다^[6]. 이를 바탕으로 4가지의 색상 특징과 2가지의 텍스처 특징을 추출하였다. 정상의 위는 전체적으로 분홍빛을 나타낸다. 반면에 위암은 분홍빛을 포함한 다양한 색상의 분포로 구성되어 있다. 이러한 색상 특징을 추출하기 위해 RGB 히스토그램, HSV 히스토그램, HSI-Intensity 히스토그램, opponent RGB 히스토그램^[7]을 사용하였다. 위암은 주위 점막보다 현저히 융기되어 있어 정상의 위 점막과 차이를 보인다^[8]. 점막의 불규칙한 모양을 통해 위암의 진단이 가능하다. 일정한 패턴의 반복을 나타내는 텍스처 특징을 추출하기 위해 Local Binary Pattern(LBP)^[9]과 Gray-Level Co-occurrence Matrix(GLCM)^[10]를 사용하였다. 이 두 개의 텍스처 특징 모두 RGB scale 영상에서 Gray scale 영상으로 변환한 뒤 획득하였다. 추출한 특징은 표 1과 같이 색상 특징에서 150차원, 텍스처 특징에서 299차원으로 총 449차원의 특징을 추출하였다.

2.2 특징 선택

특징 선택은 분류의 정확도를 높이고 연산량도 줄이기 위하여 원본 데이터에서 추출된 특징으로부터 다시 분류에 도움이 되는 특징만을 선택하는 방법이다. 즉, 머신 러닝에서 높은 정확도의 예측 모델을 생성하기 위해서 분류 목적에 가장 밀접하게 연관되어있는 변수들의 조합을 사용하는 것이 필수적이다. 또한, 적절한 개수의 특징을 선택하는 것도 중요하다. 과도하게 다양한 특징을 선택하면, 계산량이 증가하여 학습 속도가 느려진다. 또한, 예측에 관련 없는 특징들이 선택되면서 정확도 상승에 방해요인이 될 수 있다. 따라서 중복되거나 관련이 없는 특징들을 제거하고 예측하고자 하는 값과 관련 있는 특징들의 조합을 찾아 모델에 적용해야 한다.

본 실험에서는 정상과 비정상을 분류하는데 가장 밀접하게 연관 있는 특징을 선택하기 위해 5가지의 특징 선택 알고리즘을 적용하였다. 사용한 특징 선택 알고리즘은 Scikit-learn 라이브러리 버전 0.21.3 에서 제공하는 피어슨 상관관계 분석(Pearson Correlation), 카이 제곱 검정(Chi-Squared test), 재귀변수 제거(Recursive Feature Elimination)와 모델 기반 특징 선택(Select from model)이다. 각 특징 선택 알고리즘마다 분류에 기여되는 정도를 측정하여 상위 10개의 특징을 선별하였다. 선택된 특징들이 유효한 영향력을 가졌는지 판단하기 위해 1가지의 방법을 추가하였다. 특징마다 4가지의 알고리즘 통하여 상위 10개로 선택된 횟수를 계산하였고 횟수가 큰 10개의 특징을 다시 선택하여 실험에 사용하였다. 본 연구에서는 이 특징 선택 방식의 명칭을 Total Ranking으로 정하였다. 이렇게 총 5가지 집합의 특징을 생성하였다. 이러한 특징 선택은 크게 필터 방법(Filter method), 래퍼 방법(Wrapper method)과 임베디드 방법(Embedded method)으로 나눌 수 있다.

2.2.1 필터 방법(피어슨 상관관계 분석, 카이 제곱 검정)

본 논문에서 사용된 피어슨 상관관계 분석과 카이 제곱 검정방식은 그림 3과 같이 선택과정이 모델의 학습과 분리된 필터 방법의 종류이다^[11].

피어슨 상관관계 분석은 피어슨 상관 계수를 통하여 두 변수 간에 어떤 선형관계가 있는지를 구한다. 식 (1)은 두 변수가 x, y일 때의 피어슨 상관 계수 수식을 나타낸다^[12]. 상관 계수는 두 변수 간 선형관계의 절대적 크기를 나타내는 공분산을 두 변수의 표준 편차로 나누게 된다. 따라서, 본 논문에서는 x를 특징, y를 라벨이라고 하였을 때, 두 변수 간에 선형관계의 정도를 구하게 된다. 이렇게 구한 상관 계수를 통해 통계적 지표를 사용하여 순위를 매기고 영향력이 적은 변수는 제외하는 방식을 이용하여 상위 10개의 특징을 추출한다.

카이 제곱 검정방식은 식 (2)와 같으며, 카이 제곱 분포에 기초한 통계적 방법으로 관찰된 빈도와 기대되는 빈도의 차이를 검증하기 위해 사용되는 검증 방법이다. $O_{i}$는 클래스 i에서의 관측빈도, $E_{i}$는 클래스 i에서의 기대빈도를 나타낸다. 피어슨 상관관계와 같은 방식으로 카이 제곱 분포도를 이용하여 영향력이 적은 특징들은 제외하고 상위 10개의 특징을 추출하였다.

2.2.2 래퍼 방법(재귀변수 제거)

본 논문에서는 사용된 재귀변수 제거법은 래퍼 방식의 한 종류이다. 래퍼 방식은 특징들의 조합을 다르게 하면서 학습을 진행한다. 여기서 학습에 사용되는 머신 러닝 모델은 최종적으로 사용할 머신 러닝 모델과 같을 필요는 없다. 이 과정을 거쳐 완료된 모델 중 점수가 가장 높은 특징의 조합을 선택한다. 따라서 재귀변수 제거법은 그림 4와 같이 모든 특징을 우선 다 포함 시킨 후 반복해서 학습을 진행하면서 중요도가 낮은 특징을 하나씩 제거하는 방식이다. 본 연구에서는 선형 SVM을 적용하여 특징 선택을 하였다. 각 특징 조합을 학습 해야 하므로 많은 시간 비용이 필요하다는 단점이 있다. 하지만 학습을 진행하면서 가장 좋은 성능을 보이는 특징 집합을 선택한다. 필터 방법과 비교하였을 때, 학습에 대한 예측 정확도 측면에서 가장 좋은 성능을 보인다^[13].

2.2.3 임베디드 방법(모델 기반 특징 선택)

본 논문에서 사용된 모델 기반 특징 선택은 임베디드 방법의 한 종류이다. 래퍼 방법은 모든 조합의 학습을 마친 결과를 비교하는 데 비해, 그림 5와 같이 임베디드 방법은 학습 과정에서 최적화된 변수를 선택한다는 점에서 차이가 있다^[14]. 전술하였듯이, 특징 선택에 사용되는 머신 러닝 모델은 최종적으로 사용할 머신 러닝 모델과 같을 필요가 없다. 따라서, 랜덤 포레스트 방식을 사용하여 특징을 선택하였다. 랜덤 포레스트 방식은 트리를 학습할 때 각 특징이 불필요한 정보를 얼마나 많이 감소시키는지 계산하다. 특징이 불필요한 특징을 감소시킬수록 해당 특징은 더 중요성은 높아진다. 최종 중요성을 결정하기 위해 각 특징에서 불필요한 정보 감소를 평균화하여 최종 중요성이 높은 특징을 결정한다.

2.3 서포트 벡터 머신

특징 벡터를 이용하여 정상과 비정상을 분류하기 위해 선형 SVM 모델을 분류기로 사용하였다. SVM의 원리는 두 그룹에서 각각의 데이터 간 거리를 측정한 후, 두 개의 데이터 사이의 중심을 구한다. 그다음, 그 가운데에서 최적의 초평면(Optimal Hyper Plane)을 구함으로써 학습이 진행된다. SVM은 데이터를 고차원적으로 매핑하며 데이터의 분류에 강점을 가진다. 또한, 다른 분류기보다 높은 성능을 가지므로 SVM을 사용하였다^[15]. 선택된 10가지 특징들을 SVM 분류기 입력으로 사용하였다. 서로 다른 특징 선택 기법을 사용하여 10개씩 특징을 추출하고 SVM 분류기 입력으로 사용하여 결과를 비교하였다.

3.1 실험 환경

본 논문에서 진행한 실험은 다음과 같은 환경에서 진행되었다. Window 10 기반, Intel(R) Core(TM) i5-9400F CPU @ 2.90GHz, NVDIA GeForce GTX 1660 6GB, DDR4 32GB RAM의 PC 환경에서 Python 버전 3.6.9와 Scikit-learn 버전 0.21.3을 설치하였다.

3.2 데이터 셋

위 병변 진단 컴퓨터 보조 진단 시스템을 위하여 임상 시험 심사 위원회(Institutional Review Board, IRB)의 허가를 받은 경상대학교 병원의 위내시경 영상을 사용하였다. 데이터 셋으로 구성된 모든 영상의 진단은 소화기 내과 전문의에 의해 검증되었다. 데이터 셋 분류는 표 2와 같이 총 186장으로 이루어졌으며 학습 데이터는 93장, 테스트 데이터는 93장이다. 93장의 정상 데이터와 조기 위암(Early Gastric Cancer, EGC), 진행성 위암(Advanced Gastric Cancer, AGC)로 구성된 93장의 비정상 데이터로 구성된다. 난수를 이용하여 샘플링 반복을 하는 부트스트랩(Bootstrap) 기법을 적용하였다. 샘플링 비율을 0.5로 설정하고 93장의 샘플을 뽑아 10번의 샘플링 반복을 통해 학습을 진행하였다. 10개의 성능을 평균하여 모델의 성능으로 취한다. 그림 6는 연구에서 사용된 위내시경 영상의 예시이다. 그림 6-(a)는 정상의 위 영상, 그림 6-(b)는 조기 위암 영상이고 그림 6-(c)는 진행성 위암 영상이다.

3.3 실험 결과

186장의 위내시경 영상으로부터 4가지의 색상 특징을 추출하였으며, RGB 히스토그램(45d), HSV 히스토그램(45d), HSI- Intensity 히스토그램(15d), opponent RGB 히스토그램(45d)으로 구성된다. 2개의 텍스처 특징은 uniform LBP(59d)와 Gray-Level Co-occurrence Matrix(GLCM)(240d)로 구성된다. 추출된 모든 특징에서 각 알고리즘을 통하여 선택된 10개의 특징은 표 3과 같다. 표 3에서 ‘LBP_4 of 59’는 uniform LBP로부터 추출할 수 있는 59가지의 값 중에 4번째를 의미한다. 전반적으로 색상 특징과 질감 특징 중 LBP 특징이 많이 선택되었다. 5가지의 특징 선택 알고리즘에서 공통으로 Saturation_1 of 15, Opponent Blue_1 of 15, LBP_53 of 59와 LBP_50 of 59가 선택되었다. 이를 기반으로 이 특징들이 정상 이미지와 위암 이미지를 분류함에 가장 영향력 있는 특징임을 알 수 있다. 특징 집합을 구성할 때, 색상 특징은 색상의 분포 정보만 갖고 있을 뿐 질감 특징인 주름의 정보는 얻기 어렵다. 따라서 색상 특징과 질감 특징을 혼합하여 사용해야 한다. 이러한 특징 벡터를 이용하여 정상과 비정상을 분류하기 위해 선형 SVM 모델을 분류기로 사용하였다.

성능 지표로는 혼동행렬(Confusion matrix)을 이용하여 위암 이미지를 위암 이미지로 옳게 분류한 경우 True Positive(TP), 위암 이미지를 정상 이미지로 틀리게 분류한 경우는 False Negative(FN), 정상 이미지를 위암 이미지로 틀리게 분류한 경우는 False Positive(FP) 그리고 정상 이미지를 정상 이미지로 옳게 분류한 경우는 True Negative(TN)이다. 혼동행렬을 기준으로 위암 이미지와 정상의 이미지에 대하여 올바르게 예측한 경우를 각각 구한 뒤 식 (3)~(6)을 기준으로 정확도(Accuracy), 정밀도(Precision), 특이도(Specificity) 그리고 재현율(Recall)의 공식을 이용하여 평가하였다.

정밀도는 입력 이미지에 병변이 존재할 때, 예측한 값이 올바르게 예측한 경우를 말한다. 정밀도와 재현율은 일종의 trade-off 관계이므로, 정밀도 값이 높으면 재현율 값이 낮게 된다. 학습과 테스트는 데이터의 구성을 다르게 하여 10번 진행되었다. 표 4는 정상과 위암 이미지 분류에 대한 성능이다. 10번의 테스트 결과를 성능 지표 기반으로 평균치를 구해 나타내었다. 각 학습의 데이터는 무작위로 구성되었다. 알고리즘을 통해 선택된 특징을 이용하여 분류하였고 알고리즘의 특징 선택 성능을 비교하기 위해 모든 특징을 이용한 분류 결과도 함께 나타내었다. 분류기는 SVM을 사용하여 모델을 생성하였다. 그 결과, 래퍼 방법의 재귀변수 제거 알고리즘을 통해 특징 선택이 이루어진 경우가 정확도 0.92, 정밀도 0.93, 특이도 0.92 그리고 재현율 0.92로 모든 측면에서 가장 좋은 성능을 보였다. 래퍼 방식은 머신 러닝을 진행하면서 가장 좋은 성능을 보이는 특징 집합을 선택하기 때문에 정상의 이미지와 병변 이미지를 효과적으로 분류할 수 있었다. 반면에 필터 기반의 피어슨 상관관계 분석과 카이 제곱 검정은 래퍼 방법과 임베디드 방법과 달리 학습 알고리즘과 독립적으로 정의되며, 머신 러닝의 측면에서 최적의 특징을 선택해주는 것이 아니다. 따라서, 정확도가 0.82와 0.88인 비교적 낮은 성능을 보였다. Total Ranking은 4가지의 알고리즘 통하여 상위 10개로 선택된 횟수를 계산하였고 횟수가 큰 10개의 특징을 다시 선택하였다. 하지만 이렇게 구성된 특징들은 영향력이 높은 특징들도 포함하였지만 낮은 영향력의 특징들도 포함되어 가장 높은 성능을 보여주지 못했다. 결과적으로, 특징 선택이 이루어진 경우가 특징 선택이 이루어지지 않은 경우보다 대체적으로 정밀도가 높음을 확인할 수 있었다. 이 결과를 통해 특징 선택은 원본 데이터에서 추출된 특징을 다시 분류에 도움 되는 특징만을 선택함으로써 분류의 정확도를 높이는데 기여함을 확인할 수 있었다.