2.1 불규칙 오류 시스템의 확률 모델

불규칙 오류가 내재된 시스템으로 동일 조건으로 수 차례의 반복 시험을 한 경우, 불규칙 특성으로 인하여 오류가 시험마다 나타날 수도 있고 나타나지 않을 수도 있으며, 발생 빈도와 시점 또한 불규칙하다. 즉 회당 시험 시간 약 60초인 총 10회의 시험을 하였다면, 3회 시험의 10초대에서 오류가 발생하고, 4회 시험의 50초대에서 오류가 발생하였으나 5~7회에서는 오류가 발생하지 않고 8, 10회에서 오류가 발생하였다고 하자. 총 10회 중 어떤 회 차의 시험에서 발생할지 발생 주기와 빈도도 불규칙하고, 발생한 회 차의 시험에서도 발생 시점 또한 불규칙하다. 따라서 오류가 항상 발생되는 시험 조건을 재현할 수 없으므로 오류의 발생 빈도를 확률적으로 표현하여야 한다.

불규칙 오류가 내재된 시스템이 해당 시험 조건에서 불규칙 오류를 발생시킬 확률을 $p_{0}$라 하면, 이 시스템은 불규칙 오류 발생 확률 $p_{0}$인 모집단으로 간주할 수 있다. 불규칙 오류를 발생 시키는 시험은 표본 공간이 오류의 발생, 미발생의 상호배타적인 2개 원소로 구성되고, 독립적인 매 시행(시험)마다 두 개의 원소 중 하나만이 시험 결과로 나타나므로 베르누이 시행이다. 베르누이 시행인 불규칙 오류 발생 시험을 n번 시행한 중의 성공 횟수, 즉 오류 발생 빈도를 확률변수 X라 놓으면, 각 시험마다 발생 확률 $p_{0}$가 일정하고 각 시험이 통계적으로 독립이므로 확률 변수 X는 이항분포를 따른다. 모수 n과 $p_{0}$를 갖는 이항분포 변수인 확률 변수 X의 확률 질량 함수 $Pr(X=r)$, 기댓값 $E\{X\}$, 분산 $Var\{X\}$은 다음과 같이 표현된다.

표본 비율 $\hat p$는 표본 크기만큼의 실험을 통하여 관찰된 오류의 발생 확률로 표본 크기 n회 시행동안 발견된 오류의 발생 횟수 X로부터 다음과 같이 표현될 수 있다.

확률 변수에 상수 배를 하여 얻어진 새로운 확률 변수의 평균과 분산의 관계인 식(4)에 의하여 표본 비율의 확률 분포는 다음과 같은 확률 질량 함수, 기댓값, 분산을 갖는 이항분포로 간주할 수 있다.

n=20, 모비율 $p_{0}$가 0.2, 0.5, 0.7인 이항분포 확률 변수의 확률 질량함수의 예는 다음 <그림 1>과 같다.

이항분포는 n이 커짐에 따라 정규분포에 근접하며, np≥5, nq≥5 일 때 정규분포로 간주한다.

위와 같이 시스템의 불규칙 오류 모델은 오류 발생 확률인 $p_{0}$만으로 구성된다. 그러므로 모비율 $p_{0}$를 알고 있다면 위와 같이 모델링할 수 있다. 그러나 우리가 얻을 수 있는 값은 실험에서 획득한 불규칙 오류의 발생 확률인 표본비율 $\hat p$ 뿐이므로, 이 표본 비율을 이용하여 모비율을 추정함으로써 오류 시스템을 모델링하여야 한다. 표본 비율로부터 추정된 모비율, 즉 모비율 추정치를 $\hat p_{0}$라 하고 위 식에 대입하여 기술하면 오류 시스템은 다음 식(7)~(8)과 같다.

모비율 추정의 개념을 이해하기 쉽도록 산술적으로 설명하기 위하여, 먼저 표본비율을 추정량으로 사용하는 점추정 방법을 살펴보기로 한다. 표본비율은 효율적이며 일관된 불편추정량이지만, 표본 비율과 모비율이 같다는 것을 보장하지는 않는다. 실제로 표본비율이 모비율과 같을 확률은 매우 적을 것이다. 이를 산술적으로 살펴보면 다음과 같다. n=20번 시행으로 표본비율 $\hat p$을 구하였더니 0.5를 얻었다고 가정하자. 이 때, 모비율을 0.5라고 놓기로 한다면 표본비율이 0.5, n=20일 때 모비율이 0.5일 확률은 다음과 같이 구할 수 있다.

이로부터, 표본 비율이 0.5라 해서 반드시 모비율이 0.5라고 보장할 수는 없다는 것을 알 수 있다. 표본 비율이 0.5 일 때 모비율이 0.5일 확률은 0.176이다. 다른 한 경우를 더 살펴보면, 위와 동일하게 시행횟수 n=20, 표본비율 $\hat p$=0.5일 때, 모비율이 0.3일 확률은 다음과 같다.

표본비율 $\hat p$이 0.2, 0.5, 0.7일 때 0.1부터 0.9까지 모비율을 가질 확률을 위의 개념으로 구하면 다음 <그림 2>와 같다.

위 설명에서, 표본비율이 주어졌을 때 모비율이 0.1~0.9일 가능성을 개념적으로 이해하기 위하여 산술적으로 구하였으나 이를 불확실성의 정도를 측정하는 어떤 기준이나 수치로 사용하기는 어렵다. 이것이 점추정의 한계점으로, 이를 보완하기 위하여 신뢰 수준과 구간 추정치를 제시하는 구간 추정법이 제시되었으므로, 불규칙 오류 시스템의 모비율 추정을 위하여 구간 추정 방법을 적용하고자 한다.

2.2 구간추정을 적용한 오류 시스템 모델링

모비율 추정에서 구하고자 하는 것은, 모비율 추정치와 그 추정치의 믿을 만한 정도를 나타내는 신뢰 수준이다. 우리에게 주어진 값은 표본의 크기 n과 표본 비율 $p_{s}$이다.

구간 추정에서는 구간추정량 $(P_{LB},\:P_{UB})$이 모수, 여기서는 모비율을 포함할 확률을 신뢰수준 $100P_{CL}$%이라 하며, 다음과 같이 표현된다.

또한, 구간추정량 $(P_{LB},\:P_{UB})$을 추출된 표본자료에 대입하여 계산한 실수 구간, 또는 구간추정치를 $100P_{CL}$% 신뢰구간이라 한다. 구간 추정에서 신뢰 수준의 의미는 표본 크기 n인 표본을 100개 추출하여 표본 비율을 100개 구하고, 100개 각각의 표본 비율의 신뢰 구간을 구하였을 때, 100개의 신뢰 구간 중 $100P_{CL}$개의 신뢰 구간이 모비율을 포함한다는 뜻이다. 그러나 정규 분포인 경우, 정규 분포 식(13)에 의하여 모비율($\mu$)과 표본비율(X)의 위치가 바뀌어도 동일한 분포를 갖게 되므로, 추출된 표본 비율 $p_{s}$로부터 구한 신뢰 수준 $100P_{CL}$%인 신뢰 구간 $(P_{LB},\:P_{UB})$에 모비율이 포함될 확률(신뢰 수준)이 $100P_{CL}$%라 가정하여도 무방하다.

$\mu$=평균, $\sigma^{2}$=분산

구간 추정이란 추정하고자 하는 모수를 실수 구간에 의해 추정하는 방법이다. 따라서 구간추정은 실수구간의 상한추정치와 하한추정치, 두 개의 값으로 구성되며 아울러 구간추정량이 모수를 포함할 확률인 신뢰수준을 함께 제시한다. 추출된 표본 비율 $p_{s}$을 대입하여 계산한 실수 구간 $(P_{LB},\:P_{UB})$을 모비율 $p_{0}$의 $100P_{CL}$% 신뢰구간이라 하며 <그림 3>에서 나타내는 바와 같다.

추출된 표본 비율 $p_{s}$로부터 구한 모비율의 상한추정치, 하한추정치는 위에서 설명한 바와 같이 신뢰수준 $100P_{CL}$%로 보장되는 모비율 추정치의 최대값, 최소값이 된다. 위의 경우는 양측 구간 추정이며, 단측 추정 시 신뢰구간은 다음의 <그림 4>와 같으며 식(14)로 표현된다.

설명한 구간 추정 방법에 의하여, 신뢰수준과 모비율 추정치로 상한 추정치 또는 하한 추정치를 구할 수 있다. 상한 추정치와 하한 추정치 중의 선택 문제는 다음 절에서 설명하기로

하며, 여기서는 두 개의 추정치 중 적합한 하나를 모비율 추정치 $\hat p_{0}$으로 선택하였다는 가정 하에 2.1절에서 설명한 불규칙 오류 시스템 모델에 적용하면 다음과 같이 표현될 수 있다.

when $\hat p_{0}=P_{LB}$, $P(\hat p_{0}\le p_{0})=P_{CL}$

when $\hat p_{0}=P_{UB}$, $P(p_{0}\le\hat p_{0})=P_{CL}$

즉, 식(7), (8)에 신뢰수준이 추가로 제시된다. 따라서 구간추정법을 적용한 불규칙 오류 시스템 모델인 식(15), (16)을 사용하기 위하여 신뢰 수준 $100P_{CL}$%인 신뢰 구간을 구하여야 한다. 그 방법에는 여러 가지가 있으며, 그 중 한 가지 방법인 Wald Interval을 다음 절에서 소개한다.

2.3 구간추정에 의한 모비율 추정치 산출

중심 극한 정리(Central Limit Theorem)에 의하여 n이 클 경우 표본 비율 $p_{s}=\dfrac{1}{n}X$의 분포는 $N(p_{0},\:\dfrac{p_{0}q_{0}}{n})$으로 근사할 수 있으나 모비율을 알 수 없으므로, 측정된 표본 비율 $p_{s}=\dfrac{1}{n}X$를 이용하여 근사된 확률 분포를 구한다. 즉, $p_{s}=\dfrac{X}{n}\sim$$N(p_{s},\:\dfrac{p_{s}q_{s}}{n})$

로 근사한다. 신뢰도 $100(1-\alpha_{CL})$%인 양측 추정 신뢰구간의 상한 $P_{UB}$ 및 하한 $P_{LB}$는 Z-추정 방법으로 구하며 다음과 같다.⁽³⁾⁽⁴⁾

(Z: 표준정규분포 확률 변수)

단측 추정의 경우 위 식에서 $z_{\alpha_{CL}/2}$를 $z_{\alpha_{CL}}$로 바꾸면 되며 좌측 단측 추정의 경우는 식(17), (18)은 다음 식(19)와 같이 다시 쓸 수 있다.

우측 단측 검정의 경우 상한추정치는 다음 식과 같다.

3.1 가설 검정에 의한 불규칙 오류 수정 결과 판단 및 최소 시험 수 산출

본 절에서는 통계적으로 모델링한 불규칙 오류 내재 시스템의 오류를 수정한 후 오류가 수정되었다는 판단을 내리기 위한 방법을 가설 검정을 통하여 제안하고자 한다.

불규칙 오류 발생 확률(모비율)이 $p_{0}$인 시스템의 불규칙 오류 모델은 식(5), 식(6)으로 표현되는 이항 분포로 표현된다. 불규칙 오류를 수정한 후, 오류가 완전히 수정되었다면 이후 수차례의 시험에도 불규칙 오류는 발생하지 않을 것이다. 그러나 불규칙 특성으로 인하여 오류가 불완전하게 수정되어 일부 남아있거나 전혀 수정되지 않은 경우에도 수회의 반복 시험에도 오류가 발생하지 않을 수 있다. 따라서 1~2회의 시험으로는 오류가 수정되었다고 확신하기 어렵다. 그러므로 불규칙 오류 수정 결과를 판단 내리기 위한 방법으로 다음과 같은 통계적 가설 검정 절차를 적용하기로 한다.

1) 귀무가설과 대립가설 설정

2) 유의 수준 설정 및 검정 통계량 선정

3) 기각역 계산

4) 검정 통계량 산출

5) 기각역과 관찰된 검정 통계량 비교

첫 번째 절차로서 다음과 같이 두 가지 가설을 설정한다.

귀무가설 $H_{0}$ = {시스템의 오류가 수정되지 않아 불규칙 오류가 내재된 원래의 시스템과 같은 특성으로 오류가 발생한다.}

대립가설 $H_{a}$ = {시스템의 오류가 수정되어 불규칙 오류가 발생하지 않는다.}

다음으로 유의 수준을 $\alpha$로 설정하고, 가설 검정 대상이 시스템의 오류 발생 확률이므로, 검정 통계량으로 오류발생 표본 비율 $\hat p$을 선정한다. 가설 검정은 항상 귀무가설이 사실이라는 전제하에 진행되므로, 검정통계량의 분포도 귀무가설이 사실이라는 가정 하에 구한다. 검정통계량의 확률 분포는 식(5)~(8)와 같으므로 이로부터 기각역과 유의수준을 구할 수 있다.

유의수준은 불규칙 오류가 수정되지 않았음에도 불구하고 오류가 발견되지 않아 수정되었다고 잘못 판단할 확률이므로 검정 통계량이 0일 확률이며, <그림 5>에서 나타낸 바와 같다.

위에서 살펴본 바에 의하면 기각역 RR은 다음과 같이 설정된다.

모비율 $p_{0}$을 알고 있다고 가정할 때, 검정통계량의 확률분포인 식(5)로부터 기각역의 면적 즉 유의 수준은 다음과 같이 표현된다.

시스템이 수정되었다는 판단을 내리기 위해서는 귀무가설이 기각되어야 한다. 귀무가설을 기각하기 위해서는 검정 통계량 $\hat p$에 의하여 계산된 유의수준이 요구된 유의수준 $\alpha$보다 작거나 같으면 기각역에 존재하게 되므로, 귀무가설을 기각하고 대립가설을 채택할 수 있다. 이를 식으로 나타내면 다음과 같다.

위 식으로부터 유의수준 100$\alpha$%로 시스템 오류가 모두 수정되었다는 판단을 내리기 위한 시험횟수 n은 다음과 같이 구할 수 있다.

모비율을 알고 있을 경우, 위 식에 의하여 최소 시험 횟수 n을 산출할 수 있다. 그러나 모비율을 알지 못하여 모비율 추정치 $\hat p_{0}$을 사용할 경우 식(26)~(28)은 다음 식과 같이 기술되며 최소 시험 횟수 n을 산출할 수 있다.

즉, 식(28)에서 구한 n회 이상의 시험 수행으로 오류가 전혀 발생하지 않는다면, 모비율 $p_{0}$ 또는 모비율 추정치 $\hat p_{0}$인 오류가 내재된 해당 시스템은 유의수준 100$\alpha$%로 오류가 수정되었다고 판단할 수 있다.

3.2 구간추정법을 적용한 모비율 추정치 산출 및 오류 수정 결과 판단

모비율 추정치를 구하기 위하여, 먼저 모비율의 값에 따라 최소 시험횟수가 어떻게 달라지는지 살펴보도록 한다.

유의수준 $\alpha$가 0.05, 0.1인 경우 모비율에 따른 최소 시험 횟수 n의 값은 다음 <그림 6>과 같다.

위 그래프에서 보는 바와 같이 유의 수준과 관계없이 모비율이 작을수록 최소시험 횟수는 증가한다. 그러므로 주어진 신뢰수준에 해당하는 하한 단측 추정치를 모비율 추정치로 사용하면, 하한 추정치보다 큰 모비율의 경우 얻어지는 최소 시험 횟수 $n_{x}$는 하한 추정치로 구한 최소 시험횟수 $n_{1}$보다 항상 작을 것이므로, $n_{1}$을 최소 시험 횟수로 사용하면 하한 추정치보다 큰 모비율의 경우에도 가설 검정 결과가 항상 참일 것이다. 따라서 주어진 신뢰수준으로 단측 추정된 하한 추정치를 가설 검정 시에 모비율 추정치로 사용하는 것이 옳다. 주어진 유의 수준 100$\alpha$%, 추출된 표본 비율 $p_{s}$로부터 구한 신뢰 수준 $100P_{CL}$%인 모비율 신뢰구간의 하한 추정치를 $P_{LB}$라 하면, 최소 시험 횟수는 다음과 같이 구할 수 있다.

이 때, 최종적으로 제시되는 유의 수준은 모비율 추정치의 신뢰 수준을 고려한 유의수준이어야 하며, 모비율이 참이고 대립가설이 참일 경우를 제외한 모든 경우가 대립가설이 거짓일 경우인 유의 수준에 포함되므로,「모비율 추정치의 신뢰수준이 고려된 최종 유의 수준」$P_{\alpha}$는 다음과 같이 제시할 수 있다.

모비율 추정치의 신뢰 수준과 가설 검정의 유의수준으로부터 최종적으로 제시되는 유의 수준을 구하였으므로, 위 식으로부터 최종 유의 수준 $P_{\alpha}$가 주어졌을 때의 최소 시험 횟수는 다음과 같이 구할 수 있다.

모비율 추정치는 앞 절에서 설명한 Wald interval을 적용하면 다음과 같이 구할 수 있다.

즉 표본비율이 $p_{s}$로부터 구한 신뢰수준 $100P_{CL}$%인 모비율 추정치 $P_{LB}$로 모델링된 오류발생 시스템의 오류를 수정한 후 식(35)로부터 산출된 n회의 시험 수행동안 오류가 발생하지 않았다면 이 시스템은 최종 유의수준 $P_{\alpha}$로 오류가 수정되었다고 판단할 수 있다.