가설검정 1종·2종 오류와 p값 해석, 검정력 계산 예시까지 정리 (빅데이터분석기사)

가설검정은 통계 파트에서 계산과 해석이 모두 나오는 단골 주제이다. 특히 1종 오류와 2종 오류, 유의수준, p값, 검정력을 서로 헷갈리게 묶어 놓고 맞는 문장을 고르게 하는 유형이 많다. 정의를 정확히 구분하고 간단한 z검정 계산까지 해 보면 오답이 크게 줄어든다.

가설검정은 귀무가설이 참이라고 가정하고 데이터가 얼마나 이상한지를 본다

귀무가설(H0)은 “차이가 없다, 효과가 없다”는 기본 주장이고 대립가설(H1)은 입증하려는 주장이다. 검정은 H0가 참이라고 가정할 때 지금 관측한 결과 이상으로 극단적인 값이 나올 확률, 곧 p값을 계산한다. p값이 유의수준 α(보통 0.05)보다 작으면 H0를 기각한다. p값은 “H0가 참일 확률”이 아니라 H0 아래에서 이런 결과가 나올 확률이라는 점이 자주 틀리는 포인트이다.

1종 오류는 참인 H0를 기각하고 2종 오류는 거짓인 H0를 놓친다

실제 \ 결정	H0 기각	H0 채택(기각 못함)
H0가 참	1종 오류(확률 α)	올바른 결정(1 – α)
H0가 거짓	올바른 결정(검정력 1 – β)	2종 오류(확률 β)

α를 줄이면 기각 기준이 엄격해져 β는 늘어나는 상충 관계가 있다. 표본 크기를 키우면 표준오차가 줄어 α를 유지한 채 β를 낮출 수 있다.

예시: 표본평균 105가 나오면 z는 2.0, 양측 p값은 약 0.0455이다

모평균 100, 모표준편차 15로 알려져 있고 n=36이라고 하자. 표준오차는 15/√36 = 2.5이다. 표본평균이 105면 z = (105 – 100) / 2.5 = 2.0이고, 양측 검정 p값은 약 0.0455이므로 α = 0.05에서 H0를 기각한다. 같은 기준을 평균의 경계로 바꾸면 기각역은 100 ± 1.96×2.5, 즉 95.10 미만과 104.90 초과이다.

실제 평균이 105라도 이 검정이 놓칠 확률은 약 0.484이다

진짜 평균이 105일 때 표본평균이 기각역 안에 들어가지 못해 H0를 못 기각할 확률이 2종 오류 β이다. 표본평균의 분포를 평균 105, 표준오차 2.5로 두고 95.10~104.90 구간의 확률을 구하면 β ≈ 0.484이고 검정력은 1 – β ≈ 0.516이다. 즉 평균이 5나 달라도 이 표본 크기로는 두 번에 한 번꼴로 놓친다. 표본을 늘리는 것이 검정력을 올리는 가장 직접적인 방법이다. 이 값들은 파이썬(scipy)으로 검산했다.

p값 해석에서 흔한 오해를 정리해 두자. p값이 작다고 효과가 크다는 뜻은 아니다. 표본이 아주 크면 사소한 차이도 유의해진다. 반대로 p값이 0.05보다 크다고 해서 차이가 없다고 증명된 것도 아니다. 표본이 작아 검정력이 낮았을 뿐일 수 있다. 그래서 결론에는 p값과 함께 효과 크기, 신뢰구간을 적는 습관이 중요하다.

자료 형태에 따라 검정 방법을 고른다

상황	대표 검정	유의할 점
모분산을 알고 표본이 큰 평균 비교	z검정	모표준편차를 아는 경우가 드물다
모분산을 모르는 평균 비교	t검정(일표본·독립·대응)	정규성 가정, 두 집단은 등분산 여부 확인
세 집단 이상의 평균 비교	분산분석(ANOVA)	사후 검정으로 어느 집단이 다른지 확인
범주형 변수의 독립성·적합도	카이제곱 검정	기대 빈도가 너무 작으면 부적합

답안에는 가설 설정, 오류 구분, 결론 문장을 정확히 쓴다

서술형은 H0·H1 설정 → 검정통계량 → p값과 α 비교 → 결론 순서로 쓰고, 결론은 “H0를 기각한다” 또는 “기각할 근거가 부족하다”로 표현한다. “H0가 참이다”라고 단정하면 감점되기 쉽다. 실무에서는 p값만 보지 말고 효과 크기와 신뢰구간을 함께 보고, 여러 검정을 반복하면 우연히 유의한 결과가 나오는 다중 비교 문제를 의식해야 한다.

시험 직전 한 줄 요약

1종 오류는 참인 H0를 기각(확률 α), 2종 오류는 거짓인 H0를 못 기각(확률 β), 검정력은 1 – β이며 p값은 H0 아래에서 관측 이상으로 극단적일 확률이다.

이 글은 학습용 정리이며 실제 시험 문항과 다를 수 있다. 출제 기준은 큐넷·KISA·한국데이터산업진흥원 등 공식 공지를 확인하라. 그림은 설명용 예시 데이터로 그린 개념도이며 실측 데이터가 아니다.