SPSS 일원배치 분산분석(ANOVA)과 사후검정 실전 튜토리얼 2026: Scheffé 선택부터 a·b 위첨자 표까지

집단이 셋 이상일 때 “그럼 t-검정을 세 번 돌리면 되지 않나”라고 생각하는 순간부터 논문이 위험해집니다. 세 번 비교하면 한 번쯤 우연히 유의해질 확률이 5%를 훌쩍 넘어가기 때문입니다. 그 문제를 한 번의 검정으로 해결하는 것이 일원배치 분산분석(one-way ANOVA)이고, “그래서 어느 집단끼리 다른가”에 답하는 것이 사후검정(post hoc)입니다.

이 글은 그 두 절차를 논문 4장에 앉히는 데까지 끌고 갑니다. 클릭 순서, 출력표 네 개를 읽는 법, Scheffé와 Tukey 중 무엇을 고를지, 한국 논문에서 자주 보는 a·b 위첨자 표를 만드는 법, 그리고 그대로 고쳐 쓸 수 있는 결과 서술 문장까지 다룹니다. SPSS 자체가 낯설다면 SPSS 사용법 6단계 기본 가이드부터, 아직 어떤 검정을 쓸지 못 정했다면 논문 통계 분석 방법과 기법 선택 기준부터 보고 오십시오.

분산분석은 무엇을 검정하고, 무엇을 검정하지 않는가

분산분석의 영가설은 “모든 집단의 모평균이 같다”입니다. 그러니 F가 유의하다는 결론은 “적어도 한 쌍은 다르다”는 뜻일 뿐, 어느 쌍이 다른지는 말해 주지 않습니다. 그 다음 질문에 답하는 절차가 사후검정입니다. F가 유의하지 않으면 사후검정은 하지 않습니다. 유의하지 않은 F 뒤에 사후검정 표를 붙이는 것은 심사에서 자주 지적되는 순서 오류입니다.

이름의 ‘분산’은 비교 대상이 분산이라는 뜻이 아니라, 평균 차이를 분산의 비율로 판정한다는 뜻입니다. 집단 간 흩어짐(집단 간 분산)이 집단 내부의 흩어짐(집단 내 분산)에 비해 충분히 크면 평균이 다르다고 판정합니다. 그 비율이 곧 F 값입니다. 이 구조를 이해하면 F가 왜 항상 양수인지, 왜 자유도가 두 개인지가 자연히 풀립니다.

‘일원배치’는 독립변수가 하나라는 뜻입니다. 독립변수가 둘이면 이원배치 분산분석, 같은 사람을 여러 번 측정했다면 반복측정 분산분석, 사전점수 같은 공변량을 통제해야 하면 공분산분석(ANCOVA)으로 갑니다. 집단이 둘뿐이라면 굳이 분산분석을 쓸 필요가 없고 독립표본 t-검정이면 충분합니다. 참고로 집단이 두 개일 때 F = t²가 정확히 성립하므로 결론은 완전히 같습니다.

이 글에서 계속 쓸 예시

대학생 115명의 진로준비행동(5점 척도)을 학년에 따라 비교하는 연구입니다. 1학년 38명, 2학년 41명, 3학년 36명이고, 가설은 “학년에 따라 진로준비행동에 차이가 있을 것이다”입니다.

1단계 — 자료 요건과 데이터 배치

목표는 분산분석이 성립하는 자료인지 판정하고, SPSS가 읽을 수 있게 배치하는 것입니다.

1. 종속변수는 연속형, 독립변수는 3범주 이상의 명목형이어야 합니다. 학년을 1·2·3으로 코딩해 한 열에 세로로 쌓습니다. 학년별로 열을 나누어 입력하면 메뉴에서 요인을 지정할 수 없습니다.
2. 집단별 사례 수는 가능한 한 비슷하게 맞추는 편이 좋습니다. 균형설계일수록 등분산 위배에 덜 민감합니다. 한 집단이 지나치게 작으면(대략 10명 미만) 검정력이 급격히 떨어져 실제 차이가 있어도 잡히지 않습니다.
3. 이상치를 먼저 확인합니다. 집단 하나에 극단값이 하나만 섞여도 그 집단의 평균과 분산이 함께 흔들려 F가 통째로 바뀝니다. 판단 기준은 분석을 돌리기 전에 정해 두어야 합니다.

흔한 실수는 연속변수를 임의로 잘라 세 집단으로 만드는 것입니다. 연령을 “20대·30대·40대”로 자르는 것은 관례상 허용되지만, 척도 점수를 상·중·하로 삼등분해 분산분석을 돌리는 것은 정보를 버리는 방식이라 회귀분석을 쓰라는 지적을 받기 쉽습니다.

2단계 — 클릭 순서

1. 분석(Analyze) → 평균 및 비율 비교(Compare Means) → 일원배치 분산분석(One-Way ANOVA)을 클릭합니다.
2. 진로준비행동을 종속변수(Dependent List)로, 학년을 요인(Factor)으로 옮깁니다. t-검정과 달리 집단 정의를 따로 하지 않습니다 — 요인 변수에 들어 있는 모든 값이 자동으로 집단이 됩니다.
3. 사후분석(Post Hoc) 버튼을 눌러 등분산을 가정함 영역에서 Scheffé(또는 Tukey)를, 등분산을 가정하지 않음 영역에서 Games-Howell을 함께 체크해 둡니다. 나중에 등분산이 깨져도 다시 돌릴 필요가 없습니다.
4. 옵션(Options)에서 기술통계(Descriptive), 분산 동질성 검정(Homogeneity of variance test), Brown-Forsythe, Welch, 평균 도표(Means plot)를 체크합니다.
5. 확인(OK)을 누릅니다.

효과크기(에타제곱)가 필요하면 같은 분석을 분석 → 일반선형모형 → 일변량에서 다시 돌리고 옵션에서 효과크기 추정값을 체크하는 경로가 있습니다. 일원배치 메뉴에는 효과크기 옵션이 없기 때문입니다.

메뉴 흐름과 출력 화면을 눈으로 확인하고 싶다면 한국어 시연 영상이 도움이 됩니다.

3단계 — 출력표 읽는 순서

표 1 — 분산의 동질성 검정

Levene 통계량과 유의확률이 나옵니다. 유의확률이 .05 이상이면 등분산 가정이 유지되고, ANOVA 표와 Scheffé·Tukey 결과를 읽습니다. .05 미만이면 ANOVA 표 대신 Welch 또는 Brown-Forsythe 결과를, 사후검정은 Games-Howell을 읽습니다. 이 판단을 먼저 해야 아래 표들 중 무엇을 읽을지가 정해집니다.

표 2 — ANOVA 표

<집단 간(Between Groups)>과 <집단 내(Within Groups)> 두 줄에 제곱합, 자유도, 평균제곱이 있고, 오른쪽 끝에 F와 유의확률이 있습니다.

• 집단 간 자유도는 집단 수 − 1입니다. 예시에서는 3 − 1 = 2.
• 집단 내 자유도는 전체 사례 수 − 집단 수입니다. 115 − 3 = 112.
• F는 집단 간 평균제곱을 집단 내 평균제곱으로 나눈 값입니다. 보고 형식은 F(2, 112) = 10.37처럼 자유도 두 개를 함께 적습니다.

예시에서는 F(2, 112) = 10.37, p < .001로 유의했습니다. 이제야 사후검정을 볼 자격이 생깁니다.

표 3 — 다중비교(사후검정) 표

집단을 두 개씩 짝지은 모든 조합이 나오고, 각 행에 평균차, 표준오차, 유의확률, 95% 신뢰구간이 있습니다. 같은 쌍이 방향만 바꿔 두 번 나오므로 절반만 읽으면 됩니다. 평균차 옆의 별표는 유의한 쌍을 뜻합니다.

표 4 — 동질적 부분집합

Scheffé나 Tukey를 선택하면 함께 나오는 표입니다. 서로 유의한 차이가 없는 집단끼리 같은 열에 묶입니다. 한국 논문에서 흔히 보는 a·b 위첨자 표기가 바로 이 표에서 나옵니다. 같은 열에 묶인 집단에는 같은 글자를, 다른 열이면 다른 글자를 붙입니다.

4단계 — 사후검정 방법을 무엇으로 고를 것인가

SPSS의 사후검정 목록은 열여덟 가지가 넘지만, 논문에서 실제로 쓰이는 것은 넷입니다. 선택 기준은 보수성(1종 오류를 얼마나 엄격히 막는가)과 등분산 여부입니다.

• Scheffé — 가장 보수적입니다. 유의하다고 나오면 반박당하기 어렵지만, 실제 차이를 놓치기도 쉽습니다. 국내 사회과학·교육학 논문에서 가장 널리 쓰이는 선택입니다.
• Tukey HSD — 모든 쌍을 비교할 때 검정력과 오류 통제의 균형이 좋다고 평가됩니다. 집단별 사례 수가 같을 때 특히 적절합니다.
• Bonferroni — 비교할 쌍이 미리 정해져 있고 그 수가 적을 때 유용합니다. 쌍이 많아지면 지나치게 보수적이 됩니다.
• Games-Howell — 등분산이 깨졌을 때의 표준 선택입니다. 사례 수가 불균형할 때도 안정적입니다.

흔히 쓰이지만 주의할 것이 Duncan과 LSD입니다. 둘 다 유의한 쌍을 많이 찾아내지만 1종 오류 통제가 약해, 최근 심사에서는 선택 이유를 묻는 경우가 늘었습니다. 어느 것을 쓰든 방법 이름을 결과 절에 명시하고, 분석 전에 정해 두어야 합니다. 결과를 보고 나서 유의하게 나오는 방법으로 갈아타는 것은 명백한 사후 조정입니다.

5단계 — 가정 점검과 위배 시 대안

가정 1. 독립성

각 사례가 하나의 집단에만 속하고 서로 영향을 주지 않아야 합니다. 설계로 판정합니다. 같은 사람을 여러 시점에 측정했다면 반복측정 분산분석이 맞습니다.

가정 2. 정규성

확인: <분석 → 기술통계량 → 데이터 탐색>에서 집단별로 Shapiro-Wilk 검정과 왜도·첨도를 봅니다. 위배 시: 각 집단이 대략 30 이상이면 분산분석은 비교적 강건한 편입니다. 표본이 작고 분포가 심하게 치우쳤다면 비모수 대안인 Kruskal-Wallis 검정으로 갈아탑니다. 이 경우 사후검정은 SPSS의 비모수 검정 메뉴에서 제공하는 쌍별 비교를 쓰고, 보고하는 값은 평균이 아니라 중앙값과 평균 순위가 됩니다.

가정 3. 등분산성

확인: Levene 검정. 위배 시: 다시 돌릴 필요 없이 이미 출력된 Welch 또는 Brown-Forsythe 표를 읽고, 사후검정은 Games-Howell 결과를 읽으면 됩니다. Welch 검정은 자유도가 소수점으로 나오므로 F(2, 71.83) = 9.24처럼 그대로 적습니다.

6단계 — 효과크기: 에타제곱을 함께 보고한다

F가 유의하다는 사실만으로는 “학년이 진로준비행동을 얼마나 설명하는가”에 답할 수 없습니다. 표준적인 효과크기는 에타제곱(η²)이며, η² = 집단 간 제곱합 / 전체 제곱합으로 손으로도 쉽게 구할 수 있습니다.

해석은 Cohen의 관례를 따릅니다. .01 작음, .06 중간, .14 큼입니다. 일반선형모형 메뉴에서 나오는 것은 부분 에타제곱(partial η²)인데, 독립변수가 하나뿐인 일원배치에서는 두 값이 일치합니다. 독립변수가 여럿인 모형에서는 달라지므로 어느 쪽을 보고했는지 밝혀야 합니다. 표본이 작을 때 에타제곱은 효과를 과대추정하는 경향이 있어 오메가제곱(ω²)을 함께 제시하기도 합니다.

예시. 집단 간 제곱합 7.87, 전체 제곱합 50.33이므로 η² = .16으로 큰 효과에 해당합니다.

7단계 — APA 결과표 두 가지

논문에 넣는 방식은 두 가지입니다. 하나는 ANOVA 표를 그대로 보여 주는 방식, 다른 하나는 집단별 기술통계와 F, 사후검정 결과를 한 표에 압축하는 방식입니다. 한국 학위논문에서는 후자가 훨씬 많이 쓰입니다.

주. 자유도는 (2, 112). 사후검정은 Scheffé 방법. 같은 글자는 유의한 차이가 없는 집단을 뜻한다(a < b).

다중비교의 세부 값을 함께 보이고 싶다면 아래 표를 부록이나 본문에 덧붙입니다.

흔한 실수는 다중비교 표를 SPSS 출력 그대로 붙여 같은 쌍을 두 번 싣는 것입니다. 절반만 남기십시오. 또 하나, 위첨자 a·b를 쓰면서 표 아래에 그 의미를 설명하지 않는 경우입니다. 읽는 사람은 그 글자가 무엇을 뜻하는지 알 방법이 없습니다.

8단계 — 결과 서술 문장 템플릿

다섯 문장 구조입니다. ① 무엇을 왜 검정했는지 → ② 등분산 점검 결과 → ③ F 검정 결과 → ④ 사후검정으로 드러난 구체적 차이 → ⑤ 효과크기와 가설 판정.

① 학년에 따른 진로준비행동의 차이를 검증하기 위해 일원배치 분산분석을 실시하였다.

② 분석에 앞서 Levene의 분산 동질성 검정을 실시한 결과 등분산 가정이 충족되어(F = 0.68, p = .509) 등분산을 가정한 결과를 보고하였다.

③ 분석 결과 학년에 따른 진로준비행동의 차이는 통계적으로 유의하였다(F(2, 112) = 10.37, p < .001).

④ Scheffé 사후검정 결과, 3학년(M = 3.86, SD = 0.65)의 진로준비행동이 1학년(M = 3.21, SD = 0.62) 및 2학년(M = 3.48, SD = 0.58)보다 유의하게 높았으며, 1학년과 2학년 간에는 유의한 차이가 나타나지 않았다.

⑤ 효과크기는 η² = .16으로 큰 수준이었다. 따라서 가설 1은 부분적으로 지지되었다.

등분산이 깨진 경우 ②와 ③은 이렇게 바뀝니다. “Levene의 분산 동질성 검정 결과 등분산 가정이 충족되지 않아(F = 4.12, p = .019) Welch의 강건한 검정 결과를 보고하였다”, “Welch 검정 결과 집단 간 차이는 유의하였다(F(2, 71.83) = 9.24, p < .001)”, 그리고 사후검정은 “Games-Howell 사후검정 결과”로 적습니다. 결과 절 전체의 시제와 서술 규칙은 논문 연구 결과(Results) 작성법을 참고하십시오.

심사에서 자주 지적되는 실수 여섯 가지

1. F가 유의하지 않은데 사후검정을 보고하는 것. 순서가 뒤집혔다는 신호로 읽힙니다.
2. 사후검정 방법을 밝히지 않는 것. Scheffé인지 Duncan인지에 따라 결론이 달라지므로 반드시 명시합니다.
3. Levene 결과를 생략하는 것. 어느 표를 읽었는지 판단할 근거가 사라집니다.
4. 효과크기 누락. 표본이 크면 작은 차이도 유의해집니다. η²가 그 균형을 잡아 줍니다.
5. 세 집단을 t-검정 세 번으로 처리하는 것. 1종 오류가 누적됩니다. 유의수준 .05로 세 번 비교하면 적어도 한 번 잘못 기각할 확률이 14%에 가까워집니다.
6. ‘학년이 높을수록 증가한다’처럼 추세로 단정하는 것. 분산분석은 순서를 검정하지 않습니다. 추세를 주장하려면 대비(contrast) 분석이나 회귀분석이 필요하며, 그 절차는 SPSS 다중회귀분석 실전 튜토리얼에서 다룹니다.

자주 묻는 질문

F는 유의한데 사후검정에서는 유의한 쌍이 하나도 없습니다.

드물지만 실제로 생깁니다. 사후검정은 F보다 보수적이기 때문에, 특히 Scheffé를 쓰면 F가 간신히 유의한 경우 어느 쌍도 잡히지 않을 수 있습니다. 이때는 결과를 숨기지 말고 그대로 보고하고, 덜 보수적인 Tukey 결과를 함께 제시하거나 표본 크기의 한계로 논의하는 것이 정직한 처리입니다.

집단별 인원수가 크게 다른데 괜찮나요?

분석은 됩니다. 다만 불균형 설계는 등분산 위배에 민감해지므로 Levene 결과를 더 신중히 보고, 위배되면 Welch와 Games-Howell 조합을 쓰는 편이 안전합니다.

사후검정으로 Duncan을 써도 되나요?

쓰는 논문이 많지만 1종 오류 통제가 느슨해 최근에는 선택 이유를 요구받는 경우가 있습니다. 특별한 이유가 없다면 Scheffé나 Tukey를 권합니다.

등분산이 깨졌는데 그냥 ANOVA 표를 읽으면 안 되나요?

권하지 않습니다. 이미 Welch와 Brown-Forsythe가 함께 출력되어 있으므로 그것을 읽고 한 문장 적으면 끝나는 일입니다.

독립변수가 두 개면 어떻게 하나요?

이원배치 분산분석으로 갑니다. 메뉴는 <분석 → 일반선형모형 → 일변량>이고, 두 요인의 주효과와 함께 상호작용 효과를 확인하게 됩니다. 상호작용이 유의하면 주효과 해석보다 단순주효과 분석이 우선입니다.

정리

자료를 한 열로 배치하고(1단계), 일원배치 분산분석 메뉴에서 사후검정 두 가지와 Welch·Brown-Forsythe를 미리 켜 두고(2단계), Levene → ANOVA → 다중비교 → 동질적 부분집합 순으로 읽고(3단계), 사후검정 방법을 근거와 함께 정하고(4단계), 가정을 점검해 한 문장으로 남기고(5단계), η²를 계산하고(6단계), 압축 표로 조판한 뒤(7단계) 다섯 문장 구조로 서술하면(8단계) 끝납니다. 가설 문장과 검정의 대응이 흔들린다면 연구 가설 설정과 검정 연결하기로 한 번 돌아가 확인하십시오.