5강 - 상관분석 (Correlation)

상관분석이란?

상관분석은 두 변수 사이의 **관계의 방향(양/음)과 강도(얼마나 밀접한가)**를 수치로 나타내는 방법이다. “X가 높으면 Y도 높은가, 낮은가, 아니면 관계가 없는가?”라는 질문에 답한다.

두 변수가 함께 어떻게 움직이는지를 하나의 수치로 요약하고 싶을 때 사용한다. 예를 들어 훈련 시간과 체력 점수의 관계, 체지방률과 스프린트 기록의 관계처럼, 관측된 자료에서 두 변수의 동반 변화를 확인할 때 쓴다.

상관계수 $r$의 기본 성질

상관계수 $r$은 다음 범위를 가진다.

$-1 \leq r \leq +1$

• $r = +1$ → 완벽한 양의 상관 (X 증가 → Y 증가)
• $r = -1$ → 완벽한 음의 상관 (X 증가 → Y 감소)
• $r = 0$ → 상관 없음 (X와 Y 사이에 선형 관계 없음)

부호는 관계의 방향을, 절댓값의 크기는 관계의 강도를 나타낸다.

상관계수 해석 기준 (Cohen, 1988)

$\|r\|$ 범위	해석	스포츠 예시
.10 ~ .30	약한 상관	키와 자유투 성공률
.30 ~ .50	중간 상관	훈련 빈도와 체력
.50 이상	강한 상관	스프린트 시간과 파워

상관 $\neq$ 인과

상관이 높다고 해서 인과관계가 있는 것은 아니다.

예를 들어 아이스크림 판매량과 익사 사고 수는 $r = 0.85$로 강한 양의 상관을 보인다. 하지만 아이스크림이 익사를 유발하는 것이 아니라, 제3의 변수인 기온이 둘 다에 영향을 준 결과다. 기온이 높으면 아이스크림도 많이 팔리고, 물놀이도 많아져 익사 사고도 늘어난다.

인과를 주장하려면 다음이 필요하다.

1. 실험 설계 (무작위 배정)
2. 시간적 선행성 (원인이 결과보다 먼저 발생)
3. 제3변수 통제

Pearson 상관계수 ($r$)

정의

Pearson 상관계수는 두 연속형 변수 사이의 선형 관계의 강도와 방향을 나타내는 계수다. 가장 널리 사용되며, “두 변수가 직선 관계를 얼마나 잘 따르는가”를 측정한다.

전제 조건

가정	의미	검정 방법	위반 시
연속형 변수	두 변수 모두 등간/비율 척도	변수 확인	Spearman 사용
정규분포	각 변수가 정규분포	Shapiro-Wilk	Spearman 사용
선형 관계	관계가 직선 형태	산점도 확인	비선형이면 $r$이 과소추정
등분산성	분산이 X 값에 따라 일정	산점도 확인	변환 또는 비모수
이상치 없음	극단값이 $r$을 왜곡	산점도/상자그림	이상치 제거 또는 Spearman

공식

$r = \frac{\sum (X_i - \bar{X})(Y_i - \bar{Y})}{\sqrt{\sum (X_i - \bar{X})^2} \times \sqrt{\sum (Y_i - \bar{Y})^2}} = \frac{SP_{XY}}{\sqrt{SS_X} \times \sqrt{SS_Y}}$

• 분자: X와 Y가 함께 변하는 정도 (공변량)
• 분모: X의 퍼짐 × Y의 퍼짐 (표준화)

수식의 직관적 해석

분자(공변량)가 하는 일

• X가 평균보다 클 때 Y도 평균보다 크면 → $(+) \times (+) = (+)$ → 양의 기여
• X가 평균보다 클 때 Y가 평균보다 작으면 → $(+) \times (-) = (-)$ → 음의 기여
• 이것을 모든 데이터에 대해 합산한다.

분모가 하는 일

분자를 $-1 \sim +1$ 범위로 표준화한다. X의 변동과 Y의 변동으로 나누어 “단위에 무관한 비율”로 만든다.

계산 예시

선수 5명의 훈련 시간(X)과 체력 점수(Y):

선수	X(시간)	Y(점수)
A	3	60
B	5	70
C	7	75
D	9	85
E	11	90

$\bar{X} = 7$, $\bar{Y} = 76$

$SP_{XY} = (3-7)(60-76) + (5-7)(70-76) + (7-7)(75-76) + (9-7)(85-76) + (11-7)(90-76)$

$= 64 + 12 + 0 + 18 + 56 = 150$

$SS_X = (-4)^2 + (-2)^2 + 0^2 + 2^2 + 4^2 = 40$

$SS_Y = (-16)^2 + (-6)^2 + (-1)^2 + 9^2 + 14^2 = 530$

$r = \frac{150}{\sqrt{40 \times 530}} = \frac{150}{\sqrt{21200}} = \frac{150}{145.6} = 0.97$

→ $r = 0.97$ (매우 강한 양의 상관)

$r^2$의 의미 — 결정계수

$r = 0.97$이면 $r^2 = 0.94$다. 이는 “Y(체력)의 변동 중 94%가 X(훈련시간)로 설명된다”는 뜻이며, 나머지 6%는 유전, 식단 등 다른 요인으로 설명된다.

• $r = 0.30$ → $r^2 = 0.09$ → 9%만 설명 → 관련은 있지만 약함
• $r = 0.50$ → $r^2 = 0.25$ → 25% 설명 → 중간 정도
• $r = 0.70$ → $r^2 = 0.49$ → 49% 설명 → 상당히 강함

유의성 검정

가설은 다음과 같다.

• $H_0: \rho = 0$ (모집단에서 상관이 없다)
• $H_1: \rho \neq 0$ (모집단에서 상관이 있다)

검정통계량은 다음과 같으며, 자유도는 $df = n - 2$다.

$t = \frac{r \sqrt{n - 2}}{\sqrt{1 - r^2}}$

예를 들어 $r = 0.97$, $n = 5$일 때,

$t = \frac{0.97 \times \sqrt{3}}{\sqrt{1 - 0.94}} = \frac{0.97 \times 1.73}{0.245} = 6.85$

$df = 3$, $p < .01$ → 유의하다.

표본이 크면 작은 $r$도 유의하게 나온다. 예를 들어 $n = 1000$이면 $r = 0.06$도 $p < .05$가 될 수 있다. 따라서 $p$값만 보지 말고 $r$값(효과크기)도 반드시 함께 봐야 한다.

Spearman 순위상관계수 ($\rho$)

정의

Spearman 순위상관계수는 두 변수를 **순위(rank)**로 변환한 뒤 Pearson $r$을 구한 것이다. 비모수적 상관계수로 정규분포를 가정하지 않으며, “두 변수의 순위가 얼마나 일치하는가”를 측정한다.

언제 쓰는가?

• 정규분포를 충족하지 못할 때 (Shapiro-Wilk $p < .05$)
• 순서형 변수가 포함될 때 (리커트 척도, 순위 등)
• 이상치가 있을 때 (순위 변환하면 이상치 영향이 줄어듦)
• 비선형이지만 단조(monotonic) 관계일 때

단조 관계란?

• 선형 관계: X가 커지면 Y가 일정한 비율로 커진다 → 직선
• 단조 관계: X가 커지면 Y도 커지지만 비율이 일정하지 않다 → 곡선이지만 방향은 같음
• 비단조: X가 커질 때 Y가 오르다가 내려간다 (U자형 등) → Spearman도 적합하지 않음

Pearson은 선형 관계만 감지하지만, Spearman은 단조 관계(선형 포함)를 감지한다.

계산 원리

1단계: X, Y를 각각 순위로 변환한다. 2단계: 순위에 대해 Pearson $r$을 계산한다.

동률(tie)이 없을 때는 다음 간편 공식을 쓸 수 있다.

$\rho = 1 - \frac{6 \sum d_i^2}{n(n^2 - 1)}$

여기서 $d_i = (\text{순위}X) - (\text{순위}Y)$다.

Pearson vs Spearman 비교

구분	Pearson $r$	Spearman $\rho$
측정 대상	선형 관계	단조 관계
전제 조건	정규분포, 등간/비율 척도	없음 (비모수)
이상치 영향	큼	작음 (순위 변환)
해석 기준	Cohen 기준 동일	동일
사용 상황	정규분포 + 선형	정규분포 위반 or 순서형

Kendall 순위상관계수 ($\tau$)

정의

Kendall 순위상관계수는 두 변수의 순위 쌍이 일치하는 비율로 상관을 측정한다. Spearman과 비슷하지만 동률(tie)이 많을 때 더 정확하다.

언제 쓰는가?

• 순서형 변수이면서 동률이 많은 경우 (예: 5점 리커트 척도)
• 표본이 작을 때 Spearman보다 안정적
• 실무적으로는 Spearman과 비슷한 결과가 나오는 경우가 많음

계산 원리

모든 관측 쌍 $(i, j)$에 대해 다음을 구분한다.

• 일치(concordant): X순위도 크고 Y순위도 큰 쌍
• 불일치(discordant): X순위는 크지만 Y순위는 작은 쌍

$\tau = \frac{(\text{일치 쌍 수}) - (\text{불일치 쌍 수})}{\text{전체 쌍 수}}$

• $\tau = +1$ → 모든 쌍이 일치 (완벽한 양의 상관)
• $\tau = -1$ → 모든 쌍이 불일치 (완벽한 음의 상관)
• $\tau = 0$ → 일치와 불일치가 같음 (상관 없음)

Spearman vs Kendall 선택

상황	추천
연속형에 가까운 순서형 (동률 적음)	Spearman $\rho$
리커트 척도처럼 범주가 적고 동률 많음	Kendall $\tau$
표본 매우 작음 ($n < 20$)	Kendall $\tau$

편상관계수 (Partial Correlation)

정의

편상관계수는 제3변수(통제변수)의 영향을 제거한 후 두 변수 사이의 순수한 상관이다. “Z를 통제했을 때 X와 Y의 관계는 어떤가?”에 답한다.

왜 필요한가?

축구 선수의 “경기 출전 수(X)“와 “시즌 골 수(Y)“의 관계를 본다고 하자. 단순 상관은 $r = 0.72$로 강한 양의 상관이다. 그런데 “출전 시간(Z)“이 둘 다에 영향을 준다. 출전 시간이 많으면 출전 수도 많고 골 수도 많다.

출전 시간(Z)을 통제하면 편상관 $r_{XY.Z} = 0.25$로 관계가 약해진다. 즉, “출전 수와 골 수의 관계 대부분은 사실 출전 시간 때문이었다”고 해석할 수 있다.

수식

$r_{XY.Z} = \frac{r_{XY} - r_{XZ} \times r_{YZ}}{\sqrt{1 - r_{XZ}^2} \times \sqrt{1 - r_{YZ}^2}}$

• $r_{XY}$ = X와 Y의 단순 상관
• $r_{XZ}$ = X와 통제변수 Z의 상관
• $r_{YZ}$ = Y와 통제변수 Z의 상관

직관: 분자는 $r_{XY}$에서 Z를 통해 간접적으로 생긴 상관($r_{XZ} \times r_{YZ}$)을 빼준다. 분모는 Z의 영향을 제거한 후 남은 X, Y의 변동으로 표준화한다. 결과적으로 Z의 영향을 수학적으로 제거한 순수한 X-Y 관계가 된다.

계산 예시

$r_{XY} = 0.72$ (출전 수 ↔ 골 수), $r_{XZ} = 0.85$ (출전 수 ↔ 출전 시간), $r_{YZ} = 0.80$ (골 수 ↔ 출전 시간)일 때,

$r_{XY.Z} = \frac{0.72 - 0.85 \times 0.80}{\sqrt{1 - 0.85^2} \times \sqrt{1 - 0.80^2}} = \frac{0.04}{0.527 \times 0.600} = \frac{0.04}{0.316} = 0.13$

→ 편상관 = 0.13 (약한 상관). 출전 시간을 통제하면 출전 수와 골 수의 관계는 매우 약해진다.

편상관에서 부호가 바뀌는 경우 (억제 변수)

단순 상관 $r_{XY} = +0.30$인데 편상관 $r_{XY.Z} = -0.15$가 되는 경우가 있다. Z를 통제하면 관계의 방향이 바뀌는 것이다. 이때 Z를 **억제 변수(suppressor)**라 하며, 이런 경우 단순 상관만 보면 잘못된 결론을 내릴 수 있다.

스포츠 예시로, X = 몸무게, Y = 스프린트 속도, Z = 근육량이라 하자. 단순 상관에서는 몸무게가 많으면 속도가 빠른 것처럼 보인다($r = +0.3$). 하지만 근육량을 통제하면, 같은 근육량에서는 몸무게가 많을수록 오히려 느리다($r = -0.2$). 근육량이 억제 변수로 작용한 것이다.

점이연상관계수 (Point-Biserial)

하나는 이분형(0/1), 하나는 연속형일 때의 상관계수다. 수학적으로는 Pearson $r$과 동일하다(이분형을 0, 1로 코딩하고 $r$을 계산). 별도 공식이 있지만 결과는 Pearson $r$과 같다.

X (이분형)	Y (연속형)	연구 질문
승/패 (1/0)	슈팅 수	슈팅이 많으면 이기는가?
선발/교체 (1/0)	평점	선발이 평점이 높은가?
홈/원정 (1/0)	득점	홈에서 더 많이 넣는가?

• $r > 0$ → 1인 집단이 Y가 더 높음
• $r < 0$ → 0인 집단이 Y가 더 높음
• 해석 기준은 Pearson $r$과 동일 (Cohen 기준)

Phi 계수 ($\phi$)

두 변수가 모두 이분형(0/1)일 때의 상관계수로, $2 \times 2$ 교차표에서 계산한다.

$2 \times 2$ 교차표를 다음과 같이 두면,

	$Y=1$	$Y=0$
$X=1$	$a$	$b$
$X=0$	$c$	$d$

$\phi = \frac{ad - bc}{\sqrt{(a+b)(c+d)(a+c)(b+d)}}$

해석 범위는 $-1 \leq \phi \leq +1$로 Pearson $r$과 동일한 기준을 따른다.

다중공선성 (Multicollinearity)

정의

다중공선성은 독립변수들 사이에 높은 상관이 존재하는 현상이다. 회귀분석에서 독립변수가 2개 이상일 때 발생할 수 있으며, 독립변수끼리 비슷한 정보를 담고 있으면 회귀 결과가 불안정해진다.

왜 문제인가?

축구 선수의 “슈팅 수($X_1$)“와 “유효슈팅 수($X_2$)“로 “골 수(Y)“를 예측한다고 하자. $X_1$과 $X_2$의 상관이 $r = 0.95$로 거의 같은 정보를 담고 있으면 다음 문제가 생긴다.

1. 회귀계수($\beta$)가 불안정 → 표본이 조금만 바뀌어도 $\beta$가 크게 변함
2. 표준오차가 커짐 → 유의하지 않은 것처럼 보임
3. 개별 변수의 기여도를 분리할 수 없음 → 슈팅의 효과와 유효슈팅의 효과를 구분할 수 없음
4. 회귀계수의 부호가 뒤바뀔 수 있음 → 비상식적 결과

비유하자면 다중공선성은 “두 사람이 같은 말을 하는데 누가 한 말인지 구분이 안 되는 상황”이다.

다중공선성 진단 — VIF (분산팽창인수)

VIF(Variance Inflation Factor)는 각 독립변수를 다른 독립변수들로 회귀한 $R^2$로 계산한다.

$VIF_j = \frac{1}{1 - R_j^2}$

여기서 $R_j^2$는 $X_j$를 나머지 독립변수들로 회귀했을 때의 결정계수다.

• $VIF = 1$ → 다른 변수들과 전혀 관련 없음 (이상적)
• $VIF = 5$ → 다른 변수들과 상당히 관련 있음 (주의)
• $VIF = 10$ → 심각한 다중공선성 (조치 필요)

VIF	해석	조치
1 ~ 5	허용 범위	문제 없음
5 ~ 10	주의	변수 관계 검토
10 이상	심각	변수 제거 or 합치기

계산 예시: 독립변수 $X_1$(슈팅), $X_2$(유효슈팅), $X_3$(패스 성공률)에 대해,

• $X_1$을 $X_2, X_3$로 회귀 → $R_1^2 = 0.90$ → $VIF_1 = \frac{1}{1 - 0.90} = 10.0$ (심각)
• $X_2$를 $X_1, X_3$로 회귀 → $R_2^2 = 0.88$ → $VIF_2 = \frac{1}{1 - 0.88} = 8.3$ (주의)
• $X_3$를 $X_1, X_2$로 회귀 → $R_3^2 = 0.15$ → $VIF_3 = \frac{1}{1 - 0.15} = 1.2$ (문제 없음)

$X_1$과 $X_2$ 사이에 다중공선성이 존재하므로, 둘 중 하나를 제거하거나 “슈팅 정확도 = 유효슈팅/슈팅”으로 합칠 수 있다.

해결 방법

방법	설명	예시
변수 제거	VIF가 높은 변수 중 하나를 제거	슈팅과 유효슈팅 중 하나 제거
변수 합성	높은 상관의 변수를 비율/합으로 합침	슈팅 정확도 = 유효슈팅/슈팅
주성분 분석(PCA)	변수를 독립적인 성분으로 변환	여러 체력 지표를 2~3개 성분으로
릿지 회귀	정규화로 계수를 안정화	고급 기법

상관행렬 (Correlation Matrix)

여러 변수 간의 상관계수를 표로 정리한 것이 상관행렬이다. 어떤 변수들이 서로 관련이 있는지 한눈에 파악할 수 있고, 다중공선성을 사전에 탐색하는 도구로도 유용하다.

	슈팅	유효슈팅	패스성공률	점유율	득점
슈팅	1.00	0.92	0.35	0.28	0.65
유효슈팅	0.92	1.00	0.30	0.25	0.72
패스성공률	0.35	0.30	1.00	0.78	0.40
점유율	0.28	0.25	0.78	1.00	0.32
득점	0.65	0.72	0.40	0.32	1.00

• 슈팅-유효슈팅: $r = 0.92$ → 다중공선성 위험
• 패스성공률-점유율: $r = 0.78$ → 주의 필요
• 유효슈팅-득점: $r = 0.72$ → 강한 관련

히트맵으로 시각화

상관행렬은 수치만으로는 파악이 어렵다. 히트맵은 상관이 높은 쌍은 진한 색, 낮은 쌍은 연한 색으로 표시해 한눈에 관계를 보여준다. matplotlib의 plt.imshow()나 seaborn의 sns.heatmap()으로 그릴 수 있다.

산점도 (Scatter Plot)

상관계수를 계산하기 전, 산점도로 두 변수의 관계를 눈으로 확인하는 것이 중요하다. 산점도는 각 관측치를 (X, Y) 좌표로 찍어 관계의 형태를 보여준다.

• 양의 상관 ($r > 0$): 점들이 오른쪽 위로 향하는 흐름을 이룸 (예: 훈련시간 ↑ → 체력 ↑)
• 음의 상관 ($r < 0$): 점들이 오른쪽 아래로 향하는 흐름을 이룸 (예: 체지방 ↑ → 스프린트 시간 ↓)
• 상관 없음 ($r \approx 0$): 점들이 특정 방향 없이 흩어져 있음

산점도로 확인해야 할 것은 방향뿐 아니라 선형성(직선인지 곡선인지), 등분산성(퍼짐이 일정한지), 이상치(동떨어진 점)다. 예를 들어 관계가 U자형이면 $r$이 0에 가깝게 나오지만 실제로는 강한 관계가 있을 수 있으므로, 수치만 믿지 말고 산점도를 반드시 함께 봐야 한다.

상관계수 종류 총정리

상관계수	기호	X 변수	Y 변수	특징
Pearson	$r$	연속 (정규)	연속 (정규)	선형 관계, 가장 기본
Spearman	$\rho$	연속/순서	연속/순서	비모수, 순위 기반, 단조 관계
Kendall	$\tau$	순서	순서	동률 많을 때 Spearman 대안
편상관	$r_{XY.Z}$	연속	연속	제3변수(Z) 통제 후 순수 관계
점이연상관	$r_{pb}$	이분 (0/1)	연속	Pearson $r$과 수학적 동일
Phi	$\phi$	이분	이분	$2 \times 2$ 교차표 기반

실습 자료

• 상관분석 실습 — 학생용 (xlsx)